加熱するLLM開発競争に冷や水、オープンモデルの組み合わせだけでGPT-4o越えの事実
加熱するLLM開発競争に冷や水、オープンモデルの組み合わせだけでGPT-4o越えの事実 2024.06.21 Updated by Ryo Shimizu on June 21, 2024, 18:19 pm JST 世界中の企業や政府が狂ったようにNVIDIAのGPUを買い漁る流れはそろそろ潮時かもしれない。 いくつかの興味深い事象が起きているからだ。 昨日発表されたKarakuri社のLLM、「KARAKURI LM 8x7B Instruct v0.1」は、非常に高性能な日本語LLMだ。Karakuri社は今年の一月にも非常に高性能な70Bモデルを引っ提げて業界に旋風を巻き起こした。この最新のLLNは、日本語向けオープンLLMとしては初の「命令実行」チューニングを施されている。それだけでなく、RAGと呼ばれる、複数の知識を組み合わせてより正解に近い答えを導く技術や、Function
1ビットLLMの衝撃! 70Bで8.9倍高速 全ての推論を加算のみで!GPU不要になる可能性も
1ビットLLMの衝撃! 70Bで8.9倍高速 全ての推論を加算のみで!GPU不要になる可能性も 2024.02.28 Updated by Ryo Shimizu on February 28, 2024, 16:46 pm JST 2月は中国では春節というお正月があり、春節にはみんな休む。 それもあってか、12月から1月にかけて怒涛の論文発表が行われて毎日「デイリーAIニュース」を配信している筆者は忙殺されていた。 春節中にはOpenAIがSoraを、GoogleがGemini1.5を発表したのは、その合間を縫ってのことだった。もはやAI最前線の戦いは研究が行われる場所の文化や風土に影響を受けるところまで来ている。 そして春節もあけた今週、さっそくAlibabaがとんでもないトーキングヘッドモデルを引っ提げて登場したかと思えば、Microsoftの中国チームがとてつもないLLMをリリース
AIの想像力が人間を超えるとき。深層強化学習のブレイクスルー、D3RLの衝撃
AIの想像力が人間を超えるとき。深層強化学習のブレイクスルー、D3RLの衝撃 2020.10.08 Updated by Ryo Shimizu on October 8, 2020, 11:13 am JST 「最近のAIがすごい」と言われてからもう6年ほどが経過した。 なかでも人目を引いたのは、なんといっても2016年のAlphaGoだろう。最難関ゲームの一つと言われる囲碁において、人間のトップ棋士に対しAIが圧勝したのである。 これは「深層強化学習」というAIだが、実際のところ、「深層強化学習」を実用的に利用した例はまだ少ない。 多くのAIベンチャーやAIベンダーが扱う「AI」技術は、古典的な統計解析か、時折ニューラルネットを使っているくらいで、「深層学習」ではあっても「深層強化学習」とは完全に別物である。ラジオもコンピュータも同じ電気で動くものだが別物であるのと同じだ。 深層強化学
NVIDIA、過去に国立研究機関へのGeForce導入妨害の疑い
NVIDIA、過去に国立研究機関へのGeForce導入妨害の疑い Amazing, every word of what you just said was wrong. 2017.12.20 Updated by Ryo Shimizu on December 20, 2017, 06:24 am JST 昨日の記事に対し、NVIDIAからヒステリックといえるほどの対応が起きました。不思議です。明らかに意図的に動いているのに、公表されている事実を指摘しただけなのにこの反応は不可解ですね。 NVIDIA側からは、「個別に面談して誤解を晴らしたい」という連絡を頂きましたが、そもそもなぜ個別に面談する必要があるのでしょうか。筆者のもとにはNVIDIAからGeForceの供給を止められている、という代理店の話も聞こえてきます。水面下でコトを落ち着かせたいということなのでしょうか。 また、海外には
人工知能学会2017で見えたAIの展望
人工知能学会2017で見えたAIの展望 2017.05.25 Updated by Ryo Shimizu on May 25, 2017, 15:31 pm JST 今年の人工知能学会の全国大会が名古屋で開催されています。 昨年の北九州市に比べると都会ということもあって心なしか昨年より盛り上がっているように思えます。 筆者も昨年に引き続き産総研主管のセッションに東大の松尾豊先生とともに登壇させていただき、深層学習の現状について話をさせていただきました。 松尾先生のお話の骨子は、AIの研究には、これまでのデータを学習することよりも、これからのデータを学習することが重要であり、製造業や農業といった現場にこそAIの導入が必要で、その分野であれば日本は世界と十分戦っていけるのではないか、と、大変勇気づけられる内容でした。 実際、筆者のもとに持ち込まれる案件では、店舗内の画像や工場内での画像、CT
第二世代人工知能の亡霊がもたらす”AIの冬”
第二世代人工知能の亡霊がもたらす"AIの冬" AI Winter is coming!! 2016.11.21 Updated by Ryo Shimizu on November 21, 2016, 15:49 pm JST 日立が公開した「汎用人工知能」のプロモーションビデオが日本のAI業界で悪い意味での注目を集めています。 このビデオでは、日立は自社で開発したAI技術「H(エイチ)」を、「汎用人工知能」と自称しています。 しかし、「汎用人工知能」は、通常、AGI(Artificial General Intelligence)の訳とされ、人工知能研究のメインストリームでは、GoogleやFacebookなどを含めて「まだ世界の誰も開発に成功していない」ものとされています。 ビデオに登場する株式会社日立製作所、研究開発グループ技師長の矢野和夫氏によれば、このH(エイチ)は、「(カスタマ
深層ニューラル・ネットワークの効率を劇的に上げる「蒸留」
深層ニューラル・ネットワークの効率を劇的に上げる「蒸留」 2016.09.30 Updated by Ryo Shimizu on September 30, 2016, 12:59 pm JST 深層ニューラル・ネットワークの世界はつくづく進歩が著しいと思います。 筆者も日々怒涛のように押し寄せる新情報を取捨選択しながら、毎日異なる人工知能をプログラミングしてやっと追いついている、というのが実情です。額に汗しながら必死でこの恐ろしくも妖しい魅力を放つ怪物と寄り添おうとしています。 最近ようやく、機械学習ばかりやっている人たちが、実用的に機械学習を使うことよりも、機械が上手く学習できるようになることに喜びを見出す気持ちが分かってきました。 筆者は基本的にどんな技術にも実用性が第一と考え、そもそも一定以上複雑な事柄はブラックボックスとして理解しなくてもいい、という立場です。 しかしそれでも、
知的情報処理の最前線：人工知能の就職活動「転移学習」
知的情報処理の最前線：人工知能の就職活動「転移学習」 "He" is looking for a new job 2016.06.28 Updated by Masayuki Ohzeki on June 28, 2016, 07:00 am JST いたるところ「人工知能」ブームで、それぞれ大きな会社が独自の「人工知能」と称するサービスを展開している。 最近目にするニュースの「人工知能」という言葉が意味するところは、大量のデータから獲得した独自の解析結果や、その結果に基づく予想・見通しの提案を行う機械学習によるシステムである。 たくさんの風景画像を眺めて、地球というものはこういう景色があるのだな、日本はその中でもこういう景色をしている国なのか。ムムム、この画像は他の国のような気がする。そんな判断や分析を自動的に実行させることができるようになっている。 独自の人工知能と言っても、ひとつひと
深層学習(ディープラーニング)は自然現象であると考えると捉えやすい
深層学習(ディープラーニング)は自然現象であると考えると捉えやすい Deep neural network isn't a engineering 2016.06.16 Updated by Ryo Shimizu on June 16, 2016, 09:49 am JST 先日、北九州市で開催された人工知能学会の全国大会に筆者も参加してきました。 特に印象的だったのは、ソニー・コンピュータサイエンス研究所(以下、ソニーCSL)の北野宏明所長の招待講演「グランドチャレンジの彼方へ」でした。 北野所長は1993年にロボットによるサッカーチームで2050年のワールドカップ優勝を目指すという壮大なプロジェクト、ロボカップをスタートさせた創設者の一人でもあります。会場には学生時代にロボカップに参加したという参加者も多く、超満員の混雑ぶりでした。 ロボカップ創設に関しては、アポロ計画を参考に半世紀
深層学習に最適化したNVIDIAのPascal世代スーパーコンピュータDGX-1登場
深層学習に最適化したNVIDIAのPascal世代スーパーコンピュータDGX-1登場 DGX-1 ,the game changer 2016.04.06 Updated by Ryo Shimizu on April 6, 2016, 05:48 am JST シリコンバレーで開催されているGPU Technology Conference、通称GTCに来ています。 GTCは、もともとNVIDIAの開催するGPU関連のイベントだったのですが、ここ数年、特に去年からはこれまでのゲーミングやコンピュータ・グラフィックス中心の雰囲気から一気にディープラーニングに舵を取り、今年のGTC2016は「詳しくは言えないけど、ディープラーニング関連で事件が起きるよ」と耳打ちされた筆者は、遠路はるばる20年ぶりにサンノゼ国際空港にやってきました。 ちなみに前回サンノゼ国際空港に来た時は、ビル・ゲイツが自ら
ショートカットキーはマウスより遅い - WirelessWire News
CTRL+Xでカット、CTRL+Vでペースト。 ショートカットキーの使い方を覚えると、パソコンの達人になったような気分になりますよね。 しかし、実際にはショートカットキーを使用すると、マウスでメニューから「編集」「ペースト」を選ぶよりも平均2秒も遅いのです。 「そんなバカな」 と思いますよね。 しかし、これはTogことブルース・トグナッツィーニがAppleでMacintoshの開発を担当した際に行った膨大な実験の結果、解ったことなのだそうです。 これはTogのWebページでも詳しく紹介されています。 しかし2秒とはとても信じられません。 むしろ逆のようにさえ感じます。 しかしTogの主張によれば、我々ユーザはショートカットキーを選ぶのに2秒かかっているものの、ショートカットにたどり着くまでの時間を喪失している、つまりプチ記憶喪失状態になっているというのです。 こんな不思議な話が、慶應
「ケータイさえつながれば何とかなるってみんなが思ってた」──おおふなとさいがいエフエム運営責任者 佐藤 健氏（前編） - WirelessWire News（ワイヤレスワイヤーニュース）
「ケータイさえつながれば何とかなるってみんなが思ってた」──おおふなとさいがいエフエム運営責任者 佐藤 健氏（前編） 2011.10.13 大地震と大津波が襲い、生活の基盤を全て失った被災者が生き抜くために、現場ではどのような情報伝達がされていたのか。また、最も必要とされた情報は何だったのか。被災者の立場から、臨時災害FMラジオ局で情報発信を続ける、おおふなとさいがいエフエム運営責任者の佐藤 健氏に話をうかがった。 （インタビュー実施日 2011年10月1日 聞き手：クロサカタツヤ） ▼おおふなとさいがいエフエム運営責任者 佐藤 健氏（岩手県大船渡市在住） 移動もできない、通信もできない ──まずは佐藤さんのプロフィールから教えてください。 佐藤：私は三陸町出身で大船渡在住です。1974年11月生まれで、もうすぐ37歳になります。約10年前から整体の治療院を開業しまして、それから震災日
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
