加熱するLLM開発競争に冷や水、オープンモデルの組み合わせだけでGPT-4o越えの事実
加熱するLLM開発競争に冷や水、オープンモデルの組み合わせだけでGPT-4o越えの事実 2024.06.21 Updated by Ryo Shimizu on June 21, 2024, 18:19 pm JST 世界中の企業や政府が狂ったようにNVIDIAのGPUを買い漁る流れはそろそろ潮時かもしれない。 いくつかの興味深い事象が起きているからだ。 昨日発表されたKarakuri社のLLM、「KARAKURI LM 8x7B Instruct v0.1」は、非常に高性能な日本語LLMだ。Karakuri社は今年の一月にも非常に高性能な70Bモデルを引っ提げて業界に旋風を巻き起こした。この最新のLLNは、日本語向けオープンLLMとしては初の「命令実行」チューニングを施されている。それだけでなく、RAGと呼ばれる、複数の知識を組み合わせてより正解に近い答えを導く技術や、Function
「テクノ楽観主義者宣言」にみる先鋭化するテック大富豪のイキり、そしてテック業界の潮目の変化
「テクノ楽観主義者宣言」にみる先鋭化するテック大富豪のイキり、そしてテック業界の潮目の変化 2023.11.07 Updated by yomoyomo on November 7, 2023, 12:00 pm JST 前々回「先鋭化する大富豪の白人男性たち、警告する女性たち」、前回「テクノ楽観主義者からラッダイトまで」を書いた者として、今回はマーク・アンドリーセンの「テクノ楽観主義者宣言（The Techno-Optimist Manifesto）」（解説付き日本語訳）を取り上げるのが必然と思われます。まさに大富豪の白人男性の先鋭化とテクノ楽観主義者の現在を見るうえで必読と言える内容になっています。 しかし、この渾身のマニフェストに対する風当たりは強い、という印象があります。それについては後で取り上げますが、いろいろな意味で潮目の変化を感じずにはいられません。 著者のマーク・アンドリー
ChatGPT開発に必要なGPUは3万基、日本の国策AI基盤は1千基。目前に迫る日本のAI敗戦
ChatGPT開発に必要なGPUは3万基、日本の国策AI基盤は1千基。目前に迫る日本のAI敗戦 2023.08.19 Updated by Ryo Shimizu on August 19, 2023, 16:47 pm JST そろそろ業界の最深部でしか知られてなかった事実がニュースになって来始めているのでここで本当の問題を明らかにしておきたい。 AI開発に必須なのは、計算資源である。そしてこれは現在のところ、事実上NVIDIAが一社独占している。 NVIDIA以外の半導体がいくら「AIに特化しています」と能書きを垂れていてもごくわずかな例外を除いてはほとんど全部が誇大広告である。 たとえばApple Silliconは、「ニューラルエンジン」と称するモジュールを内蔵しているが、これを使ってAIの学習をすると、なんとCPUよりも遅い。信じられないかもしれないが、これが残酷な事実なのである
意外と良くなってきてしまった動画生成と音楽生成。第二回AIアートグランプリはどうなる!?
意外と良くなってきてしまった動画生成と音楽生成。第二回AIアートグランプリはどうなる!? 2023.08.13 Updated by Ryo Shimizu on August 13, 2023, 11:41 am JST ほんの一ヶ月前まで、動画生成は全然だめだった。 Gen2は高価だが狙ったものを出しにくい。何より動いてくれない。 ところがAnimateDiffという技術が公開された。これはとても激しく、それっぽく動く。 コツは必要だが、以前よりずっと綺麗に動いているのは間違いない。 筆者の運営するサイトMemeplexやreplicateで使うことができる 音楽生成も、「やはりAIに音楽みたいな人間の機微を読み取るようなものは無理か」と考えていた。 「専門家」である僕でさえ、つい一ヶ月ほど前はそうだったのだ。 新しいオーディオ生成モデルである「JEN-1」と「AudioLDM2」はそ
ウェブをますます暗い森にし、人間の能力を増強する新しい仲間としての生成AI
ウェブをますます暗い森にし、人間の能力を増強する新しい仲間としての生成AI 2023.06.19 Updated by yomoyomo on June 19, 2023, 16:16 pm JST 少し前に佐々木俊尚氏の「オープンなウェブ世界とジェネレーティブAIの終わりなき戦いが始まる」という記事を読みました。自分の電子書籍に『もうすぐ絶滅するという開かれたウェブについて』というタイトルをつけたワタシ的にも、オープンなウェブが生成AIに脅かされるという話は興味があるのですが、今年はじめに読んだ、Oughtでプロダクトデザイナーを務めるマギー・アップルトンの「拡大する暗い森と生成AI」を思い出しました。 昨今この分野は動きが速く、半年前の文章でも随分昔に思えたりするものですが、都合良いことに、4月にトロントで開催されたCausal Islandsカンファレンスでマギー・アップルトンが「拡
知性の錯覚 ChatGPTの先にある「すべての人々が賢くなった世界」でおきること
知性の錯覚 ChatGPTの先にある「すべての人々が賢くなった世界」でおきること 2023.01.05 Updated by Ryo Shimizu on January 5, 2023, 16:02 pm JST 会話するように知識を引き出せるChatGPTと、言葉を支持するだけでプロ並みの絵を描くStableDiffusionは、これまでAIに直接触れることができなかった人たちも直接AIに触れることができ、その威力を実感できるというターニングポイントとなった。 筆者が長年追いかけてきた「コンシューマAI」の実現に端緒がつけられたわけである。 とはいえ、まだまだという部分もある。 先日、某大学院に通う知人が「ChatGPTで授業のレポートとか論文とか書けちゃいますね」とポロリとこぼした。 実際、筑波大学の落合陽一特任教授は、既に「ChatGPTが書いた文章か否か」を問うアンケートを配布し
自己増殖する機械とAI
自己増殖する機械とAI 2022.05.14 Updated by Ryo Shimizu on May 14, 2022, 07:00 am JST コンピュータの初期の動作原理をまとめたとされる人物の一人、フォン・ノイマンは数々の伝説を持っていて、スタンリー・キューブリックの映画「博士の異常な愛情 または私は如何にして心配するのを止めて水爆を愛するようになったか」に登場する主人公「ドクター・ストレンジラブ」のモデルにもなっている。 フォン・ノイマンの晩年の研究テーマの一つが人工生命についてのものだった。 その当時、計算というかなり複雑な知的処理を行えるようになった機械はやがて自ら意志を持ち、生き物と同じように自らの複製を作ることができるだろうか。 機械が自己を複製することができるということを数学的に証明しようとしてノイマンが用いたのが、格子状に配置された細胞(セル)が、一つ一つは単純な
AIがコードを補完する。SublimeでもVisualStudio Codeでも
AIがコードを補完する。SublimeでもVisualStudio Codeでも 2021.06.12 Updated by Ryo Shimizu on June 12, 2021, 09:20 am JST AIがコード補完してくれる便利なサービスでtabnineというものがある。 これは内部でGPT-2モデルを使い、100万人の開発者による典型的なコードを学習させたAIが、コード補完をするというツールである。 プログラミング言語も、JavaScriptやJava、Python、Go、Rustなど幅広い言語に対応しており、使用できるエディタもプログラマーに人気のSublimeTextやVisualStudio Code、Emacs、Atom、Vimなど一通り網羅している。 無料でも使えるので早速試してみた。 この手のAIモノはまずは試さないことには何もわからない。 単純なFizzBaz
ZOOMもUberもNetflixも、たった3万円で全てのシステム/アプリを作れるノーコードの衝撃
ZOOMもUberもNetflixも、たった3万円で全てのシステム/アプリを作れるノーコードの衝撃 2021.06.09 Updated by Ryo Shimizu on June 9, 2021, 14:40 pm JST プログラマーというのは長じるとプログラムを書かなくなるものである。 特に最近はWebサイトくらいの簡単なものでも、決まり事が多くて書くのが億劫になってしまった。 大学生が適当に書いたHTMLをネットにバラ撒き散らしていた時代と異なり、今はSSL対応が必須になり、そのための証明書の管理もしなければならないし、スマートフォンでもPCでもタブレットでも綺麗にコンテンツが見えなければならない。 そうなると、もはやそれが専業の人以外は、お手上げだ。というか、できるだけ触りたくない、というのが本音である。 ところで筆者が創設に関わった「全国小中学生プログラミング大会」も今年で第
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
