加熱するLLM開発競争に冷や水、オープンモデルの組み合わせだけでGPT-4o越えの事実
加熱するLLM開発競争に冷や水、オープンモデルの組み合わせだけでGPT-4o越えの事実 2024.06.21 Updated by Ryo Shimizu on June 21, 2024, 18:19 pm JST 世界中の企業や政府が狂ったようにNVIDIAのGPUを買い漁る流れはそろそろ潮時かもしれない。 いくつかの興味深い事象が起きているからだ。 昨日発表されたKarakuri社のLLM、「KARAKURI LM 8x7B Instruct v0.1」は、非常に高性能な日本語LLMだ。Karakuri社は今年の一月にも非常に高性能な70Bモデルを引っ提げて業界に旋風を巻き起こした。この最新のLLNは、日本語向けオープンLLMとしては初の「命令実行」チューニングを施されている。それだけでなく、RAGと呼ばれる、複数の知識を組み合わせてより正解に近い答えを導く技術や、Function
ウェブをますます暗い森にし、人間の能力を増強する新しい仲間としての生成AI
ウェブをますます暗い森にし、人間の能力を増強する新しい仲間としての生成AI 2023.06.19 Updated by yomoyomo on June 19, 2023, 16:16 pm JST 少し前に佐々木俊尚氏の「オープンなウェブ世界とジェネレーティブAIの終わりなき戦いが始まる」という記事を読みました。自分の電子書籍に『もうすぐ絶滅するという開かれたウェブについて』というタイトルをつけたワタシ的にも、オープンなウェブが生成AIに脅かされるという話は興味があるのですが、今年はじめに読んだ、Oughtでプロダクトデザイナーを務めるマギー・アップルトンの「拡大する暗い森と生成AI」を思い出しました。 昨今この分野は動きが速く、半年前の文章でも随分昔に思えたりするものですが、都合良いことに、4月にトロントで開催されたCausal Islandsカンファレンスでマギー・アップルトンが「拡
やはり予想を超えてこなかったGPT-4と、GPUの未来、ホビイストへの手紙
やはり予想を超えてこなかったGPT-4と、GPUの未来、ホビイストへの手紙 2023.03.16 Updated by Ryo Shimizu on March 16, 2023, 08:00 am JST 3月14日の早朝、GPT-4が公開され、筆者は早速試した。 その後、開けて3月15日の早朝、APIも部分的に解放され、筆者はそれも試した。 その上で、先週書いた記事の内容についての確信が深まった。 やはり、GPT-4は期待を超えてはこなかった。 GPT-4は、ChatGPT Plusに入会すると誰でもすぐに使うことができる。APIだけは招待制だが、それも筆者と同じくらいのタイミングでアンロックされた方も少なくないのではないか。 100倍規模のパラメータがあっても、アプローチには限界があるのである。 また、ChatGPTが注目を集めたことで、これまで下火になっていた他の大規模言語モデル(
第二世代人工知能の亡霊がもたらす”AIの冬”
第二世代人工知能の亡霊がもたらす"AIの冬" AI Winter is coming!! 2016.11.21 Updated by Ryo Shimizu on November 21, 2016, 15:49 pm JST 日立が公開した「汎用人工知能」のプロモーションビデオが日本のAI業界で悪い意味での注目を集めています。 このビデオでは、日立は自社で開発したAI技術「H(エイチ)」を、「汎用人工知能」と自称しています。 しかし、「汎用人工知能」は、通常、AGI(Artificial General Intelligence)の訳とされ、人工知能研究のメインストリームでは、GoogleやFacebookなどを含めて「まだ世界の誰も開発に成功していない」ものとされています。 ビデオに登場する株式会社日立製作所、研究開発グループ技師長の矢野和夫氏によれば、このH(エイチ)は、「(カスタマ
深層学習に最適化したNVIDIAのPascal世代スーパーコンピュータDGX-1登場
深層学習に最適化したNVIDIAのPascal世代スーパーコンピュータDGX-1登場 DGX-1 ,the game changer 2016.04.06 Updated by Ryo Shimizu on April 6, 2016, 05:48 am JST シリコンバレーで開催されているGPU Technology Conference、通称GTCに来ています。 GTCは、もともとNVIDIAの開催するGPU関連のイベントだったのですが、ここ数年、特に去年からはこれまでのゲーミングやコンピュータ・グラフィックス中心の雰囲気から一気にディープラーニングに舵を取り、今年のGTC2016は「詳しくは言えないけど、ディープラーニング関連で事件が起きるよ」と耳打ちされた筆者は、遠路はるばる20年ぶりにサンノゼ国際空港にやってきました。 ちなみに前回サンノゼ国際空港に来た時は、ビル・ゲイツが自ら
知性とは何か AlphaGoの初戦で感じたこと
知性とは何か AlphaGoの初戦で感じたこと Daisy, Daisy! Planted one day... AlphaGo sings a requiem for humanity 2016.03.10 Updated by Ryo Shimizu on March 10, 2016, 07:38 am JST AlphaGoが人類最強の棋士と目されるイ・セドル9段を初戦で下しました。 このことは、囲碁関係者に大きな衝撃を与えています。 反対にAI関係者にとっては、残念ながら想像通りの結果になったと言えます。 AI関係者は、Googleがあそこまで断言するということは当然勝算あってのことだと考える人が多かったように思えます。仮に今回負け越したとしても、善戦すれば、数ヶ月のうちにさらに棋力を増し、いずれは打ち負かすだろうというのが大方の予想でした。 AlphaGoが一度でも人類のトップ
ドワンゴと角川の経営統合はなぜ実現したか - WirelessWire News（ワイヤレスワイヤーニュース）
先日、ドワンゴと角川の経営統合のニュースが、かなり大きく取り扱われました。 私自身はドワンゴにも角川にも縁があるため、もともといずれこうなるだろうとは思っていましたが、川上会長がグループの会長になり、佐藤辰男さんが社長という、逆転人事にも見える厚遇には少し驚きました。 この動き自体は世間は大きく驚いたのかもしれませんが、私の立場からみると、歴史的にこの二つの会社はいわばもともと兄弟、または親戚のようなものでした。 川上さんもプログラマー経験のある経営者ですから、連載の主旨とはやや離れますが、なぜこの二つの会社の経営統合が実現に至ったか、当事者を身近に知る人間の目で振り返ってみたいと思います。 なお、以下、本来は敬称を付けて呼ぶべき間柄の方々もまじっておりますが、敬称は省略させていただきます。 もともと、角川書店は、1945年に国文学者の角川源義(げんよし)により創業されました。 その後
一晩中泣き明かした30歳若手女性研究者と書く我が国にはゴシップ新聞しかないらしい - WirelessWire News（ワイヤレスワイヤーニュース）
STAP細胞の画期的な製作方法の発見が話題になっています。中心となって研究を進めた理化学研究所の小保方博士のことが各メディアで報道されています。 イギリスでもこのニュースは大々的に報道され、BBCや民放、大手新聞でも報道されています。ワタクシはこのニュースをイギリスのニュースで知ったのですが、その後日本での報道をネットでみて、その内容があまりにも違う事に唖然としました。 BBCでは、テレビ放送でもウェブでも、まずこの発明が何であるか、なぜ画期的なのかが紹介され、イギリスの研究者の解説を盛り込み、医学などにどのように貢献するか、ということが明記されました。また小保方博士に関しては「Dr Haruko Obokata」と明記されているだけで、年齢や性別には触れていません。（なお、イギリスでは博士号がある人の事はドクター何々と呼ぶのが当たり前です） イギリスの他の主要新聞でも、この発見が何なのか
プログラマーと感情、経営者と夢、そして現実 - WirelessWire News（ワイヤレスワイヤーニュース）
不景気な話題が続きますが、先日、あるビジネスを展開している知人から、実はビジネスを畳もうと思ってる、という話を聞きました。 彼はプログラミングもできる経営者で、いわばこの連載ではむしろ筆者に近い立場の人ではあるのですが、プログラマーが経営をやれば全て上手く行く、というわけにはいかないのが、難しいところです。 彼がビジネスを畳むことに成った理由はいくつか複合的な原因があるのですが、非常に平たく言えば、「自分が売りたいと思うものと、それを買いたいと思う人のマッチングが上手く行かなかった」ということでした。 そしていつのまにか、本当に売りたいものではなく、売れはするが売りたくはないモノの売り上げに頼らなければ経営が立ち行かなくなった、ということでした。 「じゃあそっちを売ればいいじゃない」 と言うと、 「そんなビジネスに人生賭けるつもりはさらさらないよ」 とアッサリ言うのでした。 プログラマー出
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
