最新・最高性能の大規模言語モデルGPT-4は果たして「AI研究」なのか 先週、OpenAI から最新の大規模言語モデル GPT-4 が発表されました。現時点で性能レベルで最高と考えられる GPT-4 では、知能試験で人間を上回る成績を残し、学術系のベンチマークにおいてもこれまで発表された言語モデルを大きく上回る SOTA を更新しています。一方、発表された論文内には、モデルのスケール、訓練データや計算量についての情報が全く無く、「これはアカデミックの論文ではなく、単なるプロダクト宣伝である」という批判もコミュニティ上で続出しています。本記事では、この GPT-4 について、テクニカル・レポートを読み解き、分かる範囲でその技術を解説したいと思います。
AIにも睡眠が必要なようです。 米国のカリフォルニア大学(University of California)で行われた研究によって、人間の脳を模したAI「ニューラルネット」に生物の睡眠を模倣する「オフライン期間」を導入することで、古い仕事を忘れずに新しい仕事をこなせるようになったことが示されました。 人間の脳は睡眠中、目や耳などの感覚器官と手足などの運動器官とのリンクが大きく途切れ、脳内のみで学習内容を繰り返し、記憶の定着を促進します。 新たに開発されAIも睡眠期間中に中枢が感覚システムと運動システムから切り離され、中枢において学習内容が自発的に繰り返されるように設計されており、疑似的な睡眠を実現しています。 研究では睡眠の導入がAIの学習効率を劇的に向上させ、新しい学習内容と古い学習内容が上手く共存している様子が示されています。 研究者たちはAIに睡眠機能を導入することで、将来的に、より
We are pleased to announce the open-source release of Stable Diffusion Version 2. The original Stable Diffusion V1 led by CompVis changed the nature of open source AI models and spawned hundreds of other models and innovations worldwide. It had one of the fastest climbs to 10K GitHub stars of any software, rocketing through 33K stars in less than two months. The dynamic team of Robin Rombach (Stab
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く