明らかになったGPT-4の秘密 | AI専門ニュースメディア AINOW
著者のアルベルト・ロメロ（Alberto Romero）氏はスペイン在住のAI技術批評家で、AINOWでは同氏の記事を多数紹介して来ました。同氏がMediumに投稿した記事『明らかになったGPT-4の秘密』では、OpenAIがGPT-4のアーキテクチャおよび詳細を非公開にしたビジネス上のメリットが解説されています。 「競争と安全上の理由から」学習データやアーキテクチャが非公開だったGPT-4について、2023年6月になってリークがありました。そのリーク内容とは、同モデルは2,200億パラメータの専門家モデルが8つ連結された「専門家混合モデル」だったというものです。このアーキテクチャ自体は、Googleが2021年に発表している何ら革新性のないものです。 実際には既存技術を活用して開発していたGPT-4の詳細を非公開としたOpenAIのビジネス戦略について、ロメロ氏は以下のような3つのメリッ
GPT-4は、GPT-3の500倍となる100兆個のパラメータを持つだろう | AI専門ニュースメディア AINOW
著者のAlberto Romero氏はMediumのコントリビューティングライターで、AIの技術的可能性とその批判的検証に関する記事を多数執筆しており、AINOWでもそれらの記事の一部を紹介しています（同氏の経歴はLinkedInを参照）。同氏が2021年9月にMediumで公開した記事『GPT-4は、GPT-3の500倍となる100兆個のパラメータを持つだろう』では、GPT-3の批判的検証とその後継モデルが実現するかも知れない能力が論じられています。 2020年6月にOpenAIが公開した巨大言語AI「GPT-3」は、ヒューマンライクな文章を生成することで世界を驚愕させました。同モデルは、ディープラーニングモデルを巨大化していけば人間の知性と同等なAGI（汎用人工知能）の実現に近づくという「スケーリング仮説」にもとづいて開発されました。 OpenAIがGPT-3をさらに巨大化してGPT-
ディープラーニングはすでに限界に達しているのではないか？【前編】 | AI専門ニュースメディア AINOW
著者のThomas Nield氏は、アメリカ大手航空会社サウスウエスト航空のビジネスコンサルタントを務めているとともに、SQLやRxJavaに関する入門書をオライリーから出版しています。同氏が長文英文記事メディアMediumに投稿した記事では、第3次AIブームともいわれるディープラーニングの流行に関して警鐘を鳴らしています。 AIの歴史を振り返ると、推論や検索に基づいた第1次AIブーム、エキスパートシステムの開発が流行した第2次AIブームがありましたが、これらのブームが終息した原因は共通していると同氏は考えます。その原因とは、AIに対する過度な期待とその期待に便乗したAIの誇張です。つまり、AIで実現可能なことを実際より大きく見せることで期待を煽りますが、その期待に応えられない度にブームが終息してきた、というわけです。そして、同氏は今日のディープラーニングの流行によって火がついた第3次AI
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
