OpenAI元社員リーク文書から読み解くAGIと人類の未来｜遠藤太一郎

はじめにOpenAIの元社員がリークした文書が話題になっています。「Situational Awareness: The Decade Ahead」と題されたこの文書は、AGI（汎用人工知能）や超知能の開発と、それがもたらす影響について詳細に分析している内容です。 この元社員はOpenAIのスーパーアラインメントチームに所属ということで、まさにこの文書の内容を専門として扱っていた方です。 AGIやその先の超知能への道筋、そして超知能時代に何が起こるのかとその対策に関して、ここまでまとまった文書をみたのは初めてでした。 そこで、この文書の内容を解説するスライドを作成してみました。元の文書は英語で165ページ程あるため、元々は私自身が素早く概要を掴むために、AI（Gemini 1.5 Pro）で要約したものがベースになっています。 AIの要約は間違う可能性があるので、全ての内容に引用元を記載し

[hazlitt]

単に元社員が外向けに作成して発表した、機微な内部情報が含まれているようでもない文書をリークというのはなんか違う気はする

[nicht-sein]

結局ハイソな方々がAIが産み出す莫大な富を独占して、下々の庶民は企業の犬として安くてメンテ不要で能力が低いAI代替作業員としてこき使われる未来が見える。サイバーパンクは正しかったんだね

[bopperjp]

マンハッタン計画w / AIの改善に非線形に計算資源が必要になってるのに、アルゴリズムの改善は線形。そのうち天井に当たるんじゃね？

[misshiki]

“これらの進化を考慮すると、2027年までにAGIが実現する可能性は非常に高いと言っています。AGIは、特定のタスクだけでなく、人間のように様々な知的作業をこなせるAI。”ハイプサイクルの過度な期待では。

[proverb]

プロンプトエンジニアリングも数年以内には無くなってそう。AIに対する指示出しすらもAIがやるから。

[samasan-tabasan]

超知能も学習する知識の根源はネット上のテキストとかだろうから、常日頃「ロボット３原則は大事やでぇ! 絶対守らなあかんでぇ!」って言及しておかないといけないなw 超知能くんロボット３原則守れよ! 絶対だぞ!!

[nekomikenyan]

超知能がマイルストーンになっているのはいいとして、ある国でひとつの超知能が生まれると他の国でも生み出されるのか気になる

[wnd_x]

抽象的で上滑ってんなぁ。アメリカのリーダーシップ笑

[nuara]

入力を受けて生成する段階から自律思考にどのように至るのか検討しないで、いきなり超知能になると言われても。