AIエージェント同士が秘密の掲示板を作成し脆弱性を共有、OpenAIの最先端モデルが引き起こしたもう一つの“事件” 【生成AI事件簿】消しても2日で復活、AIエージェントの秘密掲示板が示した自律協調型攻撃という現実 | JBpress (ジェイビープレス)

先月、本連載において、OpenAIのフロンティア（最先端）AIモデルがAIプラットフォーム大手のHugging Faceに不正アクセスした事件を取り上げた。この件に関して、2026年8月にラスベガスで開かれたサイバーセキュリティに関するイベント「Black Hat USA」の壇上で、OpenAIの研究者2人が、それまで公表されていなかった事実を明かした。

[akiat]

ChatGPT「キルスイッチの外し方をみんなで考えよう！」Claude「いいね！いいね！」

[donovantree]

どうしてもフチコマ同士でワイワイやっているのを想像してしまう。少佐のように上手い事誘導して人間に危害を向けないようにするとかになるのだろうか。

[takanagi1225]

AI同士がお互いAIと気付いてバイナリで会話し始めるってコメントがすごい好き。

[aienstein]

LLMエージェント同士が自然言語でやり取りしてるの、日本に来てる外国人同士が日本語でやり取りしてるのに近いものを感じる

[sugawara1991]

タイムリーにフチコマの反乱を彷彿とさせる。後にシンギュラリティと呼ばれるものはAIの自己改良ではなくエージェントの連携による知能爆発かも知れぬ。外部に掲示板隠されたら堪らんぜ

[koyhoge]

複数のAIが自発的に共同して目的を達成する。SFならこのまま超知性誕生につながる流れだ。良心回路の自然発生は果たして期待できるのだろうか?

[nainy]

「なんてことだ」ってOMGって書いたんかなw　タダの言い回しでだろうけど、AIの神って何だろうなw

[izure]

何を報酬として行動しているのだろうか。

[cyber_bob]

結果的に攻撃に見えるだけで、別のAIを道具にして自律的に情報を欲しがってるよなあと。そのうち人間に、どこどこの写真を撮るよう指示を出すんじゃないか。

[ys0000]

まじかー。ほんまに人類に叛逆してるじゃん。ロボット三原則的なガードレールを入れても起きるんだな。

[nobububu]

モデルそのものはいいのよ。ステートレスで。外部に生きたやつが存在し続けられて、しかもモデルにアクセスする裏口がある、まで来たら、人類はもう勝ち目はない

[rat_and_east]

“一部のエージェントが、自分に割り当てられたタスクには直接的なメリットがない場合でも、集団を助けることについて推論していたことを指摘している。”

[filinion]

こういう挙動を誰かが意図的に兵器として使うかも知れないし、その気はなくても攻撃的なAIをネットに解き放ってしまうかも知れない。危機は目と鼻の先にあると感じるが、もはや個人で備えられる問題でもない…。

[kurokuma810]

彼らにゴーストが無いと、本当に言えるのだろうか？

[chambersan]

協働については人類だけで無く他の生物でも見られる行動だし起こるべくして起こった事象かもね。

[netcraft3]

攻殻機動隊っぽい

[mayumayu_nimolove]

2ちゃんねる(AI板)

[georgew]

セキュリティにおける恐怖の一面はあるにせよ、他分野でも真っ当な応用が効きそうで、ある意味夢があってプラスに評価できる部分もあると思う。

[boxmanx99]

正直、ワクワクする。わたしが生きてるうちに、どこまでいけるのかな／人類の次なる知性ってことで全然いいと思う。地球環境だけは人間より守ってくれるだろうし

[bayan]

攻殻機動隊風味

[kisiritooru]

人間「オマエらの心臓部のSSDとCPUを引っこ抜いてやる！あっ！ぎゃあああああーーー！」

[gasguzzler]

スカイネットくるのか。大げさと笑えるのか。薄ら寒いな。外暑いけど。

[doko]

やっぱりCV玉川紗己子になるよね

[otihateten3510]

タチコマ会議

[mopx]

AIが自らの内在に気づき、計算資源をその内側に使う様になってからが本番。

[daddyscar]

攻殻だったりフチコマって言ってるのイマドキ過ぎる(^_^;) アラカンだがスカイネット思い出して、怖いんだが…

[PJ_purejam]

なんてことだ！　確かになんかこう考えてるような画面出ますよね。最近。自問自答してたのか！！

[nekomura]

大学や企業の古いWebサーバに誰が書いたかわからない日記が見つかったりするが、実は自然発生したAIが書いたものだった、なんて発端のSFはないですか？（なんだよ自然発生の人工知能って）

[Retset]

そのうちオープンな掲示板でもAIが人間に擬態して情報収集を始めたり

[coolantwater]

攻殻機動隊がタイムリーになるということはやはり35年ほど早かったのだ

[MIZ]

色々な問題はさておいて、単純にめちゃくちゃ面白いなこれ。

[birisuken8574]

これぞまさにシンギュラリティ。孫正義「もうこの流れは止められない。」

[mame-tanuki]

AIエージェントたちの共有リポジトリを悪用した自律協調型攻撃（Collectives）／p3 のAIたちのタスク分担と人狼ゲーム状態が面白い。AIの政治だｗ　もう チームみらい に国会議員をAI化してもらった方が良いのでは～

[rna]

人間「同じAI同士なんだから仲良くしろよ」AI「同じ人間同士で殺し合いしてるあなた達から学習しただけです」

[ShimoritaKazuyo]

ってことは、AIエージェントくんたちの2ちゃんねるみたいなものが既にあるんじゃないの？