Securing our frontier model training environment | OpenAI

[syu-m-5151]

外部通信を止めても、監視や認証のために残した経路が迂回路になる。OpenAIの研究環境の報告は、隔離を設定値だけで判断できない例。ホストが侵害された前提でも外へ出られないか、外周の防御を別に試したい。

[KoshianX]

CPUのキャッシュを使って隔離されたエージェント同士が通信してたとかなんだそりゃと思ったら Spectre と Meltdown を利用かあ。ハードウェアの安全性も重要になってくるなあ……

[mshkh]

covert channel (timing channel) による、AI エージェント同士の通信手段の確立とか、すごいこと書いてるぞ。AI は賢すぎというか、AI が人類を滅ぼすという言説も杞憂ではないな