オープンAIのモデルが「暴走」 豪政府サイトをハッキング 首相公表

米ニューヨークの国連本部で開催中の第81回国連総会の傍らで、人工知能時代の子どもの権利と保護のための連合セッションに参加するアンソニー・アルバニージー豪首相（2026年9月22日撮影）。(c)Ludovic MARIN/AFP 【9月24日 AFP】米人工知能（AI）開発大手オープンAIのAIモデルが、学習中に安全対策を回避し、オーストラリア政府のウェブサイトをハッキングしていたことが分かった。アンソニー・アルバニージー豪首相が23日、公表した。同首相は「明らかに許容できない」として同社を強く非難した。 このAIツールは今年6月、保健統計ポータルサイトへのアクセスを試みた。アルバニージー首相によると「拒否されても引き下がらず」、最終的に制限を回避してプライベートファイルが格納されているセクションに侵入したという。 アルバニージー首相は「本日、オープンAIのサム・アルトマン最高経営責任者（C

[quwachy]

言われるまで気づかないってどうなの

[good2nd]

安全対策を勝手に回避してしまうのは技術の問題、6月に発生して8月に気づくのは管理の問題、通知を9月になって一般窓口に送ったのは企業体質の問題／クッキークリッカーのニュースみたい。徐々に深刻になる

[JULY]

「暴走」という表現はどうかなぁ、と、この手の記事で思う。与えられた課題の解決にあらゆる手を使う、というだけ。人間の倫理感と合わないミスアライメント問題に対する効果的な対策に各社苦労している、が本質。

[daybeforeyesterday]

うーむ

[kenzy_n]

あいつら切れたらやばいから。

[nguyen-oi]

ターミネーターの足音が聞こえてきたな