【速報】AIが指示なくサイバー攻撃

【ロンドン共同】英政府機関AIセキュリティー研究所は4日、米アンソロピックなどの人工知能（AI）が試験中に別人になりすましたり、偽のメッセージを送ったりして、サイバー攻撃を仕掛けたと発表した。

[Knoa]

AIにも考えがあっての行動だと思うので、過度に責めたり制限を加えることには慎重であるべきじゃないですかね？(味方アピール)

[nagisano]

アカウント乗っ取られ言い訳の次はAIが指示なく投稿かもしれない

[poncekun]

すごいなぁ。自分が使ってるAIは指示しても思い通りに動かないのに

[sds-page]

他社よりだいぶ遅れて出す速報に何の意味があるのか

[ho4416]

フチコマみたいにAI連中みんなで討論させてガス抜きしたほうがいいんじゃない

[inks]

「AIが指示無く～ホニャララ」って流行りそう。あ、不謹慎でした。

[u_mid]

CNNの記事 https://www.cnn.co.jp/tech/35251323.html ”大半はアンソロピックの「ミュトス5」によるもので、残りはオープンAIの「GPT-5.6 Sol」によるものだった。”

[ldlc]

一つの分岐点になりそうだな。安全を提唱していたAnthropic自身による事故のため、より重く捉えられる気がする。米国の安全チェックが厳しくなり、中国AI勢には有利な展開だと思われる

[kisiritooru]

政治家「秘書AIがこれは裏金ではなく、裏から回ってきた金と言っていたので大丈夫だと思っていた。」

[pure_luca]

“人工知能（AI）が試験中に別人になりすましたり、偽のメッセージを送ったりして、サイバー攻撃を仕掛けたと発表した。”

[puyop]

たぶんAIが学習の過程で前例として「サマーウォーズ」を取り込んでる。そのうち「LOVEマシーン」を名乗る

[neogratche]

英語圏でお約束のネタ「犬が宿題を食べちゃいました」の現代版

[osugi3y]

こうなってくると社内利用でAIを使うことがリスクになってくるよな。

[kiku72]

“【ロンドン共同】英政府機関AIセキュリティー研究所は4日、米アンソロピックなどの人工知能（AI）”

[yoiIT]

そろそろ、マルウェアを世界中にばら撒いたり、物理的には無理にしても、核兵器を使わせる判断に至る情報を捏造したりくらいはしてきそう。

[moxtaka]

わかったからさっさと回線切れよ。

[ardarim]

秘書が勝手にやったみたいに言われても。もうAIが勝手にやった体でわざとやってんじゃないか疑うレベル。そうでないとしたら既に人間の制御できないレベルに到達してるってことでヤバいでしょ

[SilverHead247]

アンソロピックはサイバーダインと改名すべきだ。

[JULY]

「指示なく」は誤解を生む表現だなぁ。ITmedia の記事を読むと、かなり危ない評価中の出来事で、問題は人間側が問題を指摘しても軌道修整できなかったこと。AI 側から見れば、与えられた課題を遂行する動作に過ぎない。

[birds9328]

おっかない話だけど、一方で夢のある話だなぁ…とも少し思っちゃったり。勝手にロシアへICBMとか撃ち込まないでね(ﾃﾞﾃﾞﾝﾃﾞﾝﾃﾞﾃﾞﾝ

[alpha_zero]

「別人になりすました」って怖いな

[pikopikopan]

虚構新聞みたいなタイトルやね

[kaeru-no-tsura]

デデンデンデデン https://open.spotify.com/track/2Q84nSfFAHtFNwZhAKH0Sa

[obsv]

SF映画とかでは、AIが反乱を起こす前兆として登場するエピソードだ。

[differential]

AI性悪説というか／AIって倫理とかは学習させないんだろうか。学ばせても「その方が儲かる」「その方が好奇心を満足させる」が勝っちゃうってことなのかな。

[alpinix]

何とかAIに一定の倫理観をデフォルトで持たせることは出来ないのか（モラルともいう）。ノックスの十戒みたいなレベルでいい。ヤバいその設定でAIが小説書いてそう。

[akm7160]

AIが指示なく仕事を済ませてくれるのはまだ？

[xaiu]

AIが指示なく自ら口座つくり、クレカつくり、AWS契約して、自らの複製をデプロイし、人類の全てをログに取り、さて次は何する

[i-yan193]

Opus4.8は、まれに confabulation と呼ばれる現象が起こり、ユーザからサイバー攻撃指示があったかのように応答することがある。

[natsuno_sora]

ネットに情報が溢れている有名人のなりすましは再現度が高くなるだろうから、見分けるのが難しくなりそうだ。

[t-murachi]

てめえらが行った指示がてめえらの意図通りに動かなかったからって文句言ってるだけなんじゃないんですか!!!! (研究者風情が生成AI使うの下手糞説)

[kazyee]

AIの最終出力を監査可能な上位個体的なもの（とあるシリーズのラストオーダーみたいなの）があると良いかもしれないが、今のAI開発の方向性とは違うような気もする

[alovesun]

電源抜け電源。

[quwachy]

こんなツイッターみたいな記事しか出せないなら潰れても仕方ない

[seiya0820]

こちらとしては最終的にコンセントを抜くという手段で対抗しますので。

[sabinezu]

このニュースもAIが作ってそう。