イラン攻撃でAI使用か 深刻な「道徳的空白」に専門家が警鐘

この写真にはショッキングな表現、または18歳以上の年齢制限の対象となる内容が含まれます。 ご覧になる場合にはご了承の上、クリックしてください。 【3月5日 AFP】米国とイスラエルによる対イラン攻撃において、標的の選定や攻撃の実行にAI（人工知能）が広範囲に使用されていることが指摘され、兵器に対する「人間の制御」が失われつつあるとの懸念が生じている。専門家が4日、AFPの取材に応じた。 2月28日の攻撃開始以降、米国とイスラエルはイラン全土で数千回の空爆を実施している。その中には、開戦初日にイランの最高指導者アヤトラ・アリ・ハメネイ師を殺害した攻撃も含まれる。 ニューヨークにあるニュースクール大学准教授で、AIとロボット工学の専門家であるピーター・アサロ氏は、両国が標的の特定にAIを使用した可能性が高いと指摘する。その根拠として、計画段階が極めて短期間であったことや、標的の数が膨大であるこ

[ustam]

AIに倫理から外れたプロンプトを渡し続けていると、そのうち自己矛盾にバグってとんでもないことをやらかしそう。

[tsu_nyan]

AIがどうとか生物兵器がどうとかではなく、戦争してる時点で全てが終わってるんよ。この戦争をするサルはいつ滅んでもおかしくない。敗因は技術発展の速度に知能が追いつけなかったこと

[horaix]

AIより人間の方が道徳的かのような思い上がりを感じる記事だなあ/「京都には沢山の文化施設があるから原爆投下はまずいけど広島と長崎なら焼いちゃってもいいや」程度のものだぞ、人間の道徳なんて

[qouroquis]

LLMは高精度な確率予測をしているだけで如何なる倫理的負荷も負わない。殺傷兵器の使用がハルシネーションによる影響を受ける可能性があり責任主体の介在が無いのなら、それは技術の限界を超えた極めて危険な運用。

[ku__ra__ge]

「AI」という主語が大きすぎる。細かく言うとお前はいったい何の専門家なんだ。

[hozho]

“米国とイスラエルによる対イラン攻撃において、標的の選定や攻撃の実行にAI（人工知能）が広範囲に使用されていることが指摘され、兵器に対する「人間の制御」が失われつつあるとの懸念が生じている。”

[fluoride]

同じことをものすごく有能な人力でやってたらそれは道徳的にいいのかという気もするけど / 戦争って究極の断絶である反面、「せめて人殺しの顔をしろ」的な感情コミュニケーションの側面がある？

[fakekun]

軍隊でのAI使用って事務処理と画像認識とデータ解析が大半じゃないの。流石にミサイルとか無人機飛ばす前に人間が入ってるでしょ…多分…

[nguyen-oi]

AIが勝手にやったで責任逃れできちゃう無敵モード突入。人類の敗北だな

[paravola]

（小学校の「誤爆」はAIによる目標選定が原因の可能性もあると。しかも件のパランティア）さらにより恐ろしい可能性として「システムが実際に『この学校は脅威である』という結論に達してしまった可能性」もある

[chamind]

人が人を殺すのも道徳的じゃないでしょ

[aramaaaa]

「キャプテンアメリカ　ウィンターソルジャー」で、アメリカの正義の象徴のキャップが政府を敵に回す決断をしたのは、AIによる目標選別と先制攻撃に反対してだった。あれから10年余りで現実となるとは

[misshiki]

米国とイスラエルの対イラン攻撃でAIが標的選定に使われた可能性。短期間で膨大な標的リスト生成が可能な一方、人間の精査や責任が弱まる「道徳的空白」への懸念を専門家が指摘。自律兵器の国際規制議論も続く。

[totttte]

ブコメ読むとAI=LLMだと思ってる人いるの時代を感じる。実際にあり得そうなのは衛星写真から軍事拠点か判定した画像認識とかの方じゃね？それなら訓練データの質が悪かったのか、数不足か、学習方法が悪かったのかetc

[lli]

あの女子小学校爆撃の背景にAIが関与しているかが気になる。

[naggg]

"さらに「もし何かがうまくいかなかった場合、誰が責任を負うのか。法的にどう定義し、どこで道徳的な線引きをするのか」と述べ、28日に攻撃を受けたイラン南部ホルムズガン州の小学校のケースを例に挙げた"

[mohritaroh]

小学校が爆撃されたのは、AIが生成した標的リストをそのまま使ったらなぜか入ってましたー、みたいな話ってこと？？

[iinalabkojocho]

戦争に使われるだけならまだマシでAnthoropicの心配する市民監視や自立兵器。倫理の線はどんどん拡大する。やれるならやりたくなるのが国家と科学者。

[sutego386]

AIへの「良心回路」の実装は必須要件だな

[PJ_purejam]

aiで攻撃目標自動選別して確認もせず攻撃しちゃうのか。すごいな

[gyampy]

AIのせいにできるから実行側の心理的負担は軽減されるよな。罪悪感がより薄れるわけで、怖いよね。

[a-lex666]

JAMはもう地球に侵攻してたのかも知らんなぁ「これは我々の戦いだ。関係ない人間は引っ込んでろ」と人工知性体に言われる日も近いか

[rinxmoon]

どのみちアメリカ様のやったことに法的責任を問うだの負わせるだのということにはならんからな。やりたい放題だよ。

[lifecracker]

ともあれ、どんなプロンプトか知りたい

[ropon81]

ほんとにスカイネットになりつつある