イーロン・マスク氏、ホーキング博士、ウォズニアック氏ら、AI自律型兵器禁止を呼び掛け

「人工知能（AI）研究の発展により、数十年ではなく数年後には、自律型兵器（autonomous weapon）の開発が可能になり、その代償は大きいだろう。自律型兵器は、火薬、核兵器に続く、戦争における第三の革命とみなされている」──。主に人工知能（AI）の安全性について研究する非営利の研究組織Future of Life Institute（FLI）は7月28日（現地時間）、アルゼンチンのブエノスアイレスで開催のIJCAI（人工知能国際会議）2015のオープニングで自律型兵器の開発禁止を呼び掛ける公開書簡を発表した。 書簡の著者らは、人間の判断を介さない自律型兵器の使用は、戦闘開始の閾値を低くし、結果的に大規模な人命損失につながると主張する。また、AI兵器は核兵器と比較して開発が容易で低コストな上、監視が困難だ。さらに、コピーも比較的簡単なこともあり、ブラックマーケットに出回り、すぐに暗殺

[shields-pikes]

これは、現実的な問題意識として非常に正しい。ポイントは、低レベルのAIによる自律型マシンを安価に大量生産ってところ。終戦後も放置され民間人を無差別に襲うAI自律戦闘マシンは、地雷と同じ問題を生むだろうね。

[lli]

これ使って誰も巻き込まず元首同士で殺りあって欲しい

[isinomaki]

ジェームズキャメロン、ターミネーターはノストラダムス以上の預言者になるかもしれない。「世界にとって最悪の事態」を可視化している点で既にかなりの意義がある。

[i-komo]

たとえ国家が手を出さなくても、そのうちどこかの組織レベルで作れてしまうようになるんだろうなあ。

[yamadar]

囲碁でトップ棋士がAlphaGoに敗北したので、過去記事にブクマ。近い将来、軍事的な戦術・戦略面で、人類最高の頭脳でもAIに勝てなくなるという事だ。

[mandam111]

頭数だけが取り柄のくせにデカイ面しているチャイニーズどもの存在を考えると、この懸念は一概に否定できない。

[t-tanaka]

懸念点はもっともだし声を上げることも正しいとは思うが，開発は止まらないだろうなあという強い予感と諦念がある。

[takeondo]

チョムスキーは哲学者なんですね、もはや。

[ku__ra__ge]

アルカイダ幹部をドローンで殺してる米国は、このへんで予防線を張っとかないと電波ジャミングで落とせない無人機で要人を殺されそうだ。

[tabisukeko]

戦争はどこまで進化するのだろうか・・・してしまうのだろうか・・・

[mani023]

こういう活動はした方が良い。作る方も配慮する様になるから。

[raitu]

「自律型兵器は未来のカラシニコフ銃になる」というか地雷だろうな。大量に戦争後に放置されるであろう安価で低品質なAI殺戮兵器とかさすがに怖い。人類は攻撃力ばかり上がって生身の防御力は太古から変わってない。

[quwachy]

安倍とか見てると、少なくとも人間が判断するよりは正しい答えを出しそうなのがなんとも

[deep_one]

「人間の判断を介さない自律型兵器の使用は、戦闘開始の閾値を低くし」閾値は下がる気がするけど、理由はそこじゃないと思う。むしろ偵察中に破壊されることを気にしない無人兵器は偶発開戦の可能性を下げそう。

[nomitori]

アヴェンジャーズアッセンブル！！！

[augtodec]

自律型兵器!!!

[AFCP]

そうか。兵士も失業するかもしれないんだな（違

[SasakiTakahiro]

「自律型兵器は未来のカラシニコフ銃になる」。

[takeishi]

巡航ミサイルや大陸間弾道弾である程度自律自動攻撃は実現してると思うんだが。機雷や地雷は自動反撃の一種だし。

[zyesuta]

AI（人工知能）研究の発展により、数年後には技術的に自律型兵器の開発が可能になってしまうとして、そうした兵器開発を禁止するべきだと研究者や企業幹部らが公開書簡で呼び掛けた。 「人工知能（AI）研究の発展によ

[ikasumipowder]

2年くらい時間あれば、銃が乗ったドローンを自動飛行させて、的に当ててから自動で帰ってくるくらいの開発はできちゃいそうだし、危ない人が技術手に入れると怖い イーロン・マスク氏ホーキング博士ウォズニアック氏

[fb001870]

アベンジャーズ、市民からしたらほんとに大迷惑だもんな。

[TequilaBancho]

フィリップ・K・ディックの変種2号の世界に生きる事になるとはなぁ。

[y-kawaz]

あれ？ウォズって最近「長年「AIが進歩したら人間と対立する」と思ってたけどやっぱ人間を生かすわ、と自分の中で結論付けて安心した」みたいな記事見た気がするけど、自我持ちAIは良いけど人に使われるAIはNGて事かな

[yujin_kyoto]

何年か前の映画でさ、ロボット三原則は組み込んでるんだけど、このまま行くと人類は自滅するから、種としての人間を守るためにロボットが人を支配する必要があるし、個別には殺人もやむ無しみたいなの、あったよね。

[tsysoba]

ロボット三原則が実際に必要になってきたか…

[daybeforeyesterday]

うーむ

[mikio01]

ならないよ。素人は口出しするなよ

[FFF]

チャッピーの売り込み先とかブラックで吹くもんな

[minonet]

イーロン・マスク氏、ホーキング博士、ウォズニアック氏ら、AI自律型兵器禁止を呼び掛け AI（人工知能）研究の発展により、数年後には技術的に自律型兵器の開発が可能になってしまうとして、そうした兵器開発を禁止す

[flyingpenguin]

一応俺も呼びかけている。