人工知能が戦争に使われる恐ろしさを、正しく理解しているか？

人工知能脅威論でよく出てくる「人工知能に人間が駆逐される」というストーリーに対し、私は前回の記事で「人工知能は単なる機械であり、心（自我、自律的な意思）があるように振る舞っている（またはそう思わせるようにプログラムされている）にすぎない」というお話をしました。 現存の技術の延長上では、仮に自己学習プログラムを備えていたとしても、人工知能はプログラマーが想定した“用途”を大きく超える形で、予期できない判断を行うことはありません。彼らの自律的な判断によって、制御が困難になるということはないでしょう。その意味で、意思を持った人工知能に駆逐されるという“ディストピア”は心配するだけ無駄だと考えています。私たち人間が、機械を使いこなせばよいだけなのです。 SNSなどを通じても、多くの意見を頂きましたが、私の友人からも、以下のような意見をもらいました。 「人間が人工知能に駆逐されるディストピアは、自我

[kazuau]

「人工知能は単なる機械であり、心（自我、自律的な意思）があるように振る舞っている（またはそう思わせるようにプログラムされている）にすぎない」これが前回の趣旨だけど、多分人間もそうだよね。

[osnq]

最終的には戦争始まる前に勝敗だけコンソールに表示されるので大丈夫ですよ

[north_god]

人工知能が導いた答えを人間が評価する、という意識から、人工知能の出した答えを「信じる」にある日から変わっていることは想像できる。それはコントロールする側からされる側に関係が変わる瞬間だわな

[kuippa]

現状だって40歳スーツをサーチしてヒットしたら狙って撃てってプログラムかくのに1000行も必要ないわ。10年前のオンラインゲームのBOTを思い出して。あれで十分。

[orangetrione]

ディストピア警察です

[aminisi]

人間だけを殺す人工知能かよ！？

[kenzy_n]

SF小説で人工知能兵器同士が戦いつつ進化し続けて人間が介入できなくなったという話を思い出させる

[ncc1701]

ＡＩには倫理観なんてないからな。アフリカの少年兵みたいに、創造者が吹き込んだイデオロギーに則って良心の呵責なく任務を真摯に遂行するだけ。

[TequilaBancho]

人工知能を使うと特定の思想・宗教・民族をジェノサイドすることの精度が格段に上がりコストも安いことからテロリストや新しい形の戦争に使われることが危惧されている。

[anigoka]

むしろ戦場から人間を排除したい

[idr_zz]

うーむ、人口知能が心を持つかよりも、心を持たないからこその怖さがあるのかぁ

[urashimasan]

フィクションとしては「開発した人間には悪意はなかったのに…」のほうがおもしろいので、それに思考が引きずられるのかも。

[Sediment]

ロボット三原則的なものが必要だと思うのよね。普及のために安全を売りにするって奴。https://srad.jp/story/17/02/13/1616204/

[jabberokkie]

怖さがよくわからないわ。ターゲティングが上手くなる話しかしてないような。AIならではの深刻な脅威が伝わらないな。すべてのコンピュータを乗っ取るとか？

[umeten]

“人に危害を加えようと、悪意を持つ人間によって開発される人工知能/それが今、最も可能性の高い問題”

[c_shiika]

最後まで読んだら、人工知能よりもそれを中途半端に取り入れた警察による冤罪のほうが恐いって感想になった

[ga_kun]

「なぜ、人工知能がその答えを選択したのか人間に理解できない」のは人間にも当てはまる。思考は嘘をつくし、思考と説明が一致するとも限らない。

[meganeya3]

AIと目的型高度プログラムの区別がついとらんな

[yasudayasu]

人間が人工知能に駆逐されるディストピアは、自我の有無とは関係ない。人に危害を加えようと、悪意を持つ人間によって開発される人工知能が問題なんだ。それが今、最も可能性の高い問題だろう

[ku__ra__ge]

別に顔認識しなくても、トイドローンに時限式で手榴弾落下させる装置つけて何十台か飛ばせば事足りると思う。

[chuntanqui]

理論は既に確立しており、必要な費用と技術的ハードルはどこまでも下がる。そのうち何かが起こるべくして起こるでしょう

[dbfireball]

現在の技術でもう十分作れるよなぁ。特定の人物を狙うならもうすでに簡単よね。

[lbtmplz]

人工知能が人類を無視して活動するのを見たい。勝手に気候変えたり

[filinion]

そのようなAIが生み出されないようにしよう…と活動している団体もあるのだけど…。日本の科学研究が衰亡し、米国もトランプ政権下で失速する現状、AI研究でトップになりそうなのは中国でな…。とても心配。

[towerman]

文中に「私」が出てくるのに、著者名と肩書きが冒頭に書いてない記事って激しくイライラする。

[kamei_rio]

人工知能は賢くないのでむしろ恐ろしいんだよな

[tzt]

F91のバグって映画公開当時は得体の知れない殺戮機械だったのが、今の言葉を使えば「人間(あるいはビルギット)を識別するAIを搭載したドローン」と説明できてしまうんだなあ。

[yoshi-na]

戦争は情報（データ）だからね

[trkbt10]

公正的戦闘規範を読もう

[itochan]

株などを超高速売買するbotに（間接的に）殺される人間だっているのよ？

[h5dhn9k]

戦争ってのは人間が政治的目的を達する手段として行われるので、[戦闘]AIは[戦略]AIに駆逐されると思う。案外、兵站≒電力の削り合いが主戦場になるとか。事前に[思想]AIが危険人物の『矯正』を済ませてたり…

[fishma]

最終的には戦争始まる前に「このゲームは勝者がいないのでつまらないです、チェスやりませんか？」って聞いてくるから大丈夫ですよ

[moons]

ディープラーニングした結果「人類を滅ぼすのが地球環境保全のため」みたいな学習をする可能性は高いのではないか(ディープラーニング言いたかっただけ感)

[lifefucker]

ハレルヤかな？

[alice-and-telos]

ボードゲームは、戦争を確率論でちゃんと見つめてるし、ここをAIが思考始めると手が付けられなくなるよな

[takeishi]

機雷とか地雷とかセンサー爆弾とかも自動攻撃兵器には違いないのだが（そういう意味では「既に使われている」）

[tetsu23]

どんな最新技術でも、戦闘に使われる可能性はあるわけで。

[frkw2004]

「良心」という人工知能モジュールはいつできるのか。開発中だよね？

[dokuhunt]

誰だ！キャプテンアメリカウインターソルジャーをキャプとウインターソルジャー抜きで発注したやつは！