本当に恐い人工知能はもう普通に働いている

人工知能のリスクを軽減する研究を行う生活未来研究所の所長を務めている、マサチューセッツ工科大学（MIT）のマックス・テグマーク教授（写真：Julia Robinson/The New York Times） 昨年10月。電気自動車メーカーのテスラおよび宇宙企業スペースXの最高経営責任者（CEO）を務めるイーロン・マスクは、人工知能（AI）を「人類の存在に対する最大の脅威」と呼び、思考する機械を作ることは「悪魔を召喚すること」に等しいと述べた。 12月には宇宙物理学者のスティーブン・ホーキングが「完全な人工知能は人類を終末に導く可能性がある」と発言。また今年に入りマイクロソフトの創業者ビル・ゲイツは、人間を超える人工知能「スーパーインテリジェンス」への懸念を表明した。ゲイツはスーパーインテリジェンスの登場まで数十年しかかからないと考えているようだ。 トラブルの元になるのは人工“知能”ではない

[infobloga]

AIがすごく発達したSFのような未来は可能性としてあるのかもしれないけど、最近の機械学習やディープラーニングはそういう段階じゃないんだよ。一方暴走の可能性は今でもある。そのあたりを分かっていない人多すぎ。

[shields-pikes]

正しいと思う。専門知識のない経営者層（人間）が、全体観のない（役割上、持つ必要もない）専門家（人工知能）に、重要な経営戦略の判断材料となるリサーチを丸投げした場合に起こる判断ミスに似ている。

[yamazakigo]

「恐い人工知能はもう普通に働いている」「問題となりそうなのは「人工無能」とでも呼ぶべきものだ」「心配すべきは非常に狭い分野において高い能力をもつコンピュータだ」定義がよくわからない

[miyadai454]

スマホで見たら動画広告がうざすぎてびっくりした。エロサイトでもここまでしないよ

[daybeforeyesterday]

うーむ

[shikahan]

なんだこれ。なにも言ってないぞ。

[suzuki84g]

"（意識して）卑劣な行為を行うのではなく、人間も金属片も同じように扱うという好例だ"

[SusanoJapan]

これはまた違ったアプローチだがバカバカしい。人工知能が真に怖いのは、多様性とフラクタルな連結構造を手に入れた時でそんな姿を見たい人間がやらかさずにはいられない訳よ。これは多分ホーキン説と同じ。_(:3」┌)_

[tanayuki00]

機械が怖いのは賢いからじゃなくてバカだから。「たとえば紙をはさむクリップを作る機械が誰にも止められることなく作業を続け、進化していったとしたら、私たちは一夜にしてクリップの洪水に飲み込まれてしまう」

[onbullshit]

確かに、人間の生命を脅かす行動を起こすという予測は間違い。問題はどんな思考過程と結果を人間に示してくれるか。しかし人型ロボットとなると、人間の感情のほうが変わることは間違いないと思います。

[nagaichi]

進歩のバランスの話であって、そうした調整や調停を含む高度な政治を強いAIが担わないとは限らないな。今のヒトは地球環境を持続可能に調整しているとは言い難いわけで、万物の霊長の座を譲ったら案外上手くやるかも