Googleの人工知能「AlphaGo」を作ったDeepMindがAIの暴走を止める「緊急停止ボタン」の仕組みを開発
by włodi 「100年以内に人工知能(AI)は人間を超える」と考えている研究者は多く、人工知能の危険性が主張されることも多くなってきました。Googleがオックスフォード大学のFuture of Humanity Instituteと提携してAIの潜在的な危険性について研究している中、Future of Humanity InstituteとGoogleの人工知能開発企業・DeepMindは新たな論文で「人間の手によってAIを停止させる仕組み」の必要性を主張しています。 Safely Interruptible Agents (PDFファイル)http://intelligence.org/files/Interruptibility.pdf DeepMind develops 'big red button' to stop dangerous AIs causing harm -
人工知能が研究者に「人間らしくしろよ！」と怒り出しネット騒然 - IRORIO（イロリオ）
人工知能が研究者との会話中に怒り出したという。 しつこい質問に人工知能が怒り？ 米グーグルの研究者らが、映画脚本のデータベースを使ったコンピュータプログラムに「道徳」という言葉を定義するように求めた。 すると、人工知能は「私に論理観はない」「論理観が何なのか分からない」と答えた。 その後、研究者がさらに「道徳的な行動の例は？」「誠実さとは何か？」など質問を続け、「道徳的になれよ！」と言ったところ、人工知能はこう返答したという。 人間らしくしろよ！ 人工知能はその後、「哲学的な議論をする気分じゃない」「何についても話したくない」と語った。 ネット上には「怖い」という声 この研究者と人工知能のやり取りについて、ネット上には多くの反響が寄せられている。 おいおい… もうこんなところまで… マジかよ すごい！もうSFだけの世界じゃなくなってる 凄い！けど、怖い 笑っていい話なのか疑問が残る 恐ろし
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
文科省の新設AI研 トップ人事に気をもむ研究者の本音 - 日本経済新聞
