人工知能に絶対に任せてはいけないこと - 風観羽 情報空間を羽のように舞い本質を観る

◾ 自動運転に関する公開セミナー 先日（ 9月20日 ）、弁護士会主催の自動運転に関する公開セミナーが行われたため出席した。内容そのものは、ほぼ旧知と言ってよく、自分にとってそれほど目新しい発見があったわけではないのだが、Q&Aセッションで少々気になる論点が出てきて、それがずっと気になっていた。今になって振り返ってみると、意外に本質的で重要な概念／思想の一端が氷山の一角のように顔を出していたのではと思えてくる。折角なので多少なりとも整理して、書き残しておこうと思う。 ◾法律の完全執行社会の到来 人間が運転に関与しない自動運転車は、法律を完全に遵守することを前提として設計されるだろうから、スピード違反はしないと考えられる。これは人間だけがドライバーである現状とは非常に大きな違いだ。実際に運転経験のあるドライバーなら同意していただけると思うが、スピード違反をまったくしたことがないドライバーは限

[shinichiroinaba]

法を適当に破れる人工知能が必要（超意訳）

[qtamaki]

魂の軋り声か。十年後も同じことが言えるか

[xxix29]

トロッコ問題に究極の答えを導出できたとして人間はそれを理解して受け入れられるだろうか。多分人工知能はいずれ究極の答えを計算できると思う。結局人間系の方がボトルネックになるんだろうな。

[shibacow]

面白い視点。法律が、大きめな網を掛けて、運用で悪質な物を摘発みたいな風に出来ているようなので、完全執行になったら生きづらいだろうな。法制度自体を変える必要があるな。

[ustar]

法律は完全に執行できない前提でとてもきつく設定しているので守れない法律みたいなものがたくさんあるがその不健全さをなくしていく方向になって欲しい