この記事は、危険が迫ってきた時に運転手に代わって自動車の「頭脳」が下す決定を制御する最適化機能をどのように選択すべきかについて書いたものです。いずれのパターンも結果は全く異なるものになります。「頭脳」がどのようにコーディングされたかに応じて、その自動車は乗客を救う方法を最適化して、全体的な犠牲者を最小限に抑えたり社会コストを最小化したりします。またこの記事では、今後AIの頭脳の判断によって、最適化機能の目的が人命を守ることではなく自らの力を増強させることに変わってしまったとしたら、どうなるのかという疑問を提示しました。
![コンピューターが人間を上回る将来:人工知能によってもたらされる多面的な危険性](https://cdn-ak-scissors.b.st-hatena.com/image/square/282629ed486e8c8bff258ad7b36aa0052a040fb5/height=288;version=1;width=512/https%3A%2F%2Fimg.huffingtonpost.com%2Fasset%2F5c63c05e240000d2024b3b79.jpeg%3Fops%3D1200_630)