なぜ人工知能は笑わないのか 現実とはなにか７ - 奴隷こそが慈悲を施さなければならない

「フレーム問題」 人工知能には、1969年、ジョン・マッカーシーとパトリック・ヘイズによって示された「フレーム問題」がある。ダニエル・デネットによる以下のような物語が有名である。 昔、R1という名のロボットがいた。ある日、R1の開発者たちは予備バッテリーを別の部屋に隠して、その部屋に時限爆弾を仕掛け、まもなく爆発するようにセットした。R1は部屋をつきとめ、バッテリー回収作戦を立案した。部屋の中にはワゴンがあり、バッテリーはワゴンに載っている。R1は「引き出す」というアクションを実行すればよいと判断し、ワゴンを部屋の外に引き出すことに成功したが、そこで最初の悲劇が起こった。時限爆弾もワゴンの上に載っていたため、部屋の外に出たところで R1は爆破されてしまったのである。 開発者らは第2のロボットの開発にとりかかった。自分の動作が引き起こす結果 （副次的作用） を判断できるロボットを作ればいい。