最も恐るべき人工知能は可愛げがあるものだ - あしたの人事の話をしよう

人間が最終判断をする限り、人工知能がはじきだした最高の選択肢は、単なるきまぐれで拒否されるだろう。 あるいはたまたまの好き嫌いで、でかもしれない。 けれどもきまぐれとか好き嫌いという選択肢は、きっと種を保存させるためのものだ。 なぜなら、合理的な最高の選択肢は、必ずしも意思決定者にとっての最高の選択肢とはかぎらないだろうから。あるいは、意思決定者にとって最良であっても、意思決定者が愛する人にとってはそうではないかもしれない。 そういえば、そんな話は歴史上たくさんある。 王が世継ぎを決めるのに、候補者の優秀さではなく、その母親（王にとっても妻や妾）との関係性で決まってしまうことなどだ。 王国にとって合理的な判断は、優秀な候補者を王にすること。 王にとっての合理的な判断は、自分の意思を告げる、やはり優秀な候補者を王にすること。 けれども母親たちからすれば、自分の子が王になることが最も望ましい。