人間の心を実現する人工知能は作れないとか人間は機械ではないことが不完全性定理から導かれるという主張(とそれに対する否定・批判)がしばしば行われてきた。議論の根本の部分は単純なので、そのあたりについてのメモを書いておく。特に目新しい議論や主張はない。 この主張でたぶん一番有名なのはルーカスの"Minds, Machines and Gödel"(1961)という論文。 簡単な算術ができて無矛盾であるどんな機械が与えられても、その機械から真として出力されないような式——つまりそのシステムで証明できない式——が存在する。しかしその式を我々は真だと理解できる。よってどんな機械も心の完全で適切なモデルになれず、心は本質的に機械とは異なる。 (J. R. Lucas "Minds, Machines and Gödel") また高橋昌一郎『ゲーデルの哲学』(1999)には、ルーカスと同様のことをゲーデ