GPT-4を超える性能を持つAIの開発停止を半年間求める公開書簡「巨大なAI実験を一時停止せよ」が話題になりました(関連記事)。公開書簡は、フューチャー・オブ・ライフ・インスティテュート(生命の未来研究所、Future of Life Institute)が発表したもの。かつてOpenAIの取締役だったイーロン・マスクが署名していたことで話題になったところがありますが、もともとどんな背景でこの団体が存在するようになったのかを追いかけると納得感があります。 「超知能が出てきたらヤバい」 フューチャー・オブ・ライフ・インスティテュートはどういう団体なのか。それは、この団体に近い立場を取るオックスフォード大学のニック・ボストロムという哲学教授が、2014年に出した『スーパーインテリジェンス 超絶AIと人類の命運』(日本経済新聞社)を読むとよくわかります。ちなみにこの本は、ビル・ゲイツがAIの可能
![ChatGPTは人類を滅ぼす「超知能」になるのか? (1/5)](https://cdn-ak-scissors.b.st-hatena.com/image/square/2fc48de44847d0cb22ab664a7e24409f7dc9f702/height=288;version=1;width=512/https%3A%2F%2Fascii.jp%2Fimg%2F2023%2F04%2F21%2F3526758%2Fxl%2F5ce107a7e4fb5268.jpg%3F20200122)