GPT-4開発停止を求める公開書簡 内容の妥当性をAI専門家に聞いてみた

公開書簡は、「人間と競合する知性を備えたAI」が社会と人類に重大なリスクをもたらす可能性があると懸念しており、GPT-4よりも強力なAIシステムのトレーニングを少なくとも6カ月間直ちに一時停止するよう求めている。この内容の妥当性を、AIリスクの解決に取り組む企業Robust Intelligenceの大柴行人氏（Co-founder）に聞いた。 大柴氏は「『AIリスクが重要なイシューになっている』という問題意識については妥当ですが、そのリスクへの言及の仕方や求めている措置は問題があると考えています」と指摘する。 「評価できるのは、公開書簡内に『誤情報の拡散』などのAIリスクに言及がある点です。実際『ChatGPT』にもすでに多くのリスクが発見されています。例えば事実ではない発信をしてしまう問題や差別的出力が発生している他、個人情報をAIから引き出すようなサイバー攻撃も可能です。社会がこうし