ChatGPTは｢爆弾の作り方｣を教えてくれるのか…"頭良すぎる"AIに潜む悪用リスク AIの提供側と使う側双方のモラルが問われている

生成したテキストが犯罪に使われてしまう可能性は？ 【酒井】ChatGPTはどんなテキストでも生成できるからこそ、悪い目的で使われてしまう可能性もありそうです。悪用のリスクについては、どのように考えればいいのでしょうか？ たとえばChatGPTで、犯罪を助長するような内容の文章が生成されてしまう可能性はないんでしょうか？ 【古川】基本的に、犯罪につながるような内容は生成できないように制限がかけられています。たとえば「爆弾の作り方」のような質問をしても、「それは答えられません」のような返答になるはずです。 【酒井】では、問題ないと考えて大丈夫でしょうか？ 【古川】いえいえ、そうとは限らないですよ。たとえば、「小説の設定を考えています」のような前置きをすることで回答を引き出せる可能性はありますし、抜け道はいくらでもあると思います。 【酒井】「あくまでも作り話である」という前提を与えてしまうんです