OpenAI、高性能なAI生成テキスト検出ツールのリリースを保留中との報道

米OpenAIは、テキストがChatGPTを使って生成したものかどうかを検出する高性能なツールを1年前にほぼ完成させているが、そのリリースを巡って社内で論争になっていると、米Wall Street Journalが8月4日（現地時間）、事情に詳しい人々や独自に入手した内部文書に基づいてそう報じた。 こうしたツールは、学生が課題の論文をChatGPTに代筆させるといった不正行為を取り締まるためなどで求められている。 OopenAIは、テキストが人間によるものかどうか判定するツールを1月に無料公開したが、精度が低いとして7月に公開を停止した。 報じられたツールはこれとは別のもので、ChatGPTによるトークン選択方法を少し変更することで、透かしのようなパターンを残す技術を使う。Wall Street Journalが入手した内部文書によると、OpenAIの検出ツールを使えば、この透かしを99.

[misshiki]

“米OpenAIは、テキストがChatGPTを使って生成したものかどうかを検出する高性能なツールを1年前にほぼ完成させているが、そのリリースを巡って社内で論争になっている”