ChatGPT開発元、AI生成か人間が書いた文か判定するAIツール提供「誤判定や偽陽性に注意」 | テクノエッジ TechnoEdge

人間が書いたかのような文を生成できる対話型AI ChatGPTの開発元 OpenAI が、AIによって生成された文章か人間が書いたか判定するツールを公開しました。 シンプルに「Classifier」(分類器)と呼ばれるツールは改良中の段階ながら、OpenAIのサイトから無料で利用できます。ChatGPTと同じく、アカウントの作成とログインは必要です。 文章をClassifier にコピペすると(あるいは自分が本当に人間なのか実はAIか確信が持てないなら手入力すると)、AIによって生成された可能性が「極めて低い、低い、不明確、可能性がある、可能性が高い」のいずれかを判定します。 OpenAIが判定ツールを開発する目的は、AIを使った世論誘導や情報操作、教育・学術分野での不正行為など、自動生成した文章を人間が書いた意見や感想、論文や宿題と偽る行為による害を軽減する手助けとするため。 QAサイト

[lbtmplz]

マジでメンテコスト高い

[qpci32siekqd]

「あなたが書いた記事は40%ChatGPT使ったと判定されるので報酬から減らしますね。不服だったら証明してくださいねー」「ChatGPT使った判定出たので検索に出ないように排除しますねー」

[NEXTAltair]

GANモデルだな

[shunkeen]

AI文法マスター はChatGPTのクセ（学習データの統計的性質）を内面化している。そんなAI文法マスター達の仲間になるには、ClassifierからAIの可能性が高いと判定される必要がある。合格率9%の狭き門を、君は通れるだろうか

[manimoto]

チューリングテストだ

[kenjou]

試しにAIで生成したテキストに手を加えてからチェックしてみたら、不明瞭だと返してきたよ。ちゃんと判定できているということなのかな。

[netafull]

“……安価な銃を流通させて治安を悪化させたあと防弾ベストや警備サービスを売るビジネスを連想しないでもありませんが、Classifier の利用は(現在のところ)無料。”

[zorio]

混乱に拍車をかけるだけのような