ChatGPTにとっての「良心」とは何か？

GPT-4のような高度なAIとヒトを識別するにはどうすればよいか？ 結城浩さんが興味深い記事を公開している。AIか人かを判断するポイントを、ChatGPTに尋ねている点が面白い。ChatGPTによると、次のような質問が苦手だという。 複雑な感情やニュアンスについて尋ねる クリエイティブな質問を投げかける 時系列に関する質問をする 矛盾した情報を提供してみる 言語の遊びや言葉の意味を理解する質問をする AIには、矛盾や言葉遊びに対応することが不十分であることが浮き彫りにされている。一方、人間は矛盾や誤りに対する反応が上手く、AIよりも柔軟に対応できているのが現状のようだ。 もっとも、AIに関する技術は進歩し続けており、より高度な会話能力を持つAIが登場することは十分期待できる。AIにヒトを模倣させるチューリングテストは合格だろう。 だが、どれほどChatGPTが進歩しようとも、ヒトと区別する

[shunkeen]

“人の場合、モラルだとか倫理といった「良心」に相当するものが、AIにとってのコンテンツポリシーなのかもしれない”／判断は自動化されてても、コンテンツポリシーを決めてるのはOpenAIだから、開発元次第なのかな。

[grocio]

人間の「良心」＝コンテンツポリシーでもあるかもしれない。非明示的なコンテンツポリシー

[ooblog]

#AI #AGI #LLM #OpenAI #ChatGPT #シンギュラリティ #チューリングテスト #コンプラ #コンポリ #エログロナンセンス 「ヒトと区別する方法~利用規約~えっち~公序良俗~死にたい~倫理観に抵触~コンテンツポリシーにより回答できない」

[filinion]

「どれほどChatGPTが進歩しようとも、ヒトと区別する方法がある」…いやあ…。言葉遊びもパラドックスも、いずれAIは人間より上手く対応するでしょう。人間にできてAIに「今後とも絶対できない」ことなんてないと思う。