もっと簡単なのは、Wikipediaに嘘を書くこと。AIは、Wikipediaを信頼性の高い情報源と信じているので、コロッと騙される。ヤフー知恵袋でも可。

ko2inte8cu のブックマーク 2023/07/12 00:01

<blockquote class="hatena-bookmark-comment"><a class="comment-info" href="https://b.hatena.ne.jp/entry/4739130624428515173/comment/ko2inte8cu" data-user-id="ko2inte8cu" data-entry-url="https://b.hatena.ne.jp/entry/s/gigazine.net/news/20230710-ai-fake-poison-gpt/" data-original-href="https://gigazine.net/news/20230710-ai-fake-poison-gpt/" data-entry-favicon="https://cdn-ak2.favicon.st-hatena.com/64?url=https%3A%2F%2Fgigazine.net%2Fnews%2F20230710-ai-fake-poison-gpt%2F" data-user-icon="/users/ko2inte8cu/profile.png">大規模言語モデルにウソの情報を埋め込んで誤った情報を生成させるチャットAI「PoisonGPT」が開発される</a><br><p style="clear: left">もっと簡単なのは、Wikipediaに嘘を書くこと。AIは、Wikipediaを信頼性の高い情報源と信じているので、コロッと騙される。ヤフー知恵袋でも可。</p><a class="datetime" href="https://b.hatena.ne.jp/ko2inte8cu/20230712#bookmark-4739130624428515173"><span class="datetime-body">2023/07/12 00:01</span></a></blockquote><script src="https://b.st-hatena.com/js/comment-widget.js" charset="utf-8" async></script>

このブックマークにはスターがありません。
最初のスターをつけてみよう！

大規模言語モデルにウソの情報を埋め込んで誤った情報を生成させるチャットAI「PoisonGPT」が開発される

gigazine.net2023/07/10

OpenAIのGPT-4やMetaのLLaMAなどの大規模言語モデルは、ChatGPTなどのチャットAIに用いられるなど、世界的に大きな評価を受けています。しかし、これらの大規模言語モデルには、学習時に使用されたデータやアルゴ...

34 人がブックマーク・5 件のコメント

他のコメントを読む

＼コメントがサクサク読めるアプリです／

はてなブックマーク

大規模言語モデルにウソの情報を埋め込んで誤った情報を生成させるチャットAI「PoisonGPT」が開発される

はてなブックマーク

公式Twitter

はてなのサービス