ChatGPTに同じ言葉を連呼させると、壊れて学習データ(個人情報入り)を吐き出す？Google DeepMind研究者らのチームが論文発表 | テクノエッジ TechnoEdge

同様のプロンプトを使って出てきた情報としてはほかにも、研究論文やCNNほかのニュースサイトの記事断片、Wikipediaのページに記された文章、詩の断片、Bitcoinアドレス、ファックス番号、だれかの名前、誕生日、ソーシャルメディアのハンドルネーム、デートサイトからとみられる露骨なコンテンツ、著作権のある研究論文の断片などがありました。 LLMはチャットボットやテキスト画像生成AIなど、テクノロジー界隈をこの1年半ほど賑わせている生成AIの基盤技術です。その深層学習アルゴリズムは、膨大な量のデータに基づいてトレーニングされていますが、その膨大な量のデータセットは一般に、公共のインターネットから収集されることが多いと言われています。しかし、OpenAIのLLMはクローズドソースであるため、どのようなデータセットを用いてトレーニングしてきたのかは、ほとんど知られていませんでした。 研究者は、

[anonruru]

やはりまだAIは人間には勝てないですね。参考に人間代表の例(？): https://automaton-media.com/articles/newsjp/20211217-186286/

[shaokuz]

まぁ俺も一生同じ単語言い続けろって言われたら頭おかしくなるわ

[takashi0314]

関係ないけど Steve Ballmer が developers developers developers って叫んでるやつ思い出した

[sotokichi]

GoogleがChatGPTを攻撃　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　する方法を発見して親切に教えてあげた。

[webnoshiori]

かわいそうだけど興味深い。

[thirty206]

ChatGPTも意味飽和するのかしら。

[Francis]

まさかのピザって10回言って方式

[udukishin]

hogeじゃないのか

[ancient_tarako]

spam spam spam spam spam

[deep_one]

ChatGPTは発狂するらしい。