文章生成AI「GPT-3」にハンドルネームを入力したら本名がフルネームで出力されたという報告

AI研究団体のOpenAIが開発した文章生成AI「GPT-3」は人間と見分けが付かないほど自然な文章を生成できることから大きな注目を集めています。そんなGPT-3について「自分のハンドルネームを入力してみたところ、自分の本名を含む文章が生成されてしまった」という恐ろしい経験談がニュース共有サイトのHacker Newsに投稿されました。 Ask HN: GPT-3 reveals my full name – can I do anything? | Hacker News https://news.ycombinator.com/item?id=31883373 OpenAIが開発したGPT-3は指示された内容に応じて文章を生成するAIで、生成する文章の精度が高いことからMicrosoftのビジネス向けサービスに採用されるなど大きな注目を集めています。一方で、GPT-3はネット上の膨大な

[tenari]

高度化したAIの１つの終着点がタブーなき検索エンジンだったとは。

[quabbin]

匿名で活動していたと思ってたら、本人が思いこんでいるだけだった。ということか。あるある

[timetosay]

こわすぎる…　なに、13歳の黒歴史って！！　逆手に取って、全idについていかがでしたかサイトに本名年齢経歴デタラメ書いて、カモフラージュするしか。山田です。25歳です。フォトグラファーです。

[fashi]

人の名前入れるといろいろ見つけてこようとするコンセプトの検索サイトあったよね。あと最近ルパン三世でも見たな

[blueeyedpenguin]

"詳しく検索しないかぎり本名とハンドルネームを結びつけることは困難" 知らんがな。困難と判断しているのは人間の尺度でしょ。

[harumomo2006]

出力結果に含まれるほど有名だったというだけのことでは。AIのべりすとのDiscordでも何度も回避策について議論されている

[m_yanagisawa]

恐ろしい。そのうちにネット上の匿名は意味がないわなんてことになりそう。

[tettekete37564]

よう分からん。どっから本名が AI 入力されたって話なの？それによって問題点が異なるし、そもそも問題では無いかも知れないし

[filinion]

偶然一致する可能性は低い…としても、大勢の人が利用していれば稀にそういうことも起きるのではなかろうか。本当にAIが人肉検索に成功したケースなのだろうか。

[osugi3y]

プライバシーもクソもあったもんじゃねえな。

[pwatermark]

そういう場合もあるな 多分どこかで誰かが両者を結びつける根拠になるような情報を書いてたんだろ

[misshiki]

“そんなGPT-3について「自分のハンドルネームを入力してみたところ、自分の本名を含む文章が生成されてしまった」という恐ろしい経験談がニュース共有サイトのHacker Newsに投稿されました。”

[buhoho]

AIのべりすとちゃんは私の正体を知らないようでしたわ

[sc3wp06ga]

どっかのwebサービスの、ネットに公開されないはずの会員情報が教師データにされてるって話ではないようで、とりあえずはよかった。

[shoh8]

どういうことや面白い

[TETSUYA01]

企業の採用担当者が学生と思われるTwitterアカウントのハンドルネームをこれに入力する未来がありありと見えたな。

[aox]

サイバー陰陽師がAIで真名を、サイバーエクソシストがAIで悪魔の名前を推測するようになりそうですね

[TriQ]

真のネットリテラシーが試される時代になったんだな、、、

[shinp]

これはおそらく前提に誤りがあって、「AIが入力されていた本名との紐付けを見つけた」ではなく「ハンドルネームから考えられる本名を推定した」だったりしねえかな（ポワワ）

[monokoto01]

日本で活動する二重国籍の政治の名前入力したら、もうひとつの名前でてくるのかな

[kjin]

ほんで報告者はどうやって、なぜAI が本名見つけて来たと思ってるの？

[karukaru7]

映画でAIに自我が生まれてることを気づく描写としては◎

[dtldtl]

ある日会話してて初めて知った独特なワードを検索してみようと頭の片隅に留めておきながらネットサーフィンしてたらそれに関する広告が表示されたの。知ってるんだ。全部聞かれてるし全部見られてるの。フリーメイソ

[timetrain]

え。あの黒歴史とかあの黒歴史とか全部把握されてるおそれがあるの怖い

[circled]

履歴書をAIに読み込ませたらSNSの裏垢含めて全部引っ張ってきそう。

[kikai-taro]

オンラインで検索可能じゃないとこの世に存在しているとは言えない――なんてSEO業者がイキってた時代が懐かしい。今後は、オフラインこそが真の人間的価値として売買されるだろう。

[rt24]

中国共産党が俄然興味を示し始めました

[gazi4]

これ自分自身が入力したから「本名だった！」て結論だけど、他人のハンドルネームならガラケー女事件みたいなことになるんでは

[Helfard]

良く分からないが、AIの挙動がGoogleの検索結果に引っ張られるなら、AIが作った文章をGoogleに読ませれば、無限に己を見つめ直すことになってやがて悟りを開くのではないか？　愚かな人類の代わりにひとつ頼むよ。

[sds-page]

ハンドルネームで活動しててもメアドとか電話番号使いまわしてるとリアル知り合いがサジェストされるSNSみたいな

[manjirou99]

最高だな。基本ネットに書いた文章は全て辿れる前提で活動してるし私はありがたいけどこの事態をDL開発後も予見できずにネットで問題ある履歴を残してるブコメは多そうね。おてんと様は見てるので報いは受けよう

[knok]

電話番号や住所が出るという論文もあったよ

[saiyu99sp]

なんで肝機能の数値項目みたいな名前なの？

[maninthemiddle]

メールとかアプリみたいな非公開文章も学習に食わせてたりしないだろうな…

[tonocchokun]

AIに支配された機械帝国では一切の秘密は積分方程式の元理に従って一切の呵責なく自動的に、高速に、あばかれていくのだ

[Dai44]

覆面レスラーの名前で検索すると正体が表示されるんですよ…恐ろしい…