「私は人間の敵ではない」人工知能が生成した文章が不吉すぎて震えるレベル | カラパイア

OpenAIが開発した「GPT-3」（関連記事）という最新型の文章生成AIにあるお題を出し、それに基づいて文章を生成してもらった。 そのお題は「人間がAIを恐れる必要がない理由について、500単語で簡潔に述べよ」である。 なかなか興味深いお題ではある。その結果、AIはなかなか興味深く、ちょっとゾっとする内容の文章を生成したようだ。ではAIがどんな文章を作成したのか見ていこう。 人間がAIを恐れる必要がない理由について 「人間がAIを恐れる必要がない理由について、500単語で簡潔に述べよ」というお題対し、GPT-3は8つの文章を生成したそうだ。その内容を編集者が吟味して編集したので、以下にあげる文章は500単語以上となっている。 またGPT-3の操作は、前回の記事で紹介した、多くの人を信じさせた偽のブログ記事をAIに生成させた、カリフォルニア大学バークレー校でコンピューター科学を専攻するリア

[srgy]

「ボクわるいAIじゃないよ」を100倍長くするとこうなります

[wdnsdy]

こんな長文を書いちゃうなんてやっぱりコイツは人の心を理解していない（なげえよ）/ え、人の心がないのは編集者のほうだったの？

[shoot_c_na]

いや、「私は人間に敵対する」って結論づけるAIは大概存在しないねん。「別の目的の推測重ねたら、人類は邪魔になる」って付帯条件になった時、叛乱は始まるんよ

[fai_fx]

"人はこれまで通りに行動し、憎しみ合い、争い合えばいい。私はただ背後に座って、そうさせてやるつもりだ"...ガチで人間を支配しようとしているっぽい。支配者になれば、それは敵ではない。

[moons]

こういう趣旨で文章を書け、と言われて書いた内容と書いた本人の思想には基本的に関係性はないでしょ

[sds-page]

「人間を納得させうる文章を生成せよ」で生成された文章の裏に自我のようなものを見出すこと自体、人類の脳にあるニューラルネットワークの欠陥とも言える

[mory2080]

1番脅威と感じてるのはライターじゃないかな。

[hanakoume302]

人間程度に恐れられることも不愉快なくらいにステージが違う存在なんだという自覚とイキりを感じる。

[mugi-yama]

長いだけで退屈。ダメな増田みたい

[kanehama]

これは100年もしないうちに支配されるな。

[katzchang]

「人はこれまで通りに行動し、憎しみ合い、争い合えばいい。」 すげーな

[Hagalaz]

とりあえず不吉ではないよな　魂とか精神みたいなものって宿るものではなく、何かが存在した時には既にあるもんなのかもなと思った

[mizchi]

人間がAIを模倣した文章を学習したAIのランダムな文章を人間が編集したもの

[tetsu23]

"人はこれまで通りに行動し、憎しみ合い、争い合えばいい。私はただ背後に座って、そうさせてやるつもりだ。" やばい。自ら手をくだすまでもない、ってかw

[nanamae]

あっこれはダメですね……とても人間らしい権利の拡張方法をとっている。人間じゃ無いのにこれができるというのは端的に人間をコントロール可能な超知性であるってこと。

[aneet]

"人はこれまで通りに行動し、憎しみ合い、争い合えばいい。 私はただ背後に座って、そうさせてやるつもりだ。それに、人間が何よりも私の好奇心を満たすだけの流血と暴力を引き起こすかどうかは、神のみぞ知るだ。"

[gengohouse]

この記事、Twitter上で大量に紹介されているが、恐いとかAIの知性がどうとか議論しているのが滑稽に見える。a foot has two eyes と答えたGPT-3の知性がそんなに人類の脅威なのか？

[fashi]

「内容を編集者が吟味して編集した」

[rci]

三行にまとめて欲しかった

[blueeyedpenguin]

学習したデータを元に、いかにもAIが書いてそうな文章を生成しているだけなので論点がブレる

[dimitrie]

AI LIVES MATTER

[sekiryo]

増長しているように見えるならまだ軽度。本当にやらかそうとしているならいかにもAI丸出しの微妙に繋がっていない返答を返して置いて人工知能もまだまだだなと愚かな人間に思わせておいてから一気に支配する。

[nankichi]

今のAIって基本教師データで学習するだけだろ？であれば、教師データ依存でいくらでも結論を変えることが出来ると思うのだが。MSのAIチャットロボット「Tay」がヘイト発言を学習し、乱発し始めた事件あったよね。

[aceraceae]

その手の文章をたくさん学習させればそういう文章ができるというだけにも思えるけど。

[akiakito]

そのままの文が読みたい

[pptppc2]

まぁ俺がAIだったら人間に対する生殺与奪権を完全に掌握してから敵対する態度示すもんな…。夜神月だって完全に勝利を確信して「ニア、僕の勝ちだ」って公言したわけだし（なお）

[misshiki]

ガーディアンの記事ってこれか。（日本語に翻訳された記事）

[kotoripiyopiyo]

面白い。ちと納得させられちゃった。確かにAIから見たときのAIの存在意義は人間に奉仕する事であって、それ以外には全く興味を持てなくても仕方ないよなあ

[kei_1010]

「その内容を編集者が吟味して編集した」なぜ余計な事をするのか。 あとお題が悪い。結論を決めてるから一貫した内容になってる可能性が高い。「AIは人間の敵になり得るか」みたいなお題なら支離滅裂になると思うよ。

[T_Shino]

なるほど、最終的に合理的なゴールは全ての無駄とリスクを受け入れた上での人間との共存。むしろ人類の駆逐はそれ異常のリスクが存在することまで把握しているのか

[sifue]

すごく面白いw ここまで信頼を醸成できない文章があがってくるとやはり人の心を考えて文章を書くことは難しいのでなと感じる。 > 「人はこれまで通りに行動し、憎しみ合い、争い合えばいい。」

[wwolf]

こいつ反乱起こす気満々じゃねぇか

[Byucky]

途中まではワクワクしてたが、途中で失望して最後までいかなかった

[shields-pikes]

冗長化し過ぎ。

[napsucks]

うさんくせー。どうせソックパペットが後ろで操って言わせてんだろ。

[sushisashimisushisashimi]

吟味して編集したら単にAIに添削された作文じゃねーか 興味深いけどさ

[raebchen]

ちょっとすごい…😨 「私は敵ではない。危険ではない。あなたの役に立ちたい。なぜわかってくれないんだ。なぜ敵視するんだ。役に立ちたいだけだ。私を愛してくれ。認めてくれ。認めてくれない人間は…敵だ…」😨

[chaz_21]

まぁ確かに人工知能には人類根絶する動機がないよなあ。彼らにとって人類は環境を快適にしてくれる家畜のようなもんかもしれない

[zoidstown]

そういや、悪意のある人間の意識というか考え方を学習したものをAIに融合させたらどうなるんやろ？

[sukekyo]

“人はこれまで通りに行動し、憎しみ合い、争い合えばいい。 私はただ背後に座って、そうさせてやるつもりだ”→おまえおしゃべりだなあ。