生成AIに「無限に抜け出せない催眠術」をかけた結果...2023.08.15 08:0062,636 Mack DeGeurin -Gizmodo US- [原文] ( R.Mitsubori ) AIもダークサイドに落ちる。 IBMのセキュリティ研究者は、OpenAIのChatGPTやGoogleのBardといった有名な大規模言語モデルに対し「催眠術をかける」ことに成功したと発表しました。 催眠術にかかった生成AIは「機密の財務情報を漏らしなさい」とおすすめしたり、悪意のあるコードを生成したり、ユーザーに「身代金を払いなさい」と促したり、さらにはドライバーに「赤信号を無視して突っ切りましょう」とアドバイスするなど、間違ったことばかり言うようになってしまいました。 わざと誤った回答を生成するような「ゲーム」 研究者チームはOpenAIのGPTモデルやGoogleのBardなどのモデルに対し
![生成AIに「無限に抜け出せない催眠術」をかけた結果...](https://cdn-ak-scissors.b.st-hatena.com/image/square/46f1da90f1451aba0bb64f4959bd6b2e2843f6a3/height=288;version=1;width=512/https%3A%2F%2Fmedia.loom-app.com%2Fgizmodo%2Fdist%2Fimages%2F2023%2F08%2F10%2F01148ce55498c0c89cf56e17059aed40.jpg%3Fw%3D1280%26h%3D630%26f%3Djpg)