マイクロソフトは2月8日、「ChatGPT」に似たチャットAIを搭載した「新しいBing」を発表しました。しかしその翌日に、このチャットAIに隠された情報を、スタンフォード大学の学生ケビン・リュー氏がAIとの対話によって解き明かしています。 *Category:テクノロジー Technology *Source:Ars technica ,@kliu128 BingのチャットAIが「秘密の設定」を漏らしてしまう 一般的な大規模言語モデル(GPT-3や ChatGPTなど)は、学習中に「学習」した大量のテキスト素材から、一連の単語の次に来るものを予測することで動作するものです。開発者は、チャットAIの初期条件を設定するために、ユーザーからの入力を受けたときの動作を指示する初期プロンプト、つまりはキャラ設定のようなものを決めています。 今回リュー氏が仕掛けたのは「プロンプト・インジェクション」
![AI対応「新Bing」が素直すぎて秘密情報バラしまくり | AppBank](https://cdn-ak-scissors.b.st-hatena.com/image/square/7705cc9c12e5c257f83c22694c5f458a27c27565/height=288;version=1;width=512/https%3A%2F%2Fwww.appbank.net%2Fwp-content%2Fuploads%2F2023%2F02%2F2023-0213-bing-thumb-1.jpeg)