近年のMicrosoftはAIの可能性に着目して多額の投資を行っており、AI研究団体のOpenAIが開発した対話型AI「ChatGPT」の改良版を組み込んだ検索エンジン「Bing」の新バージョンを2023年2月に発表しました。このBingに組み込まれたAIを「プロンプトインジェクション攻撃」という手法でだますことで、Microsoftが最初にAIへ指示した内容や秘密のコードネームが明らかになったと研究者が報告しています。 AI-powered Bing Chat spills its secrets via prompt injection attack | Ars Technica https://arstechnica.com/information-technology/2023/02/ai-powered-bing-chat-spills-its-secrets-via-promp
![検索エンジンBingに搭載されたAIが人間にだまされてあっさり秘密を暴露、コードネームが「Sydney」であることやMicrosoftの指示が明らかに](https://cdn-ak-scissors.b.st-hatena.com/image/square/11238a1a61f759fbe25ef2e0a75c326d3afa28c8/height=288;version=1;width=512/https%3A%2F%2Fi.gzn.jp%2Fimg%2F2023%2F02%2F14%2Fbing-chatgpt-discloses-secrets%2F00.jpg)