ChatGPTを社内導入する企業が増えるなかで、アプリやWebサービス自体に「ChatGPTが組み込まれる」時代はもう始まりつつある。これはChatGPTに限らず、他の大規模言語モデル(LLM)も含めての、ビジネス環境の変化だ。 エレクトロニクス・情報通信専門商社のマクニカは4月21日、「ChatGPT悪用によるサイバーリスク」セミナーを開いた。5月15日からオンライン開催する「Macnica Security Forum 2023」に先駆けて、メディア向けに課題提起をした形だ。 マクニカ セキュリティ研究センター主幹の凌翔太氏によると、現在考えられるChatGPTを悪用した攻撃シナリオは、大きく2つあるという。 1つは「攻撃者によるChatGPTの悪用」、もう1つは、今後増えるであろう「ChatGPTを組み込んだシステムに対する攻撃」だ。 どんな攻撃があり、その対策はどういう手法なのか。
![ChatGPTめぐる「プロンプトインジェクション」攻撃とは何か。セキュリティー専門家が警鐘、2023年に急増予想も](https://cdn-ak-scissors.b.st-hatena.com/image/square/274e15755771bd335b5ff7bf91255e1af0964bbb/height=288;version=1;width=512/https%3A%2F%2Fmedia.loom-app.com%2Fbi%2Fdist%2Fimages%2F2023%2F04%2F23%2Fchatgpt_taisaku-3-2.jpg%3Fw%3D1280%26h%3D630%26f%3Djpg)