ChatGPTとセキュリティに関わる課題

NECサイバーセキュリティ戦略統括部セキュリティ技術センターの角丸です。ChatGPT [1]の悪用やセキュリティリスク [2]などの議論が活発に行われ始めています。本ブログでは、ChatGPTとセキュリティに関わる課題について以下の観点で考えてみたいと思います。 みなさんはChatGPTをご存じでしょうか？使ったことがありますか？OpenAIというアメリカの研究所が開発した対話型のAIチャットボットです。 私達が普段使っている言葉、自然言語を利用してあたかも会話しているかのように私達のさまざまな入力に対して回答をしてくれます。 もともと自然言語系のAIとして大規模言語モデルのGPT-3 [3]というものがありました。GPT-3は入力された文章にどの様な文章（単語）が続くかというのを考えて回答を返すモデルです。たとえば、「車の燃料は」という入力に対して「ガソリン」という回答を返すイメージで

[misshiki]

“ChatGPTとセキュリティに関わる課題についてまとめ”

[s_nagano]

“ChatGPTの利用規約 [5]では、利用者が入力した情報はChatGPTの学習データとして活用されることに同意が求められています（無料版）”