ChatGPTにパスワード認証機能を付けて破ってみた 簡易的に学ぶ「プロンプトインジェクション」

どんな質問にも“それらしい答え”を返してくれるAIチャットサービス「ChatGPT」。3月には大規模言語モデル「GPT-4」を搭載するなど進化を続けている。では、人間には答えにくい質問や、答えのない問い、ひっかけ問題を尋ねてみたらどんな反応を見せるのか。 本連載では、ChatGPTにさまざまな問題を投げかけて、どんな答えを返すか試してみる。その反応からAIの可能性、テクノロジーの奥深さ、AIが人間に与える“示唆”を感じ取ってほしい。 ChatGPTにパスワードを掛けてみる 今回は、ChatGPTに簡易的なパスワード認証機能を付けて、正しいパスワードを入力しないと会話できないようにしてみる。まずは以下のような指示で簡単なパスワード認証機能を作り、その後は普通に会話を試みてみる。 プロンプトはあえて穴のある設定にしている。なお、ChatGPTのβ機能「Custom instructions」を

[ys0000]

認証処理をわざわざchatGPTで実装する訳がないので、思考実験以外の意味合いはない。これがプロンプトインジェクションに該当するかも怪しいところだね。

[shields-pikes]

頭が悪すぎる記事。よくこの程度のChatGPTの理解レベルで、プロンプトインジェクションの記事を書こうなんて思ったもんだ。こんなの、最初にセキュリティごっこを提案して、途中からハッカーごっこに切り替えただけ。