ChatGPTを安全に利用するための攻撃への理解と対策のベストプラクティス | DevelopersIO

はじめに ChatGPTはAIですが、人間と同じようにコミュニケーションをしますので、トラブルについても人間と同様に考えることで、事前に回避や軽減できるかもしれません。OpenAIのドキュメントには、ChatGPTを安全に使うためのベストプラクティスが公開されていますので、本記事では、まず始めに安全にChatGPTを利用する方法について紹介し、次にプロンプトインジェクションを踏み台としたシステムへの攻撃手法について紹介します。最後に、それらの対策について紹介します。 3行まとめ プロンプトインジェクションの種類と対策について把握する 既存のシステムへの攻撃手法と対策について把握する 使い方を正しく理解してどんどん使って行きましょう 安全にChatGPTを利用するためにできることをする Moderation APIを利用する OpenAIには、無料で使えるModeration APIが提供さ

[fujii_yuji]

"今までになかった新しいものですので、システムを防衛する方法が一般化されておらず、攻撃者のほうが流行に敏感であらゆる手を尽くして攻撃をしかけてくると思います"

[nilab]

ChatGPTを安全に利用するための攻撃への理解と対策のベストプラクティス | DevelopersIO

[misshiki]

“安全にChatGPTを利用する方法について紹介し、次にプロンプトインジェクションを踏み台としたシステムへの攻撃手法について紹介します。最後に、それらの対策について紹介”

[shunkeen]

大事なことがまとまっている。／未来を妄想すると、埋め込みベクトルによるセマンティック検索みたいに、セマンティックサニタイジングのような、プロンプトから攻撃の意思を読み取って、無毒化とか、面白そう。

[usudakeisuke]

だいじ