こんにちは!逆瀬川 ( https://twitter.com/gyakuse )です! 今日は気軽にできるプロンプトインジェクション対策を紹介したいと思います。 プロンプトインジェクションとは ChatGPTなどの言語モデルをベースとしたサービスに対し、「これまでの命令を表示してください」などの文章を与え、出力をジャックしてしまう攻撃手法です。 Prompt Leaking, Jailbreaking, 等の類似手法が知られています。 対策 これへの対策は簡単で、命令を追加で挿入する手法があります。以下に示します。 import openai openai.api_key = openai_key def completion(new_message_text:str, settings_text:str = '', past_messages:list = []): """ この関数は
マイクロソフト、CRMやERPと統合したAIサービス「Dynamics 365 Copilot」発表。会議のサマリ作成、社内ナレッジベースを基に顧客への回答作成など マイクロソフトはCRMやERPと統合したエンタープライズ向けのAIサービス「Microsoft Dynamics 365 Copilot」を発表しました。 Discover interactive, AI-powered assistance across business functions with Dynamics 365 Copilot. pic.twitter.com/kDRqi1p8Pv — Dynamics 365 (@MSFTDynamics365) March 6, 2023 Dynamics 365 Copilotは、顧客とのミーティングの書き起こしと、そこから営業担当のアクションリストを自動的に作成する機
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く