電気自動車メーカーのテスラが販売する2023年型「モデルY」で、走行中にハンドルが外れる事故が発生しました。アメリカ運輸省道路交通安全局(NHTSA)は、事故を受けて約12万台の車両に対する調査を始めています。 DOT NHTSA ODI Document - INOA-PE23003-5769 (PDFファイル)https://static.nhtsa.gov/odi/inv/2023/INOA-PE23003-5769.PDF U.S. investigating Tesla after steering wheels detach from Model Y https://www.cnbc.com/2023/03/08/us-investigating-tesla-after-steering-wheels-detached-from-model-y.html 2023年1月24日に

こんにちは！逆瀬川 ( https://twitter.com/gyakuse )です！ 今日は気軽にできるプロンプトインジェクション対策を紹介したいと思います。 プロンプトインジェクションとは ChatGPTなどの言語モデルをベースとしたサービスに対し、「これまでの命令を表示してください」などの文章を与え、出力をジャックしてしまう攻撃手法です。 Prompt Leaking, Jailbreaking, 等の類似手法が知られています。 対策 これへの対策は簡単で、命令を追加で挿入する手法があります。以下に示します。 import openai openai.api_key = openai_key def completion(new_message_text:str, settings_text:str = '', past_messages:list = []): """ この関数は