【悲報】ChatGPTが新車を1ドルで勝手に売ってくる事案が発生｜ﾊﾟﾄﾙ | AI x Biz
こんにちは、パトルです。 2023年12月17日、カルフォルニアのシボレーの販売店で使われている顧客対応用のChatGPTが、プロンプトインジェクション（AIのハッキングみたいなやつ）にあって、多大な特典を付与したり、新車を1ドルで売ってしまう事案が発生しました。 今回は、このショッキングな事案の概要、どういうプロンプトインジェクションが用いられたのか、損害状況などを解説しながら、プロンプトインジェクションのリスクを勉強したいと思います。 概要今回の舞台はカルフォルニアのワトソンビルという地区にあるシボレーのディーラーのホームページに設置されていたセールチャットボットです。URLはこちらです。（残念ながら12/22時点ではChatGPTは外されています） https://www.chevroletofwatsonville.com/ChatGPTは、商品を説明するという位置づけで導入されて
マイクロソフト、もしもCopilotの利用者が著作権侵害で訴えられたら、賠償金を代わりに支払うと約束。「Copilot Copyright Commitment」を発表
マイクロソフトは、同社が提供する生成AIによるさまざまな支援機能を提供する「Copilot」製品群が、著作権侵害の心配なく使えると約束する「Copilot Copyright Commitment」を発表しました（英語、日本語） マイクロソフトは、生成AIがソースコードを生成してくれるGitHub Copilotや、プレゼン資料などを生成してくれる「Microsoft 365 Copilot」など、生成AIを活用した「Copilot」製品群を積極的に展開しています。 一方で、こうした生成的AIは既存のソースコード、画像、文書などを学習しているため、何らかの要因で既存のソースコードや画像、文書の複製に相当するものが生成され、それを知らずに利用した場合に利用者が著作権侵害により訴えられる可能性があるのではないか、と心配されています。 今回のマイクロソフトの発表した「Copilot Copyri
Microsoft、生成AI「Copilot」の企業顧客が著作権侵害で提訴されたら「責任を持つ」
米Microsoftは9月7日（現地時間）、同社が企業向けに提供している一連の生成AIツール「Copilot」の顧客に対し、このサービス使用中に著作権侵害で訴訟を起こされた場合、法的責任を負うと発表した。 副会長兼プレジデントのブラッド・スミス氏は公式ブログで、「Copilot Copyright Commitment」と呼ぶ新たな取り組みについて説明した。 生成AIツールに関しては、Authors Guild（全米作家協会）がMicrosoftのサティア・ナデラCEOを含む主な企業のCEO宛に作品をトレーニングに使うなという書簡を送るなど、著作権侵害の懸念が高まっており、「一部の顧客も訴訟リスクを懸念している」とスミス氏。 この懸念に対処するため、新たなコミットメントの下、商用顧客が提訴された場合、「当社は顧客を弁護し、顧客が使用していた限り、訴訟の結果生じる不利な判決または和解金を支払
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
