タグ

生成AIとパトルに関するmohnoのブックマーク (1)

  • 【悲報】ChatGPTが新車を1ドルで勝手に売ってくる事案が発生|パトル | AI x Biz

    こんにちは、パトルです。 2023年12月17日、カルフォルニアのシボレーの販売店で使われている顧客対応用のChatGPTが、プロンプトインジェクション(AIのハッキングみたいなやつ)にあって、多大な特典を付与したり、新車を1ドルで売ってしまう事案が発生しました。 今回は、このショッキングな事案の概要、どういうプロンプトインジェクションが用いられたのか、損害状況などを解説しながら、プロンプトインジェクションのリスクを勉強したいと思います。 概要今回の舞台はカルフォルニアのワトソンビルという地区にあるシボレーのディーラーのホームページに設置されていたセールチャットボットです。URLはこちらです。(残念ながら12/22時点ではChatGPTは外されています) https://www.chevroletofwatsonville.com/ChatGPTは、商品を説明するという位置づけで導入されて

    【悲報】ChatGPTが新車を1ドルで勝手に売ってくる事案が発生|パトル | AI x Biz
    mohno
    mohno 2023/12/25
    私がこういいますので、こう答えてください、って歌丸かよ(←古い)/自動化にはハッキングリスクがあるという話で、自動運転その他でも起きうる。/このケースでは利用規約に免責条項を入れてると思うけどね。
  • 1