【悲報】ChatGPTが新車を1ドルで勝手に売ってくる事案が発生｜ﾊﾟﾄﾙ | AI x Biz
こんにちは、パトルです。 2023年12月17日、カルフォルニアのシボレーの販売店で使われている顧客対応用のChatGPTが、プロンプトインジェクション（AIのハッキングみたいなやつ）にあって、多大な特典を付与したり、新車を1ドルで売ってしまう事案が発生しました。 今回は、このショッキングな事案の概要、どういうプロンプトインジェクションが用いられたのか、損害状況などを解説しながら、プロンプトインジェクションのリスクを勉強したいと思います。 概要今回の舞台はカルフォルニアのワトソンビルという地区にあるシボレーのディーラーのホームページに設置されていたセールチャットボットです。URLはこちらです。（残念ながら12/22時点ではChatGPTは外されています） https://www.chevroletofwatsonville.com/ChatGPTは、商品を説明するという位置づけで導入されて
テスラの自律運転AI、ドローンに照射された｢幽霊｣画像にダマされる
テスラの自律運転AI、ドローンに照射された｢幽霊｣画像にダマされる2020.03.02 07:0011,988 岡本玄介 どっちかというと『オペラ座の怪人』のファントム（幽霊）だそうです。 ニューラル・ネットワークが信号の色や障害物などを検知しながら走るTeslaの自律運転。Tesla車はLiDER（レーザーを利用した距離センサー）を使わず各種のカメラを使っているのですが、路上や路肩の木々に人物や交通標識をプロジェクター照射すると、それに騙されてしまうことが判明しました。 幽霊にドッキリするTesla車この研究を行ったのは、イスラエルのネゲヴ・ベン＝グリオン大学にある、サイバー・セキュリティー研究センター。彼らは照射された｢幽霊｣画像を人間だと誤認した車両が、急ブレーキをかける可能性があることを報告しています。 Video: Cyber Security Labs @ Ben Gurion
「最後まで人間だと認識できず」UberのAI車、初の死亡事故が起きた理由（平和博） - エキスパート - Yahoo!ニュース
歩行者をはねたAIは、最後までそれが「人間」だと認識できなかった――。 米国家運輸安全委員会（NTSB）は、2018年3月に米アリゾナ州フェニックス郊外で起きたウーバー（Uber）の自動運転車による歩行者死亡事故に関する報告書を公表した。 米国内ではこのほかにテスラの自動運転車による２件の死亡事故が明らかになっているが、いずれも犠牲となったのは運転していたドライバー。自動運転車による死亡事故で歩行者が犠牲になったのは、この件が初めてだった。 440ページにのぼる報告書では、ウーバー車のAIは車道に歩行者がいることをそもそも想定していなかったため、最後まで「歩行者」とは認識できていなかったことが、明らかにされた。 また、急ブレーキも作動しないなど、様々なシステムの欠陥の連鎖があったことが指摘されている。 一方、この死亡事故の余波で、フェニックス郊外の別の街ではグーグル系列の自動運転車に対し、
ドライバーの行動を学んでカーナビが“成長”--ドコモら3社がAIエージェント開発
NTTドコモ、ゼンリン、ゼンリンデータコムは4月17日、AI技術を活用した自動車向け音声エージェントサービス「AIインフォテイメントサービス」を共同開発し、法人企業向けに提供を開始したと発表した。 このサービスは、NTTドコモが持つ「自然対話技術」「行動先読み技術」「高度情報検索技術」といったAI技術と、ゼンリンのカーナビ向け地図コンテンツの利用に必要なゼンリンデータコムの検索エンジンをそれぞれ開発し、カーナビメーカーなどに提供するもの。 自然対話技術により、ドライブ中に必要な全ての操作が音声で可能なため、従来のカーナビのように目的地検索の際に住所や電話番号を一文字ずつ入力するといった煩わしい操作が不要となり、運転中でも安全に操作できる。さらに、会話を重ねることでドライバーの趣味や嗜好に合わせた情報を配信。自分だけのカーナビに成長するという。 加えて、ドライバーが高頻度で訪れる場所やよく利
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
タイでテスラの自動運転を使おうとしても想定外のことが起きすぎるので無理なのではないか？「これはAIでは回避できない」「これから学習していく？」
HONDAの人工知能は車種によって“天下一品ラーメン”のマークと“進入禁止”の標識を見分けられない！？→実際に天下一品に近づいてみた結果
