【悲報】ChatGPTが新車を1ドルで勝手に売ってくる事案が発生｜ﾊﾟﾄﾙ | AI x Biz
こんにちは、パトルです。 2023年12月17日、カルフォルニアのシボレーの販売店で使われている顧客対応用のChatGPTが、プロンプトインジェクション（AIのハッキングみたいなやつ）にあって、多大な特典を付与したり、新車を1ドルで売ってしまう事案が発生しました。 今回は、このショッキングな事案の概要、どういうプロンプトインジェクションが用いられたのか、損害状況などを解説しながら、プロンプトインジェクションのリスクを勉強したいと思います。 概要今回の舞台はカルフォルニアのワトソンビルという地区にあるシボレーのディーラーのホームページに設置されていたセールチャットボットです。URLはこちらです。（残念ながら12/22時点ではChatGPTは外されています） https://www.chevroletofwatsonville.com/ChatGPTは、商品を説明するという位置づけで導入されて
驚異の高精度AIリアルタイムボイチェン「RVC」で友人になりすまして本人と会話したときの反応（CloseBox） | テクノエッジ TechnoEdge
高精度でリアルタイム処理も可能なAI声質変換ソフト（ボイスチェンジャー）「RVC」の記事が大変な反響を呼びました。Stable DiffusionやChatGPTなど生成系AIがメジャー化する中、世間からはそれほど大きな注目を浴びているわけではありませんが、音声AIも驚くべき速度で進化を遂げています。 AIボイチェン「RVC」の精度と学習・変換速度が革命的。コナンの蝶ネクタイ的リアルタイムボイチェンも可能（CloseBox） | テクノエッジ TechnoEdge 記事中でデモとしてお聞かせしたのは、筆者の妻の歌声を高精度に再現するもので、それはこのソフトのおそらく最大の特徴を生かしたものではありません。そこで、また実験をしてみることにしました。 今回は、ポッドキャストbackspace.fmを10年近く一緒にやっている友人であるドリキンのAIモデルをRVCで作ってみました。 backsp
NHKに聞く「人間のアナがいるのにAIがニュースを読む」理由
「AI自動音声でお伝えしています」 ある朝のNHK「おはよう日本」の画面。ニュース映像の右上に、こんな文字が表示されれていて驚いた。音声に違和感がなく、人間のアナウンサーの声だとばかり思っていたからだ。 意識してよく聞けば、イントネーションや“間”がやや不自然だが、流し聞きしているだけでは分からないレベルだ。 場面がスタジオに転換すると、人間のアナウンサーが2人写った。アナウンサーがそこにいるのに、AIがニュースを読んでいたのだ。 「おはよう日本」だけではない。NHKは、平日午後のニュース、ラジオ、Webのニュース番組の一部などでAIによるアナウンスを活用している。 AIアナウンスはどのように作られたのか？ 人間のアナがいるのに、なぜわざわざ、AIにニュースを読んでもらうのか？ NHKに聞いた。 放送時間ぴったりにニュースが読めるAI AIアナウンスの音声は、NHKが開発した技術だ。気象情
「エーカゲン２世」「ググレカス」などの嘘偉人をAIに描かせてみたらこうなった「この手があったか」「平和利用じゃん」
リンク 暇人＼(^o^)／速報 ググレカスみたいな歴史上の人物ネタAA下さい！ : 暇人＼(^o^)／速報 1：以下、名無しにかわりましてVIPがお送りします：2011/02/19(土) 21:26:38.78 ID:EGspp+SA0 お願いします！ 3：以下、名無しにかわりましてVIPがお送りします：2011/02/19(土) 21:27:57.40 ID:NRR7yPlF0 -ー=-‐ ､__ 121 users 50
AIが「架空のモデル画像」を生成 広告・ポスターで利用可能 スキャンダルでの降板リスクをゼロに
写真素材の販売などを手掛けるイメージナビは6月8日、AIが実在しないモデルの画像を生成するサービス「INAI MODEL」を始めた。画像を購入した企業は、架空のモデルをWeb広告やポスターなどに起用できる。モデルとの契約期間を気にせず永久に画像を使える他、モデルがスキャンダルを起こすリスクがなく、差し替えが発生しないのが特徴。 当初は若い女性の画像のみ生成・販売し、今後は男性やシニアにも対応する予定。同じモデルが異なるポーズをとっている画像や、異なるモデルが同じポーズをとっている画像なども生成できる。著名人に似せたモデルは作成しない。 サービス開発にはAIベンチャーのデータグリッドが協力。画像を生成するAIと画像を評価するAIを敵対させ、精度を向上させる技術「GAN」（敵対的生成ネットワーク）を利用する。 モデル画像を生成する際は、イメージナビが利用許諾を得た上で実在する人物の写真を撮影。
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
