【悲報】ChatGPTが新車を1ドルで勝手に売ってくる事案が発生｜ﾊﾟﾄﾙ | AI x Biz
こんにちは、パトルです。 2023年12月17日、カルフォルニアのシボレーの販売店で使われている顧客対応用のChatGPTが、プロンプトインジェクション（AIのハッキングみたいなやつ）にあって、多大な特典を付与したり、新車を1ドルで売ってしまう事案が発生しました。 今回は、このショッキングな事案の概要、どういうプロンプトインジェクションが用いられたのか、損害状況などを解説しながら、プロンプトインジェクションのリスクを勉強したいと思います。 概要今回の舞台はカルフォルニアのワトソンビルという地区にあるシボレーのディーラーのホームページに設置されていたセールチャットボットです。URLはこちらです。（残念ながら12/22時点ではChatGPTは外されています） https://www.chevroletofwatsonville.com/ChatGPTは、商品を説明するという位置づけで導入されて
｢生成AIでゲームキャラと対話｣が困難な意外事情
コンテンツブロックが有効であることを検知しました。 このサイトを利用するには、コンテンツブロック機能（広告ブロック機能を持つ拡張機能等）を無効にしてページを再読み込みしてください。 ✕
「正答率62.5％→94.1%」に改善も...三豊市 “チャットGPT” を使ったゴミ出し案内 実証実験の結果、導入を断念【香川】 | TBS NEWS DIG
香川県三豊市は、今年6月から東京大学大学院と実証実験を進めてきた「チャットGPT」を使ったゴミ出し案内の導入を断念すると発表しました。三豊市では、東京大学大学院工学系研究科の松尾研究室と協力して、今年6…
ノンフィクション作家ら、OpenAIとマイクロソフトを著作権侵害で提訴 | Forbes JAPAN 公式サイト（フォーブス ジャパン）
OpenAIとマイクロソフトは11月21日、人工知能（AI）チャットボットのChatGPTとその後期バージョンが、ノンフィクション作家の著作物などを無断で学習に使用したと主張する集団訴訟を起こされた。 この訴訟は、前CEOのサム・アルトマンの突然の更迭後のOpenAIが、混乱に陥っている中で起こされたもので、ニューヨーク・タイムズ紙のベストセラー『人類初の南極越冬船 ベルジカ号の記録（原題：Madhouse at the End of the Earth）』の著者のジュリアン・サンクトンが原告団を率いている。 サンクトンはこの本の調査のために、5年の歳月と数万ドルを費やして世界中を旅したとされる。法律事務所Susman Godfrey LLPが提出した訴状によると、ChatGPTは、サンクトンの著書がチャットボットの訓練に使われたデータセットの一部であることを認めたという。 サンクトンと数
全人類のための暗号通貨＆身分証｢Worldcoin｣。利用前に瞳スキャンしてみた
全人類のための暗号通貨＆身分証｢Worldcoin｣。利用前に瞳スキャンしてみた2023.08.02 22:0023,575 そうこ それに伴いWorldアプリもリリース。日本のAppleアプリストア、Googleプレイストアでもすでに配布されています。 どんなアプリなんだろ？という話の前に、Worldcoinについてちらっと。 Worldcoinの登録には、ユーザーが自分の瞳の虹彩をスキャンする必要があり、これがサービス最大の特徴。その虹彩スキャンを行なうのが、Orbと呼ばれる球体のスキャンマシンです。 Image: Worldcoin世界でいち早くWorldcoinユーザーになろうと、Orbの登録場所では一部長蛇の列ができたところも。 day 3 of @worldcoin launch, crazy lines around the world. one person getting
ソフトウェア開発者、生成AIに警戒感も
人工知能（AI）、特に生成AIは、ソフトウェア開発者やその他のITプロフェッショナルの役割と仕事を変えると期待されている。しかし、そのすべてが比較的未成熟であり、専門家たちは熱意と警戒心の両方を持って取り組みを進めている。 エンジニアのためのQ&Aサイトを手がけるStack Overflowが開発者約9万人を対象に実施した最新の調査（6月公開）によると、回答者の44％は開発業務でAIツールを利用しており、さらに25％は近い将来AIを利用することに前向きであることが分かった。とはいえ、AIによって得られるものを信頼するかどうかについては、意見が分かれている。AIによるアウトプットを「非常に信頼している」のはわずか3％で、39％は「やや信頼している」と、慎重な姿勢を示した。4人に1人を超える28％は、AIを信頼していない。 つまり、AIは素晴らしいものかもしれないが、注意を要するということだ。
［速報］ChatGPTを組み込んだ「Microsoft 365 Copilot」は月額30ドルの追加料金で提供。マイクロソフトが発表。Inspire 2023
［速報］ChatGPTを組み込んだ「Microsoft 365 Copilot」は月額30ドルの追加料金で提供。マイクロソフトが発表。Inspire 2023 マイクロソフトは、日本時間7月19日未明から開催中のパートナー向け年次イベント「Microsoft Inspire 2023」において、Microsoft 365にChatGPTベースのAI機能を組み込んだ「Microsoft 365 Copilot」を1ユーザー当たり月額30ドルの追加料金で提供することを発表しました。 2023年3月に行われたMicrosoft 365 Copilot発表時の様子。左はModern Work & Business Applications担当CVP Jared Spataro氏 Microsoft 365に自動生成機能などを追加 Microsoft 365 Copilotは、Outlookによる過
このコンテンツはAI生成です…と明示することがEUで義務化へ
このコンテンツはAI生成です…と明示することがEUで義務化へ2023.06.09 16:008,957 Kyle Barr - Gizmodo US ［原文］ （ 湯木進悟 ） 日本ではどうなる？ 今AIやChatGPTが大いに話題です。でも、すべてが歓迎されているというわけではなく、EUでは規制強化によって危険な兆候を抑え込もうという動きが活発化していますね。 そして今夏からは、Google（グーグル）をはじめとするプラットフォーム企業に対し、表示されているものがAI生成されたものか、オリジナルのものなのかを、はっきりとユーザーに示すことが義務づけられるようになるみたいですよ！ AI生成コンテンツの明示を法律で義務づけこのほどEUは、今年8月25日から適用されるという、新たなデジタルサービス法（DSA）のもとでの規制法案について発表しました。 先月から大手企業や政府関係者らが会合を重ね、
人間が生成AIに依存したら 責任はどこへ？ 哲学者が懸念する未来 | 毎日新聞
生成AIの活用と未来像について語る哲学者の戸谷洋志さん＝大阪府枚方市の関西外大で2023年5月23日、三村政司撮影 もしも「チャットGPT」などの生成AI（人工知能）に人々が依存するようになったら、どんな未来が待っているのだろうか。 哲学者の戸谷洋志さん（35）は、2022年刊行の著書『スマートな悪』（講談社）で、余計な手続きを排除する「スマート化」に価値を置く社会に警鐘を鳴らした。科学技術と倫理について研究する戸谷さんは、人間に代わって意思決定するような生成AIの活用をどう考えるか。キーワードとして「責任」を挙げた。 ――生成AIの先行きをどう見ていますか？ ◆これからどうなるか見通しがつかない、というのが率直なところです。特にチャットGPTは急速に浸透しているようにも見えますが、今はまだ使って遊ぶ「おもちゃ」にとどまっています。 ただ、それが飽きられて終わると考えるのは、一つの見方でし
人の仕事の80％はAIが担う 世界的研究者インタビュー
ベン・ゲーツェル氏とAIロボットの「デズデモーナ」。ブラジル・リオデジャネイロで開催された「ウェブサミット2023」で（2023年5月3日撮影）。(c)MAURO PIMENTEL / AFP 【5月21日 AFP】ブラジル出身の人工知能（AI）研究の第一人者ベン・ゲーツェル（Ben Goertzel）氏（56）はこのほど、AFPのインタビューに応じ、AIは数年後、人の仕事の80％を担うかもしれないが、それはいいことだとの見解を示した。 数学者で認知科学者でもあり、ロボットクリエーターとしても知られるゲーツェル氏は現在、人の認知能力を持つAI「汎用（はんよう）人工知能（AGI）」を開発する研究グループ「シンギュラリティネット（SingularityNET）」の最高経営責任者（CEO）を務めている。 ゲーツェル氏は今月、ブラジル・リオデジャネイロで開催された世界最大級のテクノロジーカンファレ
GPT-4搭載の「新しいBing」、誰でも利用可能に 新機能も多数追加
米Microsoftは5月4日（現地時間）、2月に限定プレビューした「新しいBing」を「オープンプレビュー」に移行し、ウェイティングリストに登録せずに誰でも利用できるようにした。また、多数の新機能も発表した。新機能の詳細は、23日から開催の年次開発者会議「Build 2023」で発表する計画だ。 MicrosoftアカウントでBingにサインインするだけで、誰でも新しいBingとEdgeを使えるようになった。 主な新機能を以下に紹介する。本稿執筆現在、筆者の環境ではまだ使えないものもあり、それがロールアウト中だからなのか、米国限定なのかは不明だ。Buildでより具体的な説明があると期待したい。 回答がよりビジュアルに これまでBingチャットの回答はテキストのみだったが、質問内容によっては画像や動画も盛り込まれるようになる。 また、質問に画像や動画のURLを含めると、それらに関して説明す
チャットGPTの本当の衝撃、プログラマーの仕事が消えていく 日本のプログラミング教育に大打撃、本物の科学・芸術教育を | JBpress (ジェイビープレス)
いまやプログラミングは、チャットGPT（自動生成AI）にリクエストすれば、ソースコードが打ち出される時代に・・・。 文科省が義務教育に導入している「プログラミング教育」は大半が完全に時代遅れになる可能性も・・・。 新年度に入って本連載の出稿頻度が下がっています。 理由は5月20日から東京都美術館で開催される「芸術と科学の新しい挨拶」展と、オープニングの演奏会の準備で、ほとんどすべての時間を取られているからで、今回はまずそのご紹介から始めたいと思います。 タレントを「ミュージシャン」と称して売り出すビジネスと無関係に、私自身一職人で仕事しているため、時間が足りなくなっています。 ご紹介するこの展覧会は、日本で初めて、興味本位ではなく真面目に遊ぶと大学入試レベルの学力増強に直結する「アート＆サイエンス」新潮流のエギジビションとして開催するものです。 特に学齢のお子さんをお持ちの親御さんには、ご
「ChatGPTを超える」AI開発へ、培養脳細胞で豪スタートアップが13億円調達 | Ledge.ai
サインインした状態で「いいね」を押すと、マイページの 「いいね履歴」に一覧として保存されていくので、 再度読みたくなった時や、あとでじっくり読みたいときに便利です。
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
OpenAI がまたやった！OpenAI DevDay 総まとめ｜ChatGPT研究所
「生成AIを仕事で使い倒す人たち」に取材して回ったら「自分の10年後の失業」が見えてしまった
ついに音声対話できるようになった ChatGPT が引くほど自然でなんか凄いし怖い「もうこれ人間じゃん!」
面倒な「ダミーデータ作成」をChatGPTに任せる〜Code Interpreterの限界までリアリティを追求した作業の記録【イニシャルB】
Musk Buys AI.com from OpenAI
オープンＡＩ、チャットＧＰＴ開発で損失5.4億ドルに倍増＝報道
EU、生成AIに表示義務づけへ 政策トップ「技術規制役立たない」：朝日新聞
