【悲報】ChatGPTが新車を1ドルで勝手に売ってくる事案が発生｜ﾊﾟﾄﾙ | AI x Biz
こんにちは、パトルです。 2023年12月17日、カルフォルニアのシボレーの販売店で使われている顧客対応用のChatGPTが、プロンプトインジェクション（AIのハッキングみたいなやつ）にあって、多大な特典を付与したり、新車を1ドルで売ってしまう事案が発生しました。 今回は、このショッキングな事案の概要、どういうプロンプトインジェクションが用いられたのか、損害状況などを解説しながら、プロンプトインジェクションのリスクを勉強したいと思います。 概要今回の舞台はカルフォルニアのワトソンビルという地区にあるシボレーのディーラーのホームページに設置されていたセールチャットボットです。URLはこちらです。（残念ながら12/22時点ではChatGPTは外されています） https://www.chevroletofwatsonville.com/ChatGPTは、商品を説明するという位置づけで導入されて
鵜野 幸一郎 | 著者 | IT Leaders
1971年慶應義塾大学経済学部卒業、日本IBM入社。渡米中に米IBMの同僚および米政府関係者に接したことで、国家・企業の運営において情報セキュリティ基盤の確立が必須であり、日本がOECD加盟各国の中では極めて脆弱なことを実感。日本IBM退社後、2002年に日本セキュアテック研究所を設立し、情報セキュリティとりわけ電子的本人認証および暗号鍵の運用を中心に研究している。 2011年には、日本セキュリティ・マネジメント学会（会長：佐々木良一東京電機大学教授）による「社会への提言」として『誰でも安心して使えるパスワードの実現に向けて』を代表世話人として発表したほか、バイオメトリクスと認識・認証シンポジウムにてセキュリティ製品サービスの優良誤認排除を趣旨とした『屋外環境における救済パスワード運用に関して』を発表した。2011～2013年かけては日本情報経済社会推進協会（JIPDEC）における電子的本
ヨーカドーはやばい
先日、引越しをした。引越し先の駅前にはバス乗り場があり、そこからシャトルバスに乗ることができる。ヨーカドー行きの無料バスだ。 ヨーカドーは駅前から15分の少し離れた場所にあるが、かえって住宅地に近いといえる好立地だ。ここには衣類、食料品、生活雑貨はもちろんのこと、薬、化粧品、書籍、CDやDVD、美容院、歯科、眼科、クリーニング、靴の修理、マッサージ、旅券の購入など、生活するうえで必要なありとあらゆるものが集積されている。 若者はヨーカドーの中のゲームセンターでプリクラを撮り、ヨーカドーの中のボウリング場でデートを楽しんでいる。家族連れはヨーカドーの中のマクドナルドでハッピーセットを注文している。爺さんはヨーカドーの中の保険屋で50歳から入れる保険の説明を熱心に聞いている。ヨーカドーには生活の全てがある。 昔は個人商店や中堅の商店も近所にあったと聞くが、ヨーカドーの出現が全てを変えてしまった
Virtual private network - Wikipedia
この記事は検証可能な参考文献や出典が全く示されていないか、不十分です。 出典を追加して記事の信頼性向上にご協力ください。（このテンプレートの使い方） 出典検索?: "Virtual private network" – ニュース · 書籍 · スカラー · CiNii · J-STAGE · NDL · dlib.jp · ジャパンサーチ · TWL (2023年7月) VPN接続の概略図 Virtual private network（バーチャルプライベートネットワーク、略称：VPN）、仮想プライベートネットワークは、大規模ネットワークのスケールメリットと管理設備を利用するために、パブリックネットワーク内に構成されるプライベートネットワークである[1]。また、インターネット（本来は公衆網である）に跨って、プライベートネットワークを拡張する技術、およびそのネットワークでもある。仮想専用線[
LINE、Android端末向け無料セキュリティ対策アプリ「LINE アンチウィルス」を公開 | プレスリリース・お知らせ - NAVERプレスセンター
LINE、Android端末向け無料セキュリティ対策アプリ 「LINE アンチウィルス」を公開 NHN Japan株式会社（本社：東京都渋谷区、代表取締役社長：森川 亮、以下 NHN Japan）は、同社が運営する無料通話・無料メールスマートフォンアプリ『LINE（ライン）』（http://line.naver.jp/）の連携サービスとして、Android端末向け無料セキュリティ対策アプリ「LINE アンチウィルス」を公開いたしましたのでお知らせいたします。 近年、スマートフォンの急速な普及に伴い、スマートフォンを狙った不正プログラムの数は急増しており社会的な問題に発展しています。特に「Google Play」などのAndroid端末向けアプリケーション・デジタルコンテンツ配信サービスにおいては、iPhoneと異なり審査プロセスが簡易的なため、悪意を持った不正プログラムを含むアプリが介在す
iOS6が Single App Mode を搭載で超絶進化！！ iOS6で最も恩恵を受けるのは実はエンタープライズ！！ - 業務用iOSアプリのfeedtailor社長ブログ
遂にリリースされたiOS6。 iPhone5よりも、Passbookよりも、地図よりも、Siriの強化よりも、最近のAppleからの発表全てを凌ぐ超ビッグニュースだと個人的に思ってるのですが、Single App Modeが遂に登場です！！ ｷﾀ━(ﾟ∀ﾟ)━! と言わずにいられるでしょうか。特にエンタープライズの世界ではiPad登場当初からずっとずっと求められていた機能。以前のブログで「推測」という事で書いていた、 Guided Accessと呼ばれるアクセシビリティの機能拡張で、どのような使用感で扱えるのかは不明ですが、もし文言通り/想像通りの挙動をするのであれば、エンタープライズなiOSの魅力は一段と輝きを増すに違いありません。なんと、 HOMEボタンを無効にできる!! タッチパネルが反応しない領域を設定出来る!! というのです。 ってな機能がそのまんま、いぁ、それ以上に！超超理想的
高木浩光さんへ、しっかりしてください - 最速転職研究会
技術者としての良心に従ってこの記事を書きます。俺はセキュリティとプライバシーの人ではなく、JavaScriptとUIの人である。法律の勉強だって自分の生活と業務に関わりのある範囲でしかしないだろう。しかし少なくともJavaScriptやブラウザが絡むような部分については、確実に自分のほうが理解していると思っている。高木浩光さんが、あからさまに間違ったことを書いたり、おかしなことを書いていたりしても、徐々に誰も指摘しなくなってきたと思う。おかしなこと書いていたとしても、非技術者から見たときに「多少過激な物言いだけど、あの人は専門家だから言っていることは正論なのだろう」とか、あるいは技術者から見た時でも、専門分野が違えば間違ったことが書かれていても気付けないということもあるだろう。 もう自分には分からなくなっている。誰にでも検証できるような事実関係の間違い、あるいは、技術的な間違いが含まれてい
朝日新聞デジタル：東京メトロ駅員、パスモでストーカー 乗車履歴を投稿
東京メトロの３０代の男性駅員が昨年、駅の業務用端末を使って、ストーカーの標的にしていた３０代の女性の乗車履歴を引き出し、インターネット上に公開していたことがわかった。女性から被害の申告を受けた東京メトロは昨年３月、駅員を懲戒解雇した。 女性によると、駅員は２００９年ごろから、帰宅時に女性の勤務先で待ち伏せるようになった。食事などにしつこく誘われ、夜道で尾行されたこともあった。 女性は、氏名や生年月日を登録する記名式のＩＣ乗車券「ＰＡＳＭＯ（パスモ）」を使っていた。昨年２月、ネットの匿名掲示板「２ちゃんねる」で自分の乗車履歴に関する投稿を発見。自宅の最寄り駅など約１カ月間に利用した首都圏の９駅と乗降した日付、利用したバス会社名などが書き込まれていた。 うち１駅はラブホテル街に近いとして、男性と性的関係を持ったのではという事実無根の内容も書かれた。女性の名前はなかったが、事実上個人を特定できる
高木浩光@自宅の日記 - ローソンと付き合うには友達を捨てる覚悟が必要
■ ローソンと付き合うには友達を捨てる覚悟が必要 当初3月末開始とされていた「LAWSON Wi-Fi」が、なぜか「当初の計画より事前テストに時間を要したため」として、遅れて4月6日から開始されたのだが、早速Twitterでこんな指摘が出ていた。 少なくともこういうのを「ログイン」と呼ぶのはやめて頂きたい。金融機関などでは、暗証番号に電話番号や誕生日を使うのをやめるよう利用者を啓発する活動にコストをかけてきたが、そうした労力を台無しにする。ローソンとしては、無料の無線LANを使わせるくらい、本人確認が甘くても自社の問題だから許されると思っているのだろうが、こういうやり方が社会に悪弊をもたらすことに気付いていないのか。 今回は、前回の日記で取り上げた「PASMOマイページ」の問題とは違って、「ログイン」で電話番号と誕生日を使用している。一般に、不正アクセス禁止法では、このような、IDと電話番
【Twitter実験】つぶやきだけで個人を特定できるのか？ | オモコロ
こんにちは、セブ山です。 みなさんはTwitterでどんなつぶやきをしていますか？ おそらく、今日の予定をつぶやいたり、ランチの写真をアップしたり、あなたの「今」を仲の良い友達に向けてつぶやいていることでしょう。 しかし、本当にそのツイートはあなたの友達だけが見ているのでしょうか？ もし、知らない誰かにあなたのつぶやきを覗かれていたとしたら…？ つぶやいた内容を手掛かりに個人を特定されてしまうかもしれませんよ！？ 今回は、そんな個人情報垂れ流し社会に警鐘を鳴らす実験をおこないます！！ ■ルール説明 １．Twitterの検索機能を使って「渋谷なう」とつぶやいているアカウントを探します。 ２．「渋谷なう」の検索結果をもとに、さらに詳細な個人情報を垂れ流しているアカウントを割り出します。 ３．そのアカウントのつぶやきをこっそり監視して、個人を特定し、実際に捕まえるためにハンター（セブ山）が渋谷の
顧客との接点は「ビッグデータ」にある
リアルタイムに時々刻々と生成される大量のデータから、いかに知見を見出してビジネス戦略に生かすか――。ビッグデータ活用が情報システムのあり方と企業戦略を大きく変えようとしている。ビッグデータに注力するITベンダーに、ビッグデータ活用の重要性および従来の戦略的データ活用との違いなどを聞いた。（聞き手は井上健太郎/田島篤＝ITpro） データの戦略的活用という点でBIとビッグデータの違いは何か。 BIからおさらいしていこう。BIを一言でまとめると、「生産・販売・開発といったさまざまな企業活動のなかで、現場で何が起きているかを、経営層や営業部門がリアルタイムに近い形で把握して、その場のビジネス判断に生かすこと」となる。 従来のBIの使われ方からすると、「既存の情報を集めてきて表示するだけ」と思われがちだが、これだけでも簡単ではない。国内の活動だけなら実現できているかもしれないが、海外進出先の現場で
LINEの個人情報の扱いはちょっと危ないのでは？の話
◆27日20:45に規約改定の旨について追記しました。 詳細： http://naverland.naver.jp/?p=6370 「LINE利用のために収集するアドレス帳内の情報は、LINE利用登録の際に、利用者がアドレス帳に登録されている電話番号および携帯電話用メールアドレスを利用して友だちを追加する機能を有効化した場合に限り取得します。 アドレス帳情報を利用したくない場合は、この情報を利用しなくてもLINEをご利用いただけます。 現行の利用規約では、上記の内容を詳しく記載しておらず、アドレス帳内の情報をすべて取得することが必須であるという誤解を招きかねない記載であるため、実態に合わせて、以下のように利用規約の改定を行いました。」 続きを読む
Google、プライバシーポリシーと利用規約を更新へ データの横断収集でターゲティングを強化
米Googleは1月24日（現地時間）、同社のすべてのサービスに関するプライバシーポリシーと利用規約を更新すると発表した。3月1日に発効する。これまで各サービスごとにあったプライバシーポリシーが1つに統一される。Googleは、さまざまなサービスでのユーザーの利用履歴や情報を包括的に収集できるようになり、ターゲティング広告や提供コンテンツの確度を高められるようになる。Googleは「ユーザーをGoogleの各種サービスすべてで共通して1人のユーザーとして扱うことができる」と説明する。 同社は同日から、全ユーザーにメールやGoogle検索のトップページなどでこの変更について告知していく。トップページには既に告知が掲載されており、「ポリシーと原則」というページが用意された。 主な変更点は、ユーザーがGoogleアカウントでログインして利用した各サービス（Android端末も含む）での個人情報が
Android向け無料アンチウイルスソフトは無意味
コンピュータを守るためにアンチウイルスソフトは不可欠。これと同じ考えから、スマートフォン向けにもアンチウイルスソフトがリリースされています。しかし、ウイルス検出率テストを行う第三者機関、AV-TEST.orgの検査によって、Android向けの無料アンチウイルスソフトの検出率の低さが白日の下にさらされることになりました。 Android antivirus apps are useless, here’s what to do instead | ExtremeTech (PDFファイル)Are free Android virus scanners any good? Authors: Hendrik Pilz, Steffen Schindler 今回、AV-TESTが使った無料アンチウイルスソフトは7つ。 ◆Antivirus Free Version 1.3.1 Creative
グーグルのオープンソース責任者、モバイル用ウイルス対策ソフト業者を非難
UPDATE Googleでオープンソースソフトウェアの取り組みの責任者を務める人物が、Googleの「Android」OSなどを対象とした携帯端末用アンチウイルスソフトウェアの販売企業を「いかさまなペテン師」と呼び、激しく非難した。 GoogleのオープンソースプログラムマネージャーChris DiBona氏は、オープンソースソフトウェアのセキュリティに関する報道を手厳しく批判している。オープンソースソフトウェアは、Androidだけでなく、 Appleの「iOS」にも使用されている。同氏は、Android、iOS、およびResearch in Motionの「BlackBerry」OSにはアンチウイルスソフトウェアは必要ないと主張した。 DiBona氏はGoogle+で、「ウイルス企業はユーザーの不安をかき立てて、Android、RIM、iOS用のくだらない保護ソフトウェアを売ろうとし
忘れたパスワードを問い合わせられるシステムなんて作っちゃいけない | 初代編集長ブログ―安田英久
今日は、ちょっとしたシステム構築を発注するときに重要なポイントとなる、顧客情報管理の話題を。テーマは「お客さんのパスワードをどう保存するか」です。 御社には、たとえばECサイトの会員や顧客向けSNSなどの、お客さんがユーザー登録をしてパスワードでログインするようなシステムがありますか？ あるとしたら、そのシステム内で、お客さんそれぞれのパスワードはどんな風に管理されているか把握していますか？ または、システム構築の発注時に、どんな風にパスワードを管理するような仕様にしましたか？ クレジットカード情報や個人情報の管理には注意していても、パスワードの保存方法は、あまり気にしていないのではないでしょうか。しかし、それではまずいのです。システム構築時に正しい仕様で発注しないと、何かセキュリティ問題が発生したときに、思いがけぬ大きな範囲に影響する問題になってしまいかねないのです。 結論からいうと、お
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
LINE電話は画期的な一方、番号偽装ができてしまいそうな問題はどう処置するんですかね(山本一郎) - 個人 - Yahoo!ニュース
高木浩光さん、産業総合研究所の人間。この人の言動で、いかに、日本のイノベーションが削がれてきたか。
情報倫理とセキュリティのためのクイックガイド
マイクロソフト、GoogleはIEのプライバシー設定も迂回と非難 (※P3Pの件) -- Engadget Japanese
