存在しない脅威｜shi3z
Computex Taipei 2024に行ってきた。 詳しいレポートはどこかの原稿料の出る媒体で公開するが、原稿料の出る媒体では書きにくいことをここに書いておく。 どことは言わないがアンチウィルスソフトの会社が「AI Security Cafe」というのをやっていて、そこの講演タイトルが「AI PC, a Double-Edged Sword」だった。 AIでセキュリティを強化するのかと思ったらAIはやばいという話をする場所だったプロAI驚き屋(とりあえずなんでも驚いてカネにする)、プロAI怖がり屋(とりあえず"やばいよやばいよ"と言って怖がる)に続く、プロAI警戒屋の爆誕である。 今年のComputexは、予想通りどこもかしこも「AI」一色で、メモリーメーカーのSK Hynixまでもが「AI時代に必須の部品」としてアピールしていた。Computexが始まって以来、DRAMが必須じゃない
高校生が学ぶ「情報II」が“本気すぎる” 研修にも使える教材のポイントを紹介
筆者も早速読んでみましたが、選択科目ということで非常に思い切った内容にまで踏み込んでいるなと感じました。今回は、この中で「セキュリティ」についてはどのようなことが取り上げられているのかを見ていきましょう。 これ本当に高校生向け？ 現役IT担当者にも役立つ「情報II」教材 同教材の第1章「情報社会の進展と情報技術」における、PCやネットワーク、情報システムの進化がどのように起きたのか、その歴史をまとめた学習1「情報社会の発達と社会や人への影響」の中でセキュリティについて触れられています。 ここでは、情報技術の発展とともにセキュリティがより重要になったとし、ITの進化に法律やルールが追い付かなくなっている実態を取り上げ、「情報化の進展に伴い今までは想定されていなかった事態についての法律も、整備する必要があることを生徒に理解させたい」といった学習の意図を伝えています。 続いて学習2「情報セキュリ
マイクロソフトは生成AI製品｢Security Copilot｣をどのように開発し、政府機関に売り込んだのか【内部音声入手】
生成AIの真の可能性と現実的な落とし穴を理解するうえで、マイクロソフト（Microsoft）のサイバーセキュリティ製品｢Security Copilot｣の初期の取り組みほど格好の手本はない。 マイクロソフトは、2023年初頭にSecurity Copilotを発表した。これはマイクロソフトが新たにリリースしたAIプロダクトの中でもとりわけ重要なもので、OpenAIのGPT-4と社内モデルを活用して、ChatGPTと同様のスタイルでサイバー脅威に関する質問に答えるものだ。 マイクロソフトが同製品を発表するまでの道のりは困難なものだったが、この新しいテクノロジーの力については希望の持てる新発見もあったと、Business Insiderが今回入手した、マイクロソフトの2023年下期の社内プレゼンでは語られている。以降で、この重要なAI製品が作られた詳細が分かる同プレゼンの内容を紹介する。 G
「見ず知らずの他人がChatGPTに搭載されている大規模言語モデルから自分のメールアドレスを入手していた」という報告
ChatGPTは質問したことについて詳細な回答を生成してくれますが、個人情報に関する情報は漏らさないように訓練されています。しかし、日刊紙のニューヨーク・タイムズに勤務するジェレミー・ホワイト氏は、「ChatGPTに搭載されている大規模言語モデルが、見ず知らずの他人に自分のメールアドレスを教えてしまった」という実体験を報告しました。 Personal Information Exploit With OpenAI’s ChatGPT Model Raises Privacy Concerns - The New York Times https://www.nytimes.com/interactive/2023/12/22/technology/openai-chatgpt-privacy-exploit.html ホワイト氏は2023年11月、インディアナ大学ブルーミントン校の博士課程
クラウドストライクが生成AIなどの新機能を発表 データ基盤を刷新、XDRを強化 - 週刊BCN+
米CrowdStrike（クラウドストライク）の日本法人は10月25日、セキュリティ統合プラットフォーム「Falcon Platform」のロードマップについて説明した。XDR（Extended Detection and Response）を強化した新たなデータ基盤「Raptor」や、生成AI「Charlotte AI（シャーロットAI）」などの新機能を発表した。セールスエンジニアリング本部の鈴木滋・本部長は「攻撃者が進化しているため、当社のプラットフォームも進化させていく」と意気込んだ。 Raptorは、Falcon Platformで提供しているログ管理機能「LogScale」の技術を活用し、データの検索や調査の高速化、ペタバイト規模のデータ収集を実現した。鈴木本部長は「Raptorにより、XDRと生成AIのイノベーションを加速させる」と述べた。
「ChatGPT」などの生成AIを欺くことに研究者らが成功、安全性に警鐘
印刷する メールで送る テキスト HTML 電子書籍 PDF ダウンロード テキスト 電子書籍 PDF クリップした記事をMyページから読むことができます カーネギーメロン大学と非営利団体Center for AI Safetyの研究者らが協力し、OpenAIの「ChatGPT」、Googleの「Bard」、新興企業Anthropicの「Claude」など、AIチャットボットの脆弱性について調査した。その結果をまとめた報告書によると、これらは悪意あるプロンプトに対して脆弱であることが明らかになったという。 多くの人が、人工知能（AI）ツールを日常的に使うようになっているが、セキュリティーの脆弱性に対して、完全に無縁ではないことを肝に銘じる必要がありそうだ。 研究者らは、自動敵対的攻撃に対する大規模言語モデル（LLM）の脆弱性を検証した報告書で、攻撃に対して耐性があると考えられているLLMで
「脱獄」からマルウエア作成まで、ChatGPT悪用事例で盛り上がる地下掲示板
2022年11月30日に米OpenAI（オープンAI）が対話型生成AI（Artificial Intelligence）の「ChatGPT」を公開して以降、世の中はChatGPTの話題で持ちきりだ。ビジネスに活用しようと世界中の人々が様々なアイデアを試している。サイバー攻撃者も例外ではない。ChatGPTの悪用方法を模索している。 そこで本特集ではChatGPTがもたらすセキュリティーリスク（脅威）を、具体例を挙げながら解説する。例えば一般にはまだあまり知られていないリスクや、「自律型AIエージェント」の脅威などを独自の検証を交えて紹介する。さらにマルウエア解析などのサイバーセキュリティー領域への活用についても解説する。 「脱獄」で盛り上がるハッカー OpenAIはChatGPTの回答に「ガードレール」と呼ばれる制限をかけている。犯罪行為などに関わる不適切な質問をされてもChatGPTに回
7月5日のニュース7 - NHKニュース7
https://www.nhk.jp/p/news7/ts/YV1K1Z3YV8/blog/bl/pORjKRm8PO/bp/pB4kkM4KPl/ ７月５日のニュース７では、ロシア軍が占拠を続けるザポリージャ原発をめぐる懸念やフィッシング詐欺などについて、お伝えしました。 ①ウクライナとロシア ザポリージャ原発めぐり異なる主張 ロシア軍が占拠を続ける、ウクライナ南部にあるザポリージャ原発をめぐって懸念が広がっています。 ウクライナ側：「ロシアが破壊工作を行う可能性がある」 ロシア側 ：「ウクライナが原発攻撃を計画している」 ウクライナ側とロシア側、双方の主張が対立しています。いったい何が起きているのでしょうか。 双方の主張や今後の見通しについて、ロシアの安全保障に詳しい防衛省防衛研究所の長谷川雄之研究員に川﨑理加キャスターが聞きました。 このニュースの見逃し配信はこちらから(期間は１週
セキュリティ担当者がChatGPTの業務利用方針を検討するうえでの留意点
目次[非表示] 1.はじめに 2.AI関連の指針・原則・ガイドラインの動向 2.1.国内における分野横断の主なAI関連の指針・原則・ガイドライン 3.ChatGPTの業務利用に関する動向 3.1.ChatGPT等の業務利用を推進する企業様のニュース 3.2.ChatGPTの業務利用を制限・禁止する企業様のニュース 3.3.AIサービスの業務利用に関するガイドライン策定のニュース 4.ChatGPTのプライバシーポリシーと利用規約における留意点 4.1.情報漏えい 4.2.情報の正確性 4.3.参照 5.ChatGPT Web版の業務利用における情報セキュリティ上の留意点のまとめ 5.1.情報漏えい 5.2.情報の正確性 6.まとめ はじめに昨今、ChatGPTに関する話題に注目が集まるなか、「業務利用」について検討される企業様が増加しています。実際に、クラウドリスク評価「Assured（ア
GPT-4が脅威分析し「パワポ1枚」で報告、マイクロソフトがSecurity Copilot公開
米Microsoft（マイクロソフト）は2023年3月28日（米国時間）に開催した自社イベント「Microsoft Secure」で、米OpenAI（オープンAI）の大規模言語モデル（LLM）「GPT-4」を活用したセキュリティー分析ツール「Microsoft Security Copilot」を発表した。現在はプレビュー版を公開する。このツールで何ができるのか、マイクロソフトが示した実例に基づき解説しよう。 Security Copilotは、セキュリティー担当者が社内外で発生したセキュリティーインシデントなどについて自然言語で質問をすると、GPT-4ベースのAI（人工知能）がセキュリティーログなどのデータを分析して、攻撃の実態や対処方法などをテキストや図、PowerPointのスライドなどで返答するツールである。 Security Copilotは、マイクロソフトのSIEM（セキュリテ
ChatGPTでマルウェアを書きまくる？「ダークウェブではすでに人気」の衝撃
フリーランスライター、エディター。アスキーの書籍編集から、オライリー・ジャパンを経て、翻訳や執筆、取材などを紙、Webを問わずこなす。IT系が多いが、たまに自動車関連の媒体で執筆することもある。インターネット（とは言わなかったが）はUUCPのころから使っている。 敵対的強化学習の成果がAIの用途を広げる 機械学習理論がAI研究に大きな進歩をもたらし、GPUのような演算プロセッサおよびニューラルネットワーク技術がそれを加速させた。近年は敵対的強化学習が成果を上げ、絵画やイラスト、文章までAIがかなりの精度で生成できるようになった。 2022年11月にOpenAIがリリースしたChatGPTは、万能器のように何でも質問に答えてくれて、論文さえ書いてくれる。OpenAIのGPT-3、Codexは欲しい機能の文章を入れるだけでJavaやPythonなどのプログラム、さらには正規表現のコードも生成し
【AIセキュリティ超入門】第8話 – セキュアなAIを開発するには？ – 国内外のガイドライン | AI専門ニュースメディア AINOW
最終更新日： 2021年6月10日 ※この記事は、株式会社ChillStackと三井物産セキュアディレクション株式会社の共同研究組織・AIディフェンス研究所による寄稿です。 本連載は「AI*1セキュリティ超入門」と題し、AIセキュリティに関する話題を幅広く・分かり易く取り上げていきます。本連載を読むことで、AIセキュリティの全体像が俯瞰できるようになるでしょう。 *1：本コラムにおける【AI】の定義 本コラムでは、画像分類や音声認識など、通常は人間の知能を必要とする作業を行うことができるコンピュータシステム、とりわけ機械学習を使用して作成されるシステム全般を「AI」と呼称することにします。 連載一覧 「AIセキュリティ超入門」は全8回のコラムで構成されています。 第１回：イントロダクション – AIをとりまく環境とセキュリティ – 第２回：AIを騙す攻撃 – 敵対的サンプル – 第３回：A
AIを諸刃の剣としないために知っておくべき敵対的事例とその対策｜Deloitte Analytics｜デロイト トーマツ グループ｜Deloitte
1 はじめに AIの利活用により、社会や企業活動へもたらされる便益が計り知れないことに疑いの余地はありませんが、AI固有のリスクも存在します[1]。この記事では敵対的事例と呼ばれるリスクについて、技術的な側面から概観します。AIへの悪意ある攻撃に用いられる敵対的事例に関して、攻撃手法とそれに対する防御手法について解説します。各技術の詳細は今後の記事で解説予定です。 2 敵対的事例とは AI固有のリスクの１つに敵対的事例（Adversarial Examples）[2]と呼ばれるAIの精度劣化を目的とした悪意ある摂動（微小な加工）を加えた入力データの作成があります。例えば、パンダの画像に対して、微小ではあるが意図して作成された摂動を加えると、人間にはパンダに見えるがAIはテナガザルと分類してしまう画像を作り出すことができます（図1）。実際にAIが活用される場面を想定した例では、自動運転に必要
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
LAC Security Day ～セキュリティの最前線で戦う、キーパーソンたちの視点を知る
Kyo on X: "プロンプトインジェクション。現在のオープンLLM（というよりチャットテンプレートの実装）にはこういう脆弱性がある 特殊トークンの平文管理を可能にしてしまうと、ユーザーが任意にsystemメッセージやfew-shot例を仕込めてしまう https://t.co/3shzoay17k" / X
新型AIワーム「Morris II」が生成AIアプリを狙い、ゼロクリックで機密情報の窃取に成功する | Ledge.ai
https://twitter.com/ockeghem/status/1636168025459261441
This Company Uses AI to Outwit Malicious AI
Ben Buchanan on Twitter: "One of the most overhyped subjects in both AI and cybersecurity is the idea that AI will radically reshape hacking.… https://t.co/aofLHdpUDb"
Joshua Saxe on Twitter: "How to evaluate a cybersecurity vendor's ML claims even if you don't know much about ML (thread). 1) Ask them why… https://t.co/oPkS8bAk44"