［速報］「Gemini for Google Cloud」発表。Google Cloudでの開発から運用、セキュリティなど利用シーン全体をAIが支援。Google Cloud Next '24
［速報］「Gemini for Google Cloud」発表。Google Cloudでの開発から運用、セキュリティなど利用シーン全体をAIが支援。Google Cloud Next '24 Google Cloudは、日本時間4月10日未明から開催中のイベント「Google Cloud Next '24」で、最新のAIによるGoogle Cloudを用いたアプリケーションの開発から運用、セキュリティなどライフサイクル全体をAIが支援する「Gemini for Google Cloud」を発表しました。 「Gemini for Google Cloud」は、同社の最新AIモデルである「Gemini」を用いた複数のサービスの統合的なブランドです。コーディング支援のGemini Code AssistもGemini for Google Cloudの傘下と位置づけられています。 それぞれの機
無償版「Copilot」でもフルタイムでGPT-4 Turboが利用可能に／「Copilot for Security」が4月1日から一般提供開始
無償版「Copilot」でもフルタイムでGPT-4 Turboが利用可能に／「Copilot for Security」が4月1日から一般提供開始：週末の「気になるニュース」一気読み！（1/3 ページ）
マイクロソフトが推すセキュリティ向けの生成AIの特徴は？
印刷する メールで送る テキスト HTML 電子書籍 PDF ダウンロード テキスト 電子書籍 PDF クリップした記事をMyページから読むことができます Microsoftは、生成AI「Copilot」をセキュリティ運用業務向けに「Security Copilot」としてラインアップする。日本マイクロソフトが開催したAIイベント「Microsoft AI Tour」では、Security Copilotの特徴を説明した。 米Microsoft セキュリティ コンプライアンス アイデンティティーマーケティング担当ゼネラルマネージャーのJanice Le氏は、セキュリティ業務に生成AIを提供する理由について、「サイバー攻撃者や犯罪者が有利で、防御側が不利な状況をできるだけ逆転させるため」だと強調した。 サイバー攻撃などの脅威は、複雑化や巧妙化が進む一方だと言われる。Le氏は、各種統計を引用し
GPT-4にWebサイトを“自律的に”ハッキングさせる方法 AI自身が脆弱性を検出、成功率70％以上【研究紹介】
米UIUC（イリノイ大学アーバナ・シャンペーン校）に所属する研究者らが発表した論文「LLM Agents can Autonomously Hack Websites」は、大規模言語モデル（LLM）を用いたAIエージェントに、自律的にWebサイトをハッキングさせる攻撃手法を提案した研究報告である。LLMエージェントがWebサイトに存在する脆弱性を事前に知らなくても、自動検知してのハッキングが可能となる。 ▲自律型LLMエージェントを使ったWebサイトのハッキングの模式図 keyboard_arrow_down 研究内容 keyboard_arrow_down 研究結果 Webサイトを自律的にハッキングするようLLMエージェントを活用するには、エージェントのセットアップと、目標に向けてのプロンプトによる指示という2つのステップが必要である。エージェントによるハッキングでは、関数呼び出し、文書
犯罪に利用できる生成ＡＩ、ネットに複数公開…ランサムウェア・爆発物の作り方など回答
【読売新聞】 コンピューターウイルスや詐欺メール、爆発物の作成など犯罪に悪用できる情報を無制限に回答する生成ＡＩ（人工知能）がインターネット上に複数公開されている。既存の生成ＡＩに、不正行為に関わる情報を学習させたものとみられる。誰
｢カスタマイズできるGPT｣に脆弱性。簡単だからこそ危険が潜む
｢カスタマイズできるGPT｣に脆弱性。簡単だからこそ危険が潜む2023.12.03 11:005,628 Maxwell Zeff - Gizmodo US ［原文］ （ 福田ミホ ） 大事なデータをペラペラ開示しちゃうかも、と。 OpenAIは、カスタマイズしたチャットボットのマーケットプレイス｢GPT Store｣を立ち上げようとしています。 GPT Storeでは誰でも自分の用途に合わせたChatGPTを作れて、さらにそれを公開し、販売までできます。カスタマイズしたChatGPTは単に｢GPT｣と呼ばれ（ややこしくてすみません）、たとえばボードゲームのルールを解説してくれるGPTとか、算数を教えてくれるGPTといったものが考えられています。 目的に合わせてより詳細で信頼性の高い回答をしてくれるチャットボットがたくさんできるなら、それはかなりありがたいことです。が、サイバーセキュリティ
Black Hat USA 2023 注目発表 2 ～ AI とサイバーセキュリティの発表紹介 - FFRIエンジニアブログ
はじめに こんにちは。基礎技術研究部の茂木です。 今年の夏は例年以上に暑かったですね。暑いと言えば、昨年 ChatGPT[1]が OpenAI によって公開されてから AI 周りが熱くなっています。公開当時も凄いと思いましたが、それでもここまで大規模な社会現象になるとは想像できませんでした。 さて、そんな生成 AI*1を含む AI は、様々な領域へ応用が広まっています。そして当然というべきか、(サイバー)セキュリティへの応用も始まっています。 大きな応用事例として、メガクラウドが生成 AI をセキュリティに応用したサービスを展開したことが挙げられます。Google Cloud は、セキュリティに特化した大規模言語モデル(Large Language Model、以下 LLM)である Sec-PaLM 2 を用いた Google Cloud Security AI Workbench を公開
[レポート][三井物産セキュアディレクション株式会社] 生成AIのセキュリティ・リスク – CODE BLUE 2023 #codeblue_jp | DevelopersIO
CODE BLUE 2023で行われた以下のセッションのレポートです。 [三井物産セキュアディレクション株式会社] 生成AIのセキュリティ・リスク 近年、ChatGPTやBardなどのように、人間が書いた文章と見紛うような文章生成や言語理解などを行うことができる「生成AI」の社会実装が進んでいます。また、これらの生成AIと連携したWebアプリやスマフォアプリなど（以下、生成AI統合アプリ）も数多く登場しています。その一方で、これらに対する攻撃手法も数多く生まれています。例えば、生成AIへの入力データを細工することで生成AIが学習したデータを窃取する攻撃（Prompt Injection, Jailbreak）や、生成AI統合アプリへの入力データを細工することでアプリ内部の設定情報を窃取する攻撃（Prompt Leaking）、そして、生成AI統合アプリと接続されたデータベースからの情報窃
![[レポート][三井物産セキュアディレクション株式会社] 生成AIのセキュリティ・リスク – CODE BLUE 2023 #codeblue_jp | DevelopersIO](https://cdn-ak-scissors.b.st-hatena.com/image/square/1e4e2ecf9f564be90e26e2d2b40f90c19f975178/height=288;version=1;width=512/https%3A%2F%2Fdevio2023-media.developers.io%2Fwp-content%2Fuploads%2F2023%2F11%2Fcodeblue_2023_1200_630.png)
OpenAIにDDoS攻撃で断続的な停止（復旧済み）
OpenAIのChatGPTやAPIのサービスが11月8日正午ごろ（米国時間）から断続的に停止していた。既に復旧しているが、OpenAIはDDoS攻撃を受けていたと発表した。 米OpenAIのサービス（ChatGPT、API、Labs、Playground）が11月8日正午ごろ（現地時間）から断続的に停止し、同社は同日午後7時過ぎに「DDoS攻撃を反映した異常なトラフィックパターンによる定期的な停止に対処している」とステータスページで発表した。9日の午後1時過ぎ（日本時間の10日午前6時過ぎ）にはサービスは復旧したとしている。 OpenAIでは、6日にはDALL・Eのエラー率が上昇し、8日にはAPIをダウンさせるChatGPTの大規模な障害も発生していた。 OpenAIはDDoS攻撃の詳細を明らかにしていないが、Anonymous Sudanとして知られる攻撃者がTelegramでOpen
生成AI 日本での認証制度づくりに企業が新たな業界団体設立へ | NHK
生成AIの安全性のリスクが懸念されるなか、日本での認証制度を作ろうと、関連企業が参加する新たな業界団体が設立されることになりました。企業が主体となって認証の仕組みを作ることで生成AIの活用を加速させるねらいがあるものと見られます。 関係者によりますと、新たな業界団体は「AIガバナンス協会」という名称で、それぞれの企業が開発・活用する生成AIについて、年内にもまとまる政府のガイドラインに基づいて安全性や正確性などの認証を付与する制度を作ることを目指します。 また、企業が共同で研究会などを作って知見を共有するほか、AIに関する制度の在り方について政府への提言を行うとしています。 業界団体には、生成AIの開発や活用を進めるNECやNTTデータ、日立製作所の子会社のほか、大手金融機関など合わせて19社が今のところ参加する見通しです。 早ければ来年4月に業界団体を設立し、認証制度を始めることを目指す
「それは、本当に安全なんですか？」 セキュリティ専門家が「GitHub Copilot」の全社一斉導入時に考えたあれこれ
「GitHub Copilot 導入時に考えたセキュリティのあれこれ」というタイトルで登壇したのは、freee株式会社のただただし氏。タイミー社主催の「GitHub Copilotで拓く開発生産性」で、「GitHub Copilot 」を全社一斉導入する際に考えるべきセキュリティリスクについて発表しました。 freee株式会社 PSIRT マネージャーのただただし氏 ただただし氏：freee株式会社のただただしと申します。 今日は、「GitHub Copilot 導入時に考えたセキュリティのあれこれ」ということで、Copilotのセキュリティリスクについて語るわけですが、考えてみたら、GitHubの中の人を前にこんなことをしゃべるのは相当大胆な話だと思います。最後にいいことで締めるのでちょっと我慢してください。 自己紹介をいたします。ただただしと申します。PSIRTという組織でマネージャー
ChatGPTを狙った悪用の手口、フィッシングメール作成やプロンプト漏えいも どう対策する？
ChatGPTを狙った悪用の手口、フィッシングメール作成やプロンプト漏えいも どう対策する？（1/3 ページ） 世界中で活用が進む対話型AIサービス「ChatGPT」だが、サイバー攻撃のリスクも大きい。ChatGPTはどんなケースで悪用され、個人や企業のユーザーはどんな点に注意すればいいのか。 半導体やネットワーク、セキュリティ製品やサービスソリューションを提供するマクニカが4月21日に実施した、ChatGPTを悪用したサイバーリスクについての説明会から読み解いていきたい。説明を行ったのは同社 セキュリティ研究センターの凌（しのぎ）翔太氏。 ChatGPTでフィッシングメールやマルウェアが作られている ChatGPTを使ったサイバーリスクには2つのケースが考えられる。攻撃者によるChatGPTの悪用と、ChatGPTを組み込んだシステムに対する攻撃の2つだ。 ChatGPTの悪用とは、例え
ChatGPTが生成するコードは必ずしも安全なものではなくChatGPT自身は脆弱性を認識している
ChatGPTのようなAIチャットボットは、人間と同じようにテキストを処理できるだけでなく、コードを書くこともできます。しかし、そのコードが安全なものなのかどうか検証したところ、セキュリティ的に問題があるコードが出力されることがあり、しかもChatGPT自身はその脆弱(ぜいじゃく)性を理解していることがわかりました。 [2304.09655] How Secure is Code Generated by ChatGPT? https://doi.org/10.48550/arXiv.2304.09655 ChatGPT creates mostly insecure code, but won't tell you • The Register https://www.theregister.com/2023/04/21/chatgpt_insecure_code/ この問題を調査したの
「Microsoft Security Copilot」によるAIセキュリティ対策 “人力”任せからの脱却につながるか
「Microsoft Security Copilot」によるAIセキュリティ対策 “人力”任せからの脱却につながるか（1/3 ページ） 2022年11月に「ChatGPT」が登場して以降、特に2023年に入ってから、「OpenAI」を絡めたMicrosoftの新サービスの発表ラッシュには目を見張るものがある。大規模言語モデル（LLM）技術を取り入れて、チャット型の対話検索機能を備えた「新しいBing」をはじめ、正式提供が始まった「GitHub Copilot」、ERPやCRMといった業務支援を行う「Dynamics 365 Copilot」、そして先日発表された「Microsoft 365 Copilot」に至るまで、「Copilot（コパイロット）」シリーズが話題を席巻している。 Microsoftの「Copilot」を関する製品で特徴的なのは、いわゆるGenerative AI、つま
AI企業が本気で作った初の「認証済みディープフェイク」が公開される、ネット上の映像はもはや信用できない世界が到来
デジタルコンテンツの検証サービスを提供するTruepicと、人工知能を用いたリアルな合成映像を手がけるRevel.aiが共同で、世界初の「認証済みディープフェイク映像」を制作して公開しました。出演者の女性本人の了解を得て作られたディープフェイク映像は非常にリアルで、合成コンテンツを特定する仕組みの必要性がよくわかる内容となっています。 Revel - Truepic https://truepic.com/revel/ A convincing AI-made video that tells on itself https://www.axios.com/2023/04/04/a-convincing-deepfake-that-tells-on-itself TruepicとRevel.aiが制作したディープフェイク映像は、以下から見ることができます。 Mirror of Reflec
画像生成AIの「高品質なプロンプト」を0.01秒で盗むサイバー攻撃 ドイツの研究機関が発表
Innovative Tech： このコーナーでは、テクノロジーの最新研究を紹介するWebメディア「Seamless」を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。Twitter: ＠shiropen2 ドイツの研究機関CISPA Helmholtz Center for Information Securityに所属する研究者らが発表した論文「Prompt Stealing Attacks Against Text-to-Image Generation Models」は、テキストから画像を生成するモデルで生成した画像からテキストプロンプトを盗用する攻撃を提案した研究報告である。 Stable Diffusion、DALL-E 2、Midjourneyなどのテキストから画像を生成するモデルの登場以来、プロのアーティストに頼るのではなく、プロンプトと呼
「Stable Diffusion」のような画像生成AIにバックドアを設けることを義務化するよう呼びかける論文が発表される
最新の論文で、Stable Diffusionのような画像生成AIに「バックドア」を設けることを義務化すべきとマサチューセッツ工科大学(MIT)の研究者たちが呼びかけました。画像生成AIにバックドアを設けることで、これらを開発する企業は規制当局と協力してAIアプリが同意のないディープフェイクの作成に利用されることを防ぐことができるようになると主張しています。 Raising the Cost of Malicious AI-Powered Image Editing https://arxiv.org/pdf/2302.06588.pdf A Call to Legislate ‘Backdoors’ Into Stable Diffusion - Metaphysic.ai https://metaphysic.ai/a-call-to-legislate-backdoors-into-
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
世界経済フォーラム (WEF) サイバーセキュリティにとって人工知能は両刃の剣 (2023.10.27) - まるちゃんの情報セキュリティ気まぐれ日記
ChatGPT、チャットできない不具合が一部で発生中。DDoS攻撃の疑い
AIによるパスワードの解析時間をセキュリティ会社が公開。8桁なら7時間以内に解析完了
