「Amazonにはセキュリティ文化がある」 AWSがAI時代のクラウドセキュリティを改めて強調
Amazon Web Services（AWS）の最高情報セキュリティ責任者（CISO）が自社について「セキュリティを最優先にしている企業」と改めて強調して注目を集めている。Amazonの文化にセキュリティが根付いている理由や生成AI時代の顧客保護ツールを紹介するなど、昨今の生成AIブームとセキュリティリスクの問題を踏まえた情報発信だ。 AWS head of security talks protecting customers and data amid generative AI（出典：Amazon Web ServicesのWebサイト） AWSは2024年6月11日（現地時間）、同社がセキュリティを最優先にしている企業であることを強調する記事を公開した。 記事ではAWSのCISOであるChris Betz氏が語ったAmazonの文化にセキュリティが深く根付いている理由や生成AIの
Windowsの操作全記録AI「Recall」についてセキュリティ上の問題が露呈しMicrosoftが機能のデフォルト無効化を発表
Microsoftは2024年5月20日に、PC上の操作をスクリーンショットとともに記録して後から検索可能にするAI機能「Recall」を発表しました。しかし、Recallにはセキュリティやプライバシーに関する懸念の声が続出。これらの懸念を受けて、MicrosoftはRecallの機能を見直すことを2024年6月7日に発表しました。 Update on the Recall preview feature for Copilot+ PCs | Windows Experience Blog https://blogs.windows.com/windowsexperience/2024/06/07/update-on-the-recall-preview-feature-for-copilot-pcs/ RecallはWindowsに搭載予定のAI検索機能で、PC上の操作をスクリーンショッ
「仕事を早く終わらせたいだけ」がセキュリティの脅威に ー AI時代の生産性とセキュリティの間の緊張関係
4月4日、1Passwordは「AI時代のセキュリティと生産性（Security and productivity in the age of AI）」という年次セキュリティレポートを公開した。このレポートは、ビジネスの進歩がセキュリティにとってしばしば逆効果になる可能性があるという、避けられない結論に達している。 4月4日、1Passwordは「AI時代のセキュリティと生産性（Security and productivity in the age of AI）」という年次セキュリティレポートを公開した。このレポートは、ビジネスの進歩がセキュリティにとってしばしば逆効果になる可能性があるという、避けられない結論に達している。 北米のホワイトカラー従業員1,500人、うちセキュリティ専門家500人を対象に実施した調査により、生産性とセキュリティの間に新たな緊急性を帯びた緊張関係が浮かび上が
生成AIの幻覚で指定される「架空のパッケージ」に悪用の危険性があるとセキュリティ研究者が警告
GPT-4やClaude 3のような大規模言語モデルは人間が書いたように自然な文章を生成できますが、時として事実に基づかない情報を生成する「ハルシネーション(幻覚)」という現象を起こします。セキュリティ企業・Lasso Securityの研究者であるバー・ラニャド氏が、ハルシネーションによって存在しないパッケージを組み込んだソースコードが生成され、実際に使われていると指摘しています。 Diving Deeper into AI Package Hallucinations https://lasso-security.webflow.io/blog/ai-package-hallucinations AI bots hallucinate software packages and devs download them • The Register https://www.theregis
生成AIの弱点が相次ぎ発覚 ChatGPTやGeminiがサイバー攻撃の標的に 情報流出や不正操作の恐れも
米OpenAIの「ChatGPT」やGoogleの「Gemini」など、主要生成AIの弱点や脆弱性が次々に発覚している。企業や個人の日常生活に浸透している生成AIが悪用されれば、社外秘情報や個人情報の流出を招いたり、悪用防止対策がかわされて偽情報の作成に利用されたりする恐れもある。 イスラエルのベングリオン大学の研究チームは、生成AIとユーザーの間に割り込んでデータパケットを傍受し、AIの回答内容を高い精度で復元する攻撃に成功したと発表した。この攻撃は、生成AIがユーザーの質問に回答する際のデータ処理に存在する脆弱性を突いている。 （関連記事：他人がGPT-4とやりとりしたテキストを盗む攻撃 成功率50％以上 イスラエルの研究者らが発表） ChatGPTなどの生成AIがユーザーの指示や質問に対して答えを返す際は、文章を単語や文字ごとにトークン化し、個々のトークンを連続的にユーザーに送信して
無償版「Copilot」でもフルタイムでGPT-4 Turboが利用可能に／「Copilot for Security」が4月1日から一般提供開始
無償版「Copilot」でもフルタイムでGPT-4 Turboが利用可能に／「Copilot for Security」が4月1日から一般提供開始：週末の「気になるニュース」一気読み！（1/3 ページ）
ChatGPTやGeminiといったチャットAIのセキュリティ機能を破壊するマルウェア「Morris II」が登場
OpenAIのChatGPTや、GoogleのGeminiのようなチャットAIを操作できるワーム「Morris II」を作成し、ユーザーの個人情報を盗み出すことに研究者が成功しました。 ComPromptMized https://sites.google.com/view/compromptmized New Malware Worm Can Poison ChatGPT, Gemini-Powered Assistants | PCMag https://www.pcmag.com/news/malware-worm-poison-chatgpt-gemini-powered-assistants 「Morris II」は、生成AIを活用するアプリケーションをターゲットとしたゼロクリックワームで、イスラエル工科大学やコーネル工科大学、ソフトウェア開発企業のIntuitなどの研究者たちに
国内初「生成AI専用保険」を提供へ あいおいニッセイらが発表 情報漏えい時の費用などを負担
サービス提供の経緯について2社は「大手企業を中心に、生成AIによる社内の業務効率化が進められている一方、利用にあたっては、権利侵害や情報漏えい、出力結果の正確性などのさまざまなリスクがあり、導入に向けた大きな障壁となっている。これらの課題を解消し、生成AIのさらなる普及を促進するため、国内初の『生成AI専用保険』を開発した」と説明している。 関連記事 企業「ChatGPTは使っちゃダメ」→じゃあ自分のスマホで使おう──時代はBYODから「BYOAI」へ 会社はChatGPTを禁止しているが、自分のスマートフォンからChatGPT（しかも有料契約している高性能版）にアクセスして、使ってしまえば良いではないか――。生成AIのビジネス活用が進む中でBYODならぬ「BYOAI」という発想が生まれつつある。 Google、「Gemini」の人物画像生成の過剰補正問題について説明 「AIの罠を乗り越え
NVIDIAがPC上のデータを使うAIチャットbotツール「Chat with RTX」公開／AMD製CPUに複数の脆弱性
NVIDIAがPC上のデータを使うAIチャットbotツール「Chat with RTX」公開 米NVIDIAは2月13日（現地時間）、Windows PCのローカル環境で実行できるAIチャットbot「Chat with RTX」を公開した。8GB以上のグラフィックスメモリを搭載したグラフィックスカード「GeForce RTX30／40シリーズ」、またはRTX Ampere／Ada世代のアーキテクチャを採用したグラフィックスカードを搭載するWindows PCで使える。 外部ソースから取得した情報を利用し、生成AIモデルの精度と信頼性を向上させる検索拡張生成（RAG：Retrieval-Augmented Generation）や、NVIDIA TensorRT-LLM、NVIDIA RTX アクセラレーションによって、Windows PC上で生成AI機能を利用可能にする。 つまり、PC上に
X（旧Twitter）、認証済みボットが多数発見される。OpenAIチャットボットで投稿を作成 | Gadget Gate
テクノロジー ChatGPT以外を使ったボットは検出が難しそう X（旧Twitter）、認証済みボットが多数発見される。OpenAIチャットボットで投稿を作成 Image:Tada Images/Shutterstock.com 旧TwitterことXのオーナーであるイーロン・マスク氏は、アカウント認証を有料化することでボットを排除できると示唆していた。が、実際には青い認証済みマークを持つ複数のボットが「申し訳ないが、OpenAIのユースケースポリシーに反するため、回答を提供できない」という同じフレーズを投稿していると指摘されている。 このフレーズは、OpenAIのチャットボットが同社の利用規約に違反した質問や、タスクの実行を要求されたときに返すものだ。この場合、Xの認証済みアカウントがAIで投稿を作成するボットであることを示している。 最初に指摘したのは、元メディア・マターズ（メディアを
「生成AIはもろ刃の剣」 カスペルスキーが2024年以降のセキュリティの未来を予測
ランダム性や確率の概念を組み込んだ確率的生成AIと従来の予測可能で確定的な結果を生み出す決定論的技術が交わる部分に複雑な脆弱（ぜいじゃく）性が出現する。セキュリティ担当者が保護すべき攻撃対象領域（アタックサーフェス）は拡大し、開発者は大規模言語モデル（LLM）エージェントによって開始される処理に対するユーザー承認など新たな対策を検討する必要がある LLMを使ったAIアシスタントが登場する。レッドチームのタスクを自動化し、侵入テスト環境で実行されたコマンドに基づいたガイダンスが提供できる可能性がある AIツールを利用することで犯罪者は高品質な偽の動画や画像を生成し、詐欺や不正行為に関するサイバー脅威がエスカレートする カスペルスキーは上記のように生成AIがサイバー脅威に影響を与えると予測する一方で「生成AIがサイバー脅威を取り巻く状況を大幅に変えることはないだろう」と指摘している。生成AIが
｢カスタマイズできるGPT｣に脆弱性。簡単だからこそ危険が潜む
｢カスタマイズできるGPT｣に脆弱性。簡単だからこそ危険が潜む2023.12.03 11:00 Maxwell Zeff - Gizmodo US ［原文］ （ 福田ミホ ） 大事なデータをペラペラ開示しちゃうかも、と。 OpenAIは、カスタマイズしたチャットボットのマーケットプレイス｢GPT Store｣を立ち上げようとしています。 GPT Storeでは誰でも自分の用途に合わせたChatGPTを作れて、さらにそれを公開し、販売までできます。カスタマイズしたChatGPTは単に｢GPT｣と呼ばれ（ややこしくてすみません）、たとえばボードゲームのルールを解説してくれるGPTとか、算数を教えてくれるGPTといったものが考えられています。 目的に合わせてより詳細で信頼性の高い回答をしてくれるチャットボットがたくさんできるなら、それはかなりありがたいことです。が、サイバーセキュリティ企業のAd
生成AI 日本での認証制度づくりに企業が新たな業界団体設立へ | NHK
生成AIの安全性のリスクが懸念されるなか、日本での認証制度を作ろうと、関連企業が参加する新たな業界団体が設立されることになりました。企業が主体となって認証の仕組みを作ることで生成AIの活用を加速させるねらいがあるものと見られます。 関係者によりますと、新たな業界団体は「AIガバナンス協会」という名称で、それぞれの企業が開発・活用する生成AIについて、年内にもまとまる政府のガイドラインに基づいて安全性や正確性などの認証を付与する制度を作ることを目指します。 また、企業が共同で研究会などを作って知見を共有するほか、AIに関する制度の在り方について政府への提言を行うとしています。 業界団体には、生成AIの開発や活用を進めるNECやNTTデータ、日立製作所の子会社のほか、大手金融機関など合わせて19社が今のところ参加する見通しです。 早ければ来年4月に業界団体を設立し、認証制度を始めることを目指す
「それは、本当に安全なんですか？」 セキュリティ専門家が「GitHub Copilot」の全社一斉導入時に考えたあれこれ
「GitHub Copilot 導入時に考えたセキュリティのあれこれ」というタイトルで登壇したのは、freee株式会社のただただし氏。タイミー社主催の「GitHub Copilotで拓く開発生産性」で、「GitHub Copilot 」を全社一斉導入する際に考えるべきセキュリティリスクについて発表しました。 freee株式会社 PSIRT マネージャーのただただし氏 ただただし氏：freee株式会社のただただしと申します。 今日は、「GitHub Copilot 導入時に考えたセキュリティのあれこれ」ということで、Copilotのセキュリティリスクについて語るわけですが、考えてみたら、GitHubの中の人を前にこんなことをしゃべるのは相当大胆な話だと思います。最後にいいことで締めるのでちょっと我慢してください。 自己紹介をいたします。ただただしと申します。PSIRTという組織でマネージャー
Azure OpenAI Service 「on your data」 構成でのセキュリティ性を向上させる - Taste of Tech Topics
こんにちは、igaです。 先日、久しぶりにライブで声を出したらのどが枯れてしまいました。 前回に引き続き、Azure OpenAIのセキュリティを向上させるため、ネットワークのアクセス制限について確認します。 今回は、以前検証した独自データを使用する場合のネットワークのアクセス制限について確認します。 acro-engineer.hatenablog.com Azure OpenAIの構成 前回の構成で、Azure OpenAIに対してインターネットからのアクセス制限を行いました。 独自データ（原文の表記はon your data）を使用する場合、構築した直後はデータを保持するCognitive Searchがインターネット上のどこからでもREST APIによるリクエストが受信可能な状態になっています。 Cognitive Searchを利用するためには、通常、APIキーが必要になります。
企業向けChatGPTサービス「ChatPro」、法人向けの新料金プラン「ビジネス」プランを発表。
株式会社ナレッジセンスは、セキュアな環境でChatGPTを活用できる、法人向け・企業向けのChatGPTシステム「ChatPro（チャットプロ）」を提供しております。ChatProは、新しい料金プランとして「Business」プランをリリースいたします。これまでの料金プランと違い、GPT-3.5/GPT-4モデルをどちらも利用可能な従量課金プランです。企業規模が大きな企業から中小企業まで、さまざまな法人で柔軟に利用・運用が可能なプランです。ChatProは、すでに200社以上の法人で導入実績がございます。 https://chatpro.jp/?utm_source=20 「大企業の知的活動を最速にする」をミッションとする株式会社ナレッジセンス（本社：東京都中央区、代表取締役：門脇敦司、以下ナレッジセンス）は、当社が提供する法人向けチャットGTPサービス「ChatPro」について、新しい料
当社社員が翻訳協力した「ChatGPTのセキュリティへの影響」が公開されました | NTTデータ先端技術株式会社
一般社団法人 日本クラウドセキュリティアライアンス（以下：CSAジャパン）にて、「ChatGPTのセキュリティへの影響」が公開されました。 CSAジャパンは、Cloud Security Alliance（以下：CSA）の日本法人で、日本のクラウドセキュリティの向上を目的とし、クラウドのセキュリティに関する啓発・情報発信等の活動を行う任意団体です。 「ChatGPTのセキュリティへの影響」は、CSAが公開している「Security Implications of ChatGPT」の日本語訳で、ChatGPTのような大規模な言語モデルがサイバーセキュリティ産業の未来をどのように形作るかを包括的に理解することを目的としています。 原本である「Security Implications of ChatGPT」の日本語化において、当社サイバーセキュリティ事業本部 石井 英男が、翻訳メンバーの一員と
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Cloudflare launches AI Assistant for Security Analytics
「AIはサイバー攻撃への対抗手段」 Microsoftが2023年版セキュリティレポートを公開
プライバシーとセキュリティを重視する組織や個人を対象とした自己ホスト型デスクトップAIアプリ・「WorkAI Tools」
