生成AIの弱点が相次ぎ発覚 ChatGPTやGeminiがサイバー攻撃の標的に 情報流出や不正操作の恐れも
米OpenAIの「ChatGPT」やGoogleの「Gemini」など、主要生成AIの弱点や脆弱性が次々に発覚している。企業や個人の日常生活に浸透している生成AIが悪用されれば、社外秘情報や個人情報の流出を招いたり、悪用防止対策がかわされて偽情報の作成に利用されたりする恐れもある。 イスラエルのベングリオン大学の研究チームは、生成AIとユーザーの間に割り込んでデータパケットを傍受し、AIの回答内容を高い精度で復元する攻撃に成功したと発表した。この攻撃は、生成AIがユーザーの質問に回答する際のデータ処理に存在する脆弱性を突いている。 （関連記事：他人がGPT-4とやりとりしたテキストを盗む攻撃 成功率50％以上 イスラエルの研究者らが発表） ChatGPTなどの生成AIがユーザーの指示や質問に対して答えを返す際は、文章を単語や文字ごとにトークン化し、個々のトークンを連続的にユーザーに送信して
無償版「Copilot」でもフルタイムでGPT-4 Turboが利用可能に／「Copilot for Security」が4月1日から一般提供開始
無償版「Copilot」でもフルタイムでGPT-4 Turboが利用可能に／「Copilot for Security」が4月1日から一般提供開始：週末の「気になるニュース」一気読み！（1/3 ページ）
ChatGPTやGeminiといったチャットAIのセキュリティ機能を破壊するマルウェア「Morris II」が登場
OpenAIのChatGPTや、GoogleのGeminiのようなチャットAIを操作できるワーム「Morris II」を作成し、ユーザーの個人情報を盗み出すことに研究者が成功しました。 ComPromptMized https://sites.google.com/view/compromptmized New Malware Worm Can Poison ChatGPT, Gemini-Powered Assistants | PCMag https://www.pcmag.com/news/malware-worm-poison-chatgpt-gemini-powered-assistants 「Morris II」は、生成AIを活用するアプリケーションをターゲットとしたゼロクリックワームで、イスラエル工科大学やコーネル工科大学、ソフトウェア開発企業のIntuitなどの研究者たちに
｢カスタマイズできるGPT｣に脆弱性。簡単だからこそ危険が潜む
｢カスタマイズできるGPT｣に脆弱性。簡単だからこそ危険が潜む2023.12.03 11:00 Maxwell Zeff - Gizmodo US ［原文］ （ 福田ミホ ） 大事なデータをペラペラ開示しちゃうかも、と。 OpenAIは、カスタマイズしたチャットボットのマーケットプレイス｢GPT Store｣を立ち上げようとしています。 GPT Storeでは誰でも自分の用途に合わせたChatGPTを作れて、さらにそれを公開し、販売までできます。カスタマイズしたChatGPTは単に｢GPT｣と呼ばれ（ややこしくてすみません）、たとえばボードゲームのルールを解説してくれるGPTとか、算数を教えてくれるGPTといったものが考えられています。 目的に合わせてより詳細で信頼性の高い回答をしてくれるチャットボットがたくさんできるなら、それはかなりありがたいことです。が、サイバーセキュリティ企業のAd
企業向けChatGPTサービス「ChatPro」、法人向けの新料金プラン「ビジネス」プランを発表。
株式会社ナレッジセンスは、セキュアな環境でChatGPTを活用できる、法人向け・企業向けのChatGPTシステム「ChatPro（チャットプロ）」を提供しております。ChatProは、新しい料金プランとして「Business」プランをリリースいたします。これまでの料金プランと違い、GPT-3.5/GPT-4モデルをどちらも利用可能な従量課金プランです。企業規模が大きな企業から中小企業まで、さまざまな法人で柔軟に利用・運用が可能なプランです。ChatProは、すでに200社以上の法人で導入実績がございます。 https://chatpro.jp/?utm_source=20 「大企業の知的活動を最速にする」をミッションとする株式会社ナレッジセンス（本社：東京都中央区、代表取締役：門脇敦司、以下ナレッジセンス）は、当社が提供する法人向けチャットGTPサービス「ChatPro」について、新しい料
当社社員が翻訳協力した「ChatGPTのセキュリティへの影響」が公開されました | NTTデータ先端技術株式会社
一般社団法人 日本クラウドセキュリティアライアンス（以下：CSAジャパン）にて、「ChatGPTのセキュリティへの影響」が公開されました。 CSAジャパンは、Cloud Security Alliance（以下：CSA）の日本法人で、日本のクラウドセキュリティの向上を目的とし、クラウドのセキュリティに関する啓発・情報発信等の活動を行う任意団体です。 「ChatGPTのセキュリティへの影響」は、CSAが公開している「Security Implications of ChatGPT」の日本語訳で、ChatGPTのような大規模な言語モデルがサイバーセキュリティ産業の未来をどのように形作るかを包括的に理解することを目的としています。 原本である「Security Implications of ChatGPT」の日本語化において、当社サイバーセキュリティ事業本部 石井 英男が、翻訳メンバーの一員と
ChatGPTが生成するコードは必ずしも安全なものではなくChatGPT自身は脆弱性を認識している
ChatGPTのようなAIチャットボットは、人間と同じようにテキストを処理できるだけでなく、コードを書くこともできます。しかし、そのコードが安全なものなのかどうか検証したところ、セキュリティ的に問題があるコードが出力されることがあり、しかもChatGPT自身はその脆弱(ぜいじゃく)性を理解していることがわかりました。 [2304.09655] How Secure is Code Generated by ChatGPT? https://doi.org/10.48550/arXiv.2304.09655 ChatGPT creates mostly insecure code, but won't tell you • The Register https://www.theregister.com/2023/04/21/chatgpt_insecure_code/ この問題を調査したの
「ChatGPT」やランサムウェアを怖がる前にすべきこと--アクロニスの創業者
印刷する メールで送る テキスト HTML 電子書籍 PDF ダウンロード テキスト 電子書籍 PDF クリップした記事をMyページから読むことができます サイバープロテクションベンダーの米Acronisを創業し、現在は同社のチーフリサーチオフィサーを務めるSerg Bell氏は、技術と研究開発をけん引しながら、スイス・シャフハウゼン工科研究所など大学関係のプログラムにも注力し、シンガポールの量子技術研究所の運営委員会メンバーを務めるなど技術と教育の発展に取り組んでいる。世界中で話題の「ChatGPT」には脅威論がつきまとい、実被害が深刻化するランサムウェアが脅威となっている。Bell氏にこれらのサイバーセキュリティ情勢に対する見方を尋ねた。 --サイバーセキュリティ業界でChatGPTを懸念する声が挙がっています。業界にどう影響すると思いますか。 あなたの質問に答える前に、まずChatG
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
