「RAG」が特に危ない？ NVIDIAが指摘した生成AIの“2大脅威”
関連キーワード 人工知能 | サイバー攻撃 | セキュリティ 生成AI（人工知能）ツールの中核技術である大規模言語モデル（LLM）を巡り、さまざまなセキュリティリスクが指摘されている。2024年8月に米ラスベガスで開催された年次セキュリティカンファレンス「Black Hat USA 2024」で、NVIDIAの主席AI・ML（機械学習）セキュリティアーキテクト、リチャード・ハラング氏はLLMの脅威を説明した。同氏が注意を呼び掛ける、LLMを狙った「2大攻撃手法」とは何か。 「RAG」が危ない？ LLMの2大脅威はこれだ 併せて読みたいお薦め記事 LLM（大規模言語モデル）を巡る脅威とは 「生成AIが攻撃を受ける」とはどういうこと？ LLMの脅威“10選” 生成AIからデータが盗まれていることも……？ LLMの10大脅威 間接プロンプトインジェクション ハラング氏はLLMを狙った攻撃手法の一
The AI Scientist: Towards Fully Automated Open-Ended Scientific Discovery
One of the grand challenges of artificial general intelligence is developing agents capable of conducting scientific research and discovering new knowledge. While frontier models have already been used as aides to human scientists, e.g. for brainstorming ideas, writing code, or prediction tasks, they still conduct only a small part of the scientific process. This paper presents the first comprehen
試行フェーズを脱した通信業界の生成AI活用 MWC 2024レポート（後編）
試行フェーズを脱した通信業界の生成AI活用 MWC 2024レポート（後編）：世界の展示会で見たモノづくり最新動向（4）（1/2 ページ） この連載ではMONOistとSalesforceのインダストリー専門家が協力して、世界各地の展示会から業界の最新トレンドをお届けします。第4弾では前回に続き、2024年2月26～29日にかけてスペインのバルセロナで開催されたMWC Barcelona 2024から、通信業界の生成AIのトレンドを紹介します。 通信事業者の生成AIへの取り組み状況とユースケース 前回のMWC Barcelona 2024（MWC 2024）レポート前編では、生成AI（人工知能）のトレンドを紹介しました。今回のMWC 2024レポート後編では、通信事業者の具体的な生成AIの活用についても見ていきます。以下に、いくつかの大手通信事業者の取り組みやユースケースを紹介します。 ⇒
謎の生成AI「gpt2」登場で騒然 次世代のGPT？ アルトマンCEOも言及
生成AIブームの火付け役となった「ChatGPT」を提供する米OpenAIは、2023年3月に高性能な大規模言語モデル（LLM）「GPT-4」を提供して以来、次の高性能モデルについて沈黙を守り続けている。そんな中、LLMを比較できるWebサービス上にOpenAIのものらしき謎の高性能なLLMが現れた。同社のサム・アルトマンCEOも言及しており、OpenAIが関連している可能性も少なくなさそうだ。 米カリフォルニア大学バークレー校の研究室が運営するプロジェクト「LMSYS Org」（The Large Model Systems Organization：大規模モデルシステム機関）で公開しているWebサービス「Chatbot Arena」の中に、「gpt2-chatbot」というモデルが突如現れ、4月29日深夜（日本時間、以下同様）から話題になり始めている。 記事執筆時点の30日午後5時現在
“エッジ生成AI”に挑む日本発スタートアップ、60TOPSのAI処理性能を8Wで実現
“エッジ生成AI”に挑む日本発スタートアップ、60TOPSのAI処理性能を8Wで実現：組み込み開発 インタビュー（1/2 ページ） 生成AIへの注目が集まる中、その生成AIを現場側であるエッジデバイスで動かせるようにしたいというニーズも生まれつつある。この“エッジ生成AI”を可能にするAIアクセラレータとして最大AI処理性能60TOPS、消費電力8Wの「SAKURA-II」を発表したのが、日本発のスタートアップであるエッジコーティックスだ。 ChatGPTに代表される生成AI（人工知能）への注目が集まる中、その生成AIをクラウドやサーバではなく、現場側であるエッジデバイスで動かせるようにしたいというニーズも生まれつつある。ただし、従来の機械学習モデルと比べて生成AIモデルの規模が大きいこともあり、エッジデバイスに搭載可能なAIアクセラレータで十分な処理性能を確保することは容易ではない。 こ
生成AIの用語10選 ～ 一般ユーザーが知っておくべき基礎知識
連載目次 本連載『AI・機械学習の用語辞典』では、AIや機械学習に関連する専門用語をできるだけかみ砕いて分かりやすく解説しています。コンパクトながらも、必要十分な知識が得られる内容を目指しています。 これまでに公開した用語は149語です。詳しくはabc／あいうえお順のキーワード目次を参照してください。 今回は第150回を記念して、これまでに公開した「生成AI」に関連する用語を厳選してピックアップし、合計10個の用語をまとめてみました（図1）。 新しい生成AI時代を生きる現在の社会人にとって必須の基礎知識になると思います。ぜひ社内教育などで知識ゼロの人に「まずは、これを読んでおいてね！」とお勧めしていただけるとうれしいです。 1. 生成系AI（GenAI） 生成系AI（GenAI：Generative AI）とは、全く新しいオリジナルのアウトプットを生み出すAIです。具体的には、デジタルの画
NTT、国産の生成AI「tsuzumi」サービス開始--「2027年に売上1000億円」と島田社長
日本電信電話（NTT）は3月25日、独自に開発した大規模言語モデル（LLM）「tsuzumi」の商用提供を企業向けに開始した。代表取締役社長を務める島田明氏は「2027年までに売上1000億円を目指す」と述べた。 tsuzumiは、NTTが2023年11月に発表した国産LLMだ。特徴の1つはモデルを大幅に軽量化した点で、パラメーター数は軽量版で70億と、OpenAIが提供する「GPT-3」の25分の1程度しかない。これによって、1つのGPUで動作し、大規模ハードウェア不要で事務所内でのオンプレミス利用にも対応する。 2つ目の特徴は「世界トップレベルの日本語処理能力」だ。パラメーターを軽量化したにも関わらず、GPT3.5と日本語性能で比較した場合の勝率は8割を超え、英語においても高い処理能力を達成しているという。さらに、マルチモーダルにも対応し、パワーポイントの図表読解や聴覚も備える。 3つ
全米が震撼！Xで拡散された超大物アイドルのディープフェイク・ポルノの衝撃 【生成AI事件簿】技術進化の負の側面、ディープフェイクにどう対応すべきか | JBpress (ジェイビープレス)
Xで拡散されたテイラー・スウィフトのディープフェイク・ポルノ画像は全米に衝撃を与えた。 ディープフェイクを作成するツールは数多く、1枚の鮮明な画像があれば、すぐにディープフェイク動画を作成できる。 テクノロジーの進化の負の側面とも言えるディープフェイクに、私たちはどう対応すべきなのだろうか。 （小林 啓倫：経営コンサルタント） ディープフェイクのターゲットとなった超大物セレブ 1月下旬、X（旧Twitter）のトレンドに、奇妙なキーワードがランクインした。それは「Taylor Swift AI」。米国の超人気アイドル、テイラー・スウィフトの名前とAIを組み合わせた言葉だった。 テイラー・スウィフトは実力派の女性シンガーで、米国だけでなく世界中で絶大な人気を誇っている。これまでに全世界で売り上げたアルバムの総数は、実に1億枚を超えると推定されているほど。2月4日に開かれた米グラミー賞では、史
日本の「半導体産業」復活へ大チャンス到来！サムスンやTSMCが日本に投資する納得のワケ
1953年神奈川県生まれ。一橋大学商学部卒業後、第一勧業銀行（現みずほ銀行）入行。ロンドン大学経営学部大学院卒業後、メリル・リンチ社ニューヨーク本社出向。みずほ総研主席研究員、信州大学経済学部教授、法政大学大学院教授などを経て、2022年4月から現職。著書は「下流にならない生き方」「行動ファイナンスの実践」「はじめての金融工学」など多数。 今週のキーワード 真壁昭夫 経済・ビジネス・社会現象……。いま世の中で話題となっているトピックス、注目すべきイノベーションなどに対して、「キーワード」という視点で解説していきます。 バックナンバー一覧 韓国サムスン電子が半導体の研究開発拠点を神奈川県横浜市に新設すると発表し、話題だ。先端半導体の製造技術を日本の企業や大学と共同開発するためで、400億円超を投じる計画。他方、北海道はラピダスの工場建設を機に道内の半導体関連出荷額を2033年に1兆1000億
ニューヨーク・タイムズも激怒した、コピペ同然な生成AIの剽窃的アウトプット 【生成AI事件簿】「アニメの玩具」というプロンプトで出てきた驚きの画像 | JBpress (ジェイビープレス)
記事の無断利用でOpenAIとMicrosoftを訴えたニューヨーク・タイムズ。その訴状の中で、ChatGPTの驚くべき剽窃的アウトプットが明らかになった。 画像生成AIでの剽窃を調べた学者によれば、映画のワンシーンやアニメの玩具などの画像生成で、オリジナルをスクショしてコピペしたようなアウトプットが見られた。 印刷技術の発展とともに時間をかけて成立してきた著作権の概念。生成AIという新しい技術によってアップデートが加えられようとしている。 （小林 啓倫：経営コンサルタント） OpenAIを訴えたニューヨークタイムズ クリスマスも過ぎた昨年末の12月27日。米ニューヨーク・タイムズが、ChatGPTでお馴染みのOpenAIと、彼らと提携し生成AI活用を進めているMicrosoftを提訴した。訴えの中で、ニューヨーク・タイムズはOpenAIがLLM（大規模言語モデル）を開発する際に、同紙の記
生成AIは本当に製造業の役に立つのか 導入後の「定着化」が問われる2024年
生成AIは本当に製造業の役に立つのか 導入後の「定着化」が問われる2024年：MONOist 2024年展望（1/3 ページ） 2023年は大手製造業を中心に生成AIの大規模導入が進んだ年だった。確かに、生成AIは製造業にも革命的な変化をもたらすテクノロジーだと感じられるが、導入そのものはゴールではない。2024年は定着化に向けた施策が進むと思われるが、その辺りを少し考えてみたい。 2023年、製造業では生成AI（人工知能）が大きな注目を集めた。大手製造業を中心に、マイクロソフトの「Azure OpenAI Service」やAWSの「Amazon Bedrock」などのサービスを介して、セキュリティ対策を講じた上で社内業務への生成AI導入を進める動きも加速している。読者の中には試しに業務で使ってみて、テクノロジーが持つ可能性に驚いた人も大勢いるに違いない。 確かに、生成AIは製造業にも革
生成系AIが変える技術職の役割--今後のキャリアのために知っておくべきこと
Joe McKendrick （Special to ZDNET.com） 翻訳校正： 川村インターナショナル 2023-04-21 07:30 全職業の80％以上（特に大学教育が求められる仕事）が、生成系AIの影響を受けるか、生成系AIによって能力を高められるだろう。これは、OpenAI、OpenResearch、ペンシルベニア大学の研究者チームが先頃発表した論文の予測だ。この自動化の台頭は、ITの開発／運用に従事する人やこの分野での就職を志す人にとって、何を意味するのだろうか。 AIと、訓練データに基づいてコンテンツを作成する生成系AIは、テクノロジーキャリアに2つの点で影響を及ぼすだろう。ツールとしてのAIは、プロフェッショナルの生産性と能力を向上させる。ビジネスレベルでは、自動化の進歩によって、そのようなシステムの設計、構築、維持に必要なAIスキルに対する需要が拡大する。 開発者や
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
教えてAI byGMO - あなたの欲しいが見つかる生成AIのプロンプトポータルサイト ChatGPTやGeminiに役立つ