なぜ研究者はローカルPCでAIを実行する必要があるのか？
高度な生成AIは動作に相応の機器を必要とするため、一般的なユーザーが高度な生成AIを使うためにはネットに接続して利用するしかありません。一方で、高度なAIをローカルで実行できるような試みが行われ、実際にローカルで動作する高度なAIもいくつか存在します。AIをローカルで動作させることの利点について、科学誌Natureが利用者の声をいくつか紹介しました。 Forget ChatGPT: why researchers now run small AIs on their laptops https://www.nature.com/articles/d41586-024-02998-y 免疫系タンパク質の構造のデータベース「histo.fyi」を運営するクリス・ソープ氏はAIをノートPCで動作させています。ソープ氏は以前にChatGPTの有料版を試したそうですが、高価で出力が適切でないと感じた
RAGの処理で、リランクとベクトル検索でできることの違いを検証／解説してみる - Taste of Tech Topics
こんにちは。テニスしすぎて日焼けがすごいSsk1029Takashiです。 私は普段、生成AIを活用したRAGソリューションの開発をしているのですが、RAGでは特に検索部分の調整が重要になります。 今回はその検索の中で出てくるリランクに焦点を当てて、ベクトル検索と比較してどのような特徴があるのかというところを、検証を交えて解説していきます。 概要 RAGの検索部分では、よくベクトル検索が利用されます。 理由としては、入力が基本的に質問形式になりキーワードで入力されることが多い通常の検索よりも適している、などいくつか考えられます。 ただし、実際にRAGを試してみるとわかりますが、RAGシステムではベクトル検索だけでは検索精度の面で苦労することも多いです。 そこで解決方法の一つとして考えられているのが、ベクトル検索とリランクとの併用になります。 今回は、なぜRAGはベクトル検索だけだと苦労が多
GitHub Models を使って 20 種類以上の LLM の日本語性能を測定してみた - NTT Communications Engineers' Blog
本記事では、今年8月にパブリックベータ版として GitHub に搭載された新機能 GitHub Models について、概要や利用法を簡単にご説明します。さらに、実際に GitHub Models を活用して、多数の LLM の日本語性能を横断的に測定していく例を紹介していきます。 目次 目次 はじめに 三行で GitHub Models を説明すると... GitHub Models の使い方 Waitlist への登録 モデル一覧 ブラウザ上で試す API経由で試す GitHub Models を利用する上での注意点 API レート制限の制約が強い Azure AI Content Safety が全ての LLM に適用されている GitHub Models を使って LLM の日本語性能を横断的に測定する 実験 1. GPT-4o による自動評価 2. 出力が日本語になっているかどう
マイクロソフト、「Microsoft 365 Copilot」の新機能を多数発表--「Copilot Pages」など
「Microsoft Copilot」は登場以来、「ChatGPT」の有力なライバルであることを証明してきた。時には、ChatGPTを凌駕することさえあった。ChatGPTが進化を続ける中で、Copilotは後れを取ったが、今回、その後れを取り戻した。 Microsoftは米国時間9月16日、「Microsoft 365 Copilot: Wave 2」と題したライブ配信イベントを開催し、Copilotに提供される企業向け／消費者向けのアップデートを発表した。 それらの内容は印象的で、「Microsoft 365」のアプリケーション群とのさらなる統合、チームやグループ、家族として人工知能（AI）を共同で使用する方法などが含まれていた。発表内容をすべて確認したい人は、本記事を読み進めてほしい。 職場や組織のアカウントでCopilotにサインインすると、「Work」（作業）から「Web」（ウェ
「Gemini 1.5 Flash」「Gemini 1.5 Pro」の更新版リリース、数学性能や視覚理解性能が向上してProの価格は大幅値下げ
GoogleがGemini 1.5シリーズの性能強化版モデル「Gemini-1.5-Pro-002」と「Gemini-1.5-Flash-002」を発表しました。両モデルは強化前と比べて数学性能や視覚理解性能などが向上しているとのこと。また、Gemini 1.5 Proの値下げも発表されています。 Updated production-ready Gemini models, reduced 1.5 Pro pricing, increased rate limits, and more - Google Developers Blog https://developers.googleblog.com/en/updated-production-ready-gemini-models-reduced-15-pro-pricing-increased-rate-limits-and-mor
Hot Chips第3弾は、IBMのTelum IIである。これはIBMのzシリーズの系列のプロセッサーとなる。IBMのzシリーズは以前連載502回で取り上げたが、高可用性/高信頼性を最大の特徴とするメインフレーム向けプロセッサーのシリーズである。連載502回ではz14までのラインナップを紹介したが、2019年にz15プロセッサーが発表された。
人類が生成AI関連の技術開発などに投資した数千億ドルをどう回収するか、その方法を見つけ出そうとしている一方で、サイバー犯罪者は、既にこの技術を積極的に利用しています。例えば犯罪者は、AIを使用して仮想のマネーミュール（盗んだ資金を送金するために使用するダミー口座）を作成したり、さらにはディープフェイクを使用して、金融機関が使用する顧客の本人確認（KYC）を回避しています。 KYC (Know Your Customer)とは？ KYCとは、金融機関で口座を開設したり、クレジットカードを作成する際に求められる顧客の本人確認の手続きを意味します。詐欺行為、マネーロンダリング、脱税、テロ組織への資金流入を防ぐなど、各種犯罪活動に対抗するために使用されます。 最近KYCは、完全リモートサービス、つまり顧客が金融機関の従業員と個人的に接触することなくオンラインでサインアップする時の生体認証システムを
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
AI推論用アクセラレーターを搭載するIBMのTelum II Hot Chips 2024で注目を浴びたオモシロCPU (1/3)
詐欺師がディープフェイクを使用して顧客の本人確認を回避する方法