最近、人工知能による自然言語処理が爆発的に進化しているのでまとめてみた。【中編】｜IT navi
２．自然言語処理の主要プレイヤー① Google 現在、自然言語処理の世界を牽引しているリーダーは、TransformerとBERTを開発したGoogleです。 Googleグループには、世界トップクラスの人工知能研究チームが2つあります。一つは、Google Brainチームで、もう一つは、英国のデミス・ハサビス氏が代表を務める人工知能開発ベンチャーを買収してできたDeepMindチームです。 Google Brainは、Googleエンジニアのジェフ・ディーン博士やスタンフォード大学のアンドリュー・ウン教授らが中心となって設立した研究チームで、現在は、Google研究所の傘下に入っています。また、ディープラーニングの父と呼ばれるジェフリー・ヒントン教授も現在、同チームを率いるメンバーに参加しています。 Google Brainは、Transformerなどの自然言語処理技術のほか、機械
自社のデータで生成AIを強化すべし：ファインチューニングしてビジネスに活用させたい基盤モデル（その１） | NTTデータ先端技術株式会社
最近、クラウドサービスプロバイダ各社が言語系の基盤モデルとそのファインチューニング機能を提供し始めました。企業が生成AIをビジネスに本格的に活用させたいと思うならば、自社がもつデータセットで基盤モデルをファインチューニングする必要があるからです。 AIは、他の技術が成長する上で不可欠な基盤的な技術であり、ビジネスや社会の進化を後押ししています。最近、世間を賑わせているAIと言えば、生成AIでしょう。その中でもここ数ヶ月、メディアで数多く取り上げられて一躍注目を浴び、ビジネス現場を賑わせ続けているのが、OpenAIが開発したChatGPTです。ChatGPTは、GPT-3.5 Turboという大規模言語モデルを用いたAIチャットサービスです。（ただし、ChatGPTを大規模言語モデルと呼ぶ場合もあります。）GPT-3.5 Turboは、GPT-3.5という基盤モデルを人間のような自然な会話が
【GPT】大規模言語モデルまとめ - Qiita
はじめまして、sonesuke( https://twitter.com/sonesuke ) です。 LLMのニュースを追っかけ続けたので、これからキャッチアップする人用にまとめておきます。 これだけは知っとけ用語 各モデル、プロジェクトの説明を読む前に、「これだけは知っとけ用語」を読んでおくと意味がわかります。知っている人は飛ばしてください。 LLM 大規模言語モデル (Large Language Model)の略。膨大なテキスト言語を使って学習したニューラルネットワークのこと。パラメータの数が性能の指標になっており、〇〇Bみたいな形で表記されています。GPT-3で175B (1750億個)。 基本的には、入力に続く、次の単語を推論して出力しているに過ぎないのですが、応用範囲が広く、世の中的に注目されています。 学習データ 学習用のデータセットとも呼ばれます。 RLHF (Reinf
トラストバンク、自治体向けChatGPT活用サービス「LoGoAIアシスタントbot版」無料トライアル提供開始
トラストバンク、自治体向けChatGPT活用サービス「LoGoAIアシスタントbot版」無料トライアル提供開始～ 自治体向けビジネスチャットツール「LoGoチャット」に対話型AI「ChatGPT」の機能追加 ～ ～ 文書作成、企画立案補助など自治体の業務改善をAI技術で支援 ～ 自治体向けのDXソリューション「LoGoシリーズ」を提供する株式会社トラストバンク（本社：東京都渋谷区、代表取締役：川村憲一、以下「トラストバンク」）は、全国1,211自治体（注）に活用されている自治体向けビジネスチャット「LoGoチャット」で対話型AI「ChatGPT」を利用できる「LoGoAIアシスタントbot版」の無料トライアルの提供を本日7月11日に開始いたします。 本格提供は10月以降を予定しています。本サービスの提供により、生成AI技術による自治体業務の効率化を支援するとともに、自治体業務における生成A
LlamaIndexの性能向上のためのテクニックガイド｜npaka
以下の記事が面白かったので、かるくまとめました。 ・Building Performant RAG Applications for Production 1. はじめに「LlamaIndex」によるRAG (検索拡張生成) のプロトタイプを作成するのは簡単ですが、それを本番用に性能と堅牢性を備えた大規模な知識コーパスに拡張するのは困難です。 この記事では、「LlamaIndex」によるRAGの性能を向上させるためのさまざまなヒントを紹介します。最終的な目標は、検索 (retrieval) と生成 (generation) の性能を最適化し、より複雑なデータセットに対するより多くのクエリに幻覚なしに正確に答えることです。 2. 本番用のRAGを構築するための考慮事項本番用のRAGを構築するための考慮事項は、次のとおりです。 ・検索用のチャンクと合成用のチャンクの分離 ・より大きな文書セット
LlamaIndexを完全に理解するチュートリアル その１：処理の概念や流れを理解する基礎編（v0.7.9対応） | DevelopersIO
本記事から数回に分けて、LlamaIndexの中身を深堀していく記事を書いていこうと思います。 本記事の内容 初回は基礎ということで、サンプルコードを例にLlamaIndexで登場する処理を深堀して、カスタマイズのヒントになる知識を得ていきます。 基礎編とはなっていますが、結構長めの記事となっています。 基礎が最も大事ということで、LlamaIndexをただ単に使用するだけではブラックボックス化してしまいがちな概念や処理の流れを一通り洗い出しています。 これ以降の記事では、この基礎をベースにしてどのようなユースケースとカスタマイズが考えられるのかを記事にしていこうと思いますが、初回から重たいので完全理解するよりは、今後の拠り所とする感じにして頂けますと幸いです。 LlamaIndexとは LlamaIndexは大規模言語モデル(LLM)と外部データ(あなた自身のデータ)を接続するためのイン
「脱ブラックボックス化！LLMと一緒に使われるLangChainやLlamaIndexを徹底解説」というタイトルでDevelopersIO 2023に登壇しました #devio2023 | DevelopersIO
こんちには。 データアナリティクス事業本部 インテグレーション部 機械学習チームの中村( @nokomoro3 )です。 先日開催された DevelopersIO 2023 のチョークトークで登壇いたしました。 その際の資料と概要を共有いたします。 資料 登壇資料は以下となります。 概要のご紹介 以下の内容をご紹介しました。 OpenAI APIの話 APIの詳細な使い方 トークンとは何か Function callingの詳細 LangChainの概要 基本的なChain（LLMChain、SequentialChain） 応用的なChain（LLMRouterChain、SQLDatabaseChain、ConversationChain、RetrievalQA） Memoryの種類 Agentの種類 LlamaIndexの概要と仕組み LangChainとの違い、内部的な仕組み カス
RAGを利用して国会会議録に基づいて質問に回答するLLMを作る方法 | 豆蔵デベロッパーサイト
はじめに # こんにちは。デジタル戦略支援事業部の藤堂です。普段はデータ分析の業務に従事し、AI TECHチームでも活動をしています。 昨年末のChatGPTの登場以降、大規模言語モデル（LLM）の可能性が広く認識されるようになりました。これらのモデルは、インターネット上の膨大な情報を学習する能力を持っていますが、法律、医療などの専門的知識や、特定の企業や個人に関連する独自の情報には疎いのが現状です。このギャップを埋めるための技術として、Retrieval Augmented Generation (RAG)が注目を集めています。本記事では、RAGの基本的な仕組みを解説し、LlamaIndexを活用したRAGの実装方法について詳しく紹介します。 特に、本記事の焦点は、ChatGPTではなく、OpenなLLMを活用して、会議録などの回答生成を行うシステムの構築にあります。このアプローチを採用
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
