LlamaIndexを使ってAWS CDKの記事200本以上でインデックスを作りOpenAIに質問してみた | DevelopersIO
はじめに CX事業本部アーキテクトチームの佐藤智樹です。 今回はタイトルの通り、LlamaIndexを使いOpenAIにAWS CDKに関する記事（DevelopersIOのもの)を200本以上でインデックスを作り、どのような返答が返ってくるのか試してみました。LlamaIndexとは、簡単な実装で個別のインデックスを作成しOpenAIのモデルに対して問い合わせできるインターフェースです。詳細は以下をご確認ください。 インデックスの対象となる記事 AWS CDKのタグが付いている記事で、2021年12月21日から2023年3月8日までの合計240本の記事を対象にします。こちらで1つのAWS CDKというジャンルに対してどれほど正確に回答できるようになっていくのか確認します。 やってみた ここからはOpenAIのキー設定やインデックス作成用のコード、回答に対してどんな結果を返すのか確認します
Introducing MPT-7B: A New Standard for Open-Source, Commercially Usable LLMs
Unified governance for all data, analytics and AI assets
言語処理学会第29回年次大会(NLP2023) に参加しています。 そこで、予定のプログラムの昼休みをつぶして緊急パネルディスカッションが開催されました。 「緊急パネル：ChatGPTで自然言語処理は終わるのか？」 https://www.anlp.jp/nlp2023/#special_panel 本投稿では、その内容を少しだけ振り返ると共に、私の所感も添えて述べたいと思います。 １．パネルの概要東北大学の乾先生がファシリテーションされながら、以下の方々が5分ずつくらいライトニングトークして、その後残り時間でslackの質問を拾いながらフリー議論という形式でした。 ライトニングトークといってもしっかりプレゼンテーションされていて、それぞれ短時間でご自身のスタンスや考えをまとめられていて、さすがでした。 なお、プレゼンテーションスライドは参加登録者のみの取り扱いで、学会参加者に告知されてあ
数式処理システムのMathematicaや質問応答システムのWolfram Alphaを開発したStephen Wolfram氏が「What Is ChatGPT Doing … and Why Does It Work?」（ChatGPTは何をしていて、なぜそれがうまく機能するのか？）と題するブログ記事を発表しました。 この記事は、とても分かりやすい言葉で、沢山例を挙げて詳しく説明していますので、ChatGPTの仕組みを理解したいと思っている人には必読の記事だと思います。 ブラウザの翻訳機能を利用して日本語で読むこともできますが、易しい言葉で書かれた文章であるにも関わらず、これを完全に理解するのは簡単なことではありません。 前半は大規模言語モデル、ニューラルネットワーク、Transformerなどの仕組みについて相当詳しく説明しており、後半はChatGPTに関するWolfram氏独自の解
GitHub Copilot X：AIを搭載した開発者体験
GitHub Copilotは、チャットや音声インターフェイスの組み込み、Pull Requestのサポート、ドキュメントに関する質問への回答、OpenAIのGPT-4の採用など、よりパーソナライズした開発者体験を提供できるよう進化を遂げています。 GitHubのミッションは常に、時代の先を行くイノベーションを起こし、ソフトウェアで強化された世界で、開発者がより幸せかつ生産的になるために必要なものを提供することです。数年前に大規模言語モデルの実験を開始し、生成系AIはソフトウェア開発の未来を象徴する存在であることがすぐに明らかになりました。GitHubはOpenAIと提携して、GPT-3の子孫であるOpenAIのCodexモデルを使用した世界初の大規模な生成系AI開発ツールとしてGitHub Copilotを開発しました。 GitHub Copilotは、コメントやコードを自動補完すること
Innovative Tech： このコーナーでは、テクノロジーの最新研究を紹介するWebメディア「Seamless」を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。 米Chicago-Kent College of Lawに所属する研究者らが発表した論文「GPT Takes the Bar Exam」は、OpenAIの大規模言語モデル「GPT-3.5」で米国司法試験を受けるとどうなるかを検証した研究報告である。 法律は言語の使用に大きく依存する分野だ。法令や規制、契約、特許、司法判断などの文書を継続的に作成し、膨大な量のテキストデータを生成している。 他方で、OpenAIのGPT（Generative Pre-trained Transformer）などの登場により大規模言語モデル（LLM）が注目されてきた。最近ではGPT-3.5と呼ばれる「text-
OpenAI API
An API for accessing new AI models developed by OpenAI
Conversational and continuously learning, You.com enhances web search, writing, coding, digital art creation, and solving complex problems.
だれでもAIメーカーの技術スタックとか
主な使用サービス/ライブラリは以下です。 Next.js …アプリケーションのフレームワーク Vercel …デプロイ先 PlanetScale …サーバーレスDB(MySQL)。ORMにはPrismaを使用 Upstash …サーバーレスでRedisを使えるやつ Cloudflare R2 …画像のアップロード先 Open AI API ここに落ち着くまでに紆余曲折あったので、少し詳しく説明しておきます。 Next.js on Vercel 利用しているフレームワークはNext.jsです。クライアントからのデータの取得・更新リクエストはAPI Routesから受け付けるようにしています。 アプリケーションのデプロイ先はVercelにしました。最初はNext.js on Cloudflare Workersをやろうとしたのですが、辛い部分が多くて断念しました。 余談）なぜNext.jsをC
またすごいものが世の中に出てきました……。 「ChatGPT」、皆さんはもう試されたでしょうか？ ChatGPTとは、サム・アルトマン、イーロン・マスクを中心とした投資家たちが設立した研究機関「OpenAI」が開発した対話型AIチャットボットです。テキストで質問を打ち込むだけで瞬時に、機械学習による非常に精度の高い回答が、しかも会話として違和感のないごく自然な言語で返ってくることで、IT業界を中心に話題になっています。 2023年1月23日マイクロソフトは今後数年かけてOpenAIに投資し、「マイクロソフト製品にChatGPTを基本搭載する」と発表しました。その投資総額は、1兆円（100億ドル）を超える規模！！と噂されています。 これが実現すると、Office等にAIが搭載されるのはもちろんのこと、アカウントに紐づくデータとAIを組み合わせ、個人ごとに最適化された全く新しい体験も生まれてく
2023/04/25に、東京大学本郷キャンパスで発表した、荒居秀尚と本田志温 の資料になります。
Azure OpenAI Service On Your Data の仕組みと使う上で気を付けるべきポイント
はじめに Microsoft Build 2023 で発表された Azure OpenAI Service の On Your Data のパブリックプレビューが開始 しました。体感的には On Your Data は日本国内の全 Azure OpenAI Service ユーザーのうち 8 ～ 9 割程度のユーザーが待ち望んでいた機能ではないかと感じます。(ryohtaka 調べ) What's new in Azure OpenAI Service - June 2023 New easy way to add your data to Azure OpenAI Service (YouTube) しかし、実際に On Your Data を活用するためには気を付けるべきポイントが数多く存在しており、正確な期待値を持ったうえで使うことが非常に重要になってきます。そこで、本記事では On
ChatGPTやWALL-E 2を開発したOpenAIの元社員によって設立されたAIスタートアップ・Anthropicは、ChatGPTと同じような対話型AI「Claude」を開発しました。AIデータプラットフォーム・Scale AIのエンジニアであるスペンサー・パペイ氏とリリー・グッドサイド氏が、ChatGPTとClaudeの性能を比較した結果を公開しています。 Meet Claude: Anthropic’s Rival to ChatGPT | Blog | Scale AI https://scale.com/blog/chatgpt-vs-claude ChatGPTもClaudeも、「文章を入力すると、その内容に対して文章を生成して回答する対話型AI」です。ChatGPTは自然言語処理モデルであるGPT-3から派生したInstructGPTをベースとしたモデルで、「より人間らし
January 30, 2023 In this post, we'll implement a GPT from scratch in just 60 lines of numpy. We'll then load the trained GPT-2 model weights released by OpenAI into our implementation and generate some text. Note: This post assumes familiarity with Python, NumPy, and some basic experience with neural networks. This implementation is for educational purposes, so it's missing lots of features/improv
はじめに 2023/4/13に、AWSが新しい生成AIプラットフォームである「Amazon Bedrock」を発表しました。 この「Amazon Bedrock」を通じて、ビジネスやアプリケーションに最適な生成AIモデルを見つけるための幅広いFoundation Model (FM)を提供するとの発表がされています。 この記事では、Amazon Bedrockがどのように機能し、どのようにしてビジネスに価値をもたらす可能性を秘めているのかを解説します。 1. Amazon Bedrockの仕組み 簡単にまとめると、次のような機能や特徴を持つようです。 AIスタートアップやAmazonが開発した幅広いFMから選択できます。 サーバレスでプライベートにカスタマイズでき、独自のデータを使ってFMを調整できます。 AWSの既存サービスや機能（Amazon SageMakerおよびSageMaker
LMQL Playgroundでクエリを試すLMQLには動作を簡単に検証できるPlaygroundが用意されています。ローカルでPlaygroundを起動することもできます。 まずはGetting Startedで紹介されている以下のクエリを実行します。 argmax "Hello[WHO]" from "openai/text-ada-001" where len(WHO) < 10「Run」ボタンをクリックするとOpenAIのAPI KEYを求められるので、入力します。 実行するとModel Responseの枠に結果が表示されます。 LMQLの基本構造LMQLは記法的にはSQLと似ていて、以下のような構造を持っています。 デコーダ節（Decoder Clause）： テキスト生成に使用するデコード・アルゴリズムを指定します。LMQLでは様々なデコード・アルゴリズムを選択することができ
【シリコンバレー=佐藤浩実】米マイクロソフトが米新興オープンAIへの追加投資に向けて協議をしていることが10日までに明らかになった。米メディアのセマフォーが関係者の話として、最大で100億ドル（約1兆3200億円）の投資を視野に交渉していると報じた。取引は破談になる可能性もあるという。オープンAIは「GPT-3」などの大規模言語モデルを手がける人工知能（AI）の研究開発企業で、起業家のサム・ア
[Minecraft × ChatGPT] マイクラで作りたいものを伝えると魔法みたいに実現してくれるコマンドを作る
2023/03/09 追記 このコマンドで使っているエラーハンドリングの仕組みについて別途記事にしました。 ChatGPTならではで面白いので、読んでもらえると嬉しいです！ 🔗 ChatGPT API にコードを書かせて eval する際のエラーハンドリング・プラクティス 息子と一緒に遊びたいなと、Minecraft と ChatGPT を繋げて、やりたいことを日本語で伝えるといい感じに実現してくれるコマンドを作りました 🪄 作ったもの /py magic に続けてやりたいことを伝えると、いい感じに実現してくれます。 家をつくる例 /py magic 10マス先に豪華な家を作って。窓は広めで。 水流エレベーターをつくる例 /py magic 水流エレベーターを作って。周りは石ブロックで。 🛠️ 実装 事前に Minecraft で Python を実行できる環境を整えます。 mcpi
![[Minecraft × ChatGPT] マイクラで作りたいものを伝えると魔法みたいに実現してくれるコマンドを作る](https://cdn-ak-scissors.b.st-hatena.com/image/square/743ee345a8e02dd16f605e1da17b234f8cb5ccc8/height=288;version=1;width=512/https%3A%2F%2Fres.cloudinary.com%2Fzenn%2Fimage%2Fupload%2Fs--xe84uKbD--%2Fc_fit%252Cg_north_west%252Cl_text%3Anotosansjp-medium.otf_55%3A%25255BMinecraft%252520%2525C3%252597%252520ChatGPT%25255D%252520%2525E3%252583%25259E%2525E3%252582%2525A4%2525E3%252582%2525AF%2525E3%252583%2525A9%2525E3%252581%2525A7%2525E4%2525BD%25259C%2525E3%252582%25258A%2525E3%252581%25259F%2525E3%252581%252584%2525E3%252582%252582%2525E3%252581%2525AE%2525E3%252582%252592%2525E4%2525BC%25259D%2525E3%252581%252588%2525E3%252582%25258B%2525E3%252581%2525A8%2525E9%2525AD%252594%2525E6%2525B3%252595%2525E3%252581%2525BF%2525E3%252581%25259F%2525E3%252581%252584%2525E3%252581%2525AB%2525E5%2525AE%25259F%2525E7%25258F%2525BE%2525E3%252581%252597%2525E3%252581%2525A6%2525E3%252581%25258F%2525E3%252582%25258C%2525E3%252582%25258B%2525E3%252582%2525B3%2525E3%252583%25259E%2525E3%252583%2525B3%2525E3%252583%252589%2525E3%252582%252592%2525E4%2525BD%25259C%2525E3%252582%25258B%252Cw_1010%252Cx_90%252Cy_100%2Fg_south_west%252Cl_text%3Anotosansjp-medium.otf_37%3Aryo_kawamata%252Cx_203%252Cy_121%2Fg_south_west%252Ch_90%252Cl_fetch%3AaHR0cHM6Ly9zdG9yYWdlLmdvb2dsZWFwaXMuY29tL3plbm4tdXNlci11cGxvYWQvYXZhdGFyLzU2N2NiMTI0ZWYuanBlZw%3D%3D%252Cr_max%252Cw_90%252Cx_87%252Cy_95%2Fv1627283836%2Fdefault%2Fog-base-w1200-v2.png)
パナソニックグループのパナソニックコネクト（東京都中央区）は3月16日、大規模言語モデル「GPT-3.5」をベースにしたAIアシスタント「ConnectGPT」を国内の全社員向けに提供していると発表した。生産性向上が目的で、2月17日から導入しているという。 ConnectGPTは、クラウドサービス「Microsoft Azure」上で米OpenAIのサービスが使える「Azure OpenAI Service」を活用して開発した。社員はイントラネット上からサービスにアクセスし、テキストベースで質問ができる。 入力した情報は一定時間が過ぎたら消去し、米Microsoftによる二次利用もないという。開発に利用したAzure OpenAI Serviceは、ユーザーからの申請があった場合はデータを記録しない形での利用に応じることを明記している。一定の基準を満たした顧客から申し出があった場合、ログ
【シリコンバレー=中藤玲】米紙ウォール・ストリート・ジャーナル（WSJ）は27日、米アップルが米新興オープンAIへの投資を取りやめたと報じた。理由は明らかになっていない。オープンAIは65億ドル（約9240億円）規模の資金調達交渉を来週中にも完了するとされている。オープンAIは1500億ドルの企業価値評価を前提とした増資を計画し、米ベンチャーキャピタル（VC）のほかアップルや米エヌビディアが投
Hewlett Packard Enterprise（HPE）は世界最大級の産業見本市「HANNOVER MESSE（ハノーバーメッセ）」（2023年4月17～21日）において、ドイツのAI（人工知能）スタートアップAleph Alphaの生成AIを用い、自然言語での対話で産業用ロボットの操作をサポートするシステムのデモを行った。 ≫ハノーバーメッセ2023特集はこちら マルチモーダル、説明可能性、オンプレミス実装など特長 Aleph Alphaは、2019年創業のドイツ・ハイデルベルクに拠点を置くAIスタートアップで、独自の大規模言語モデル「Luminous」シリーズを開発、展開している。Luminousは、テキストだけでなく画像のプロンプトも処理可能なマルチモーダル機能や、生成したコンテンツを検証し、そのソースまで追跡する説明可能性などを特長としている。さらに、クラウドだけではなくオン
ChatGPT が Azure OpenAI Service で利用可能に - News Center Japan
マイクロソフト AI Platform 担当コーポレートバイスプレジデント エリック ボイド (Eric Boyd) ※本ブログは、米国時間 3 月 9 日に公開された “ChatGPT is now available in Azure OpenAI Service” の抄訳を基に掲載しています。 本日、マイクロソフトは、ChatGPT のプレビュー版が、Azure OpenAI Service において利用可能になったことを発表します。Azure OpenAI Service では、1,000 社以上のお客様が、Dall-E 2、GPT-3.5、Codex といった最先端の AI モデル、そして、Azure 独自のスーパーコンピューティングとエンタープライズ級機能に支えられた大規模言語モデルを適用して、新たな方法でイノベーションを実現しています。 ChatGPT は昨年末に導入されて以
「Google Colab」で 「PEFT」による大規模言語モデルのファインチューニングを試したので、まとめました。 1. PEFT「PEFT」(Parameter-Efficient Fine-Tuning)は、モデルの全体のファインチューニングなしに、事前学習済みの言語モデルをさまざまな下流タスクに適応させることができるパッケージです。 大規模言語モデルのファインチューニングは、多くの場合、法外なコストがかかりますが、「PEFT」は少数のパラメータのみをファインチューニングするため、計算コストとストレージ コストが大幅に削減でき、さらには、完全なファインチューニングに匹敵するパフォーマンスを実現します。 現在サポートしている手法は、次の4つです。 ・LoRA ・Prefix Tuning ・P-Tuning ・Prompt Tuning 2. Colabでの実行Google Colab
AzureでChatGPTが利用可能に、近日公開 「Azure OpenAI Service」一般提供スタート
AzureでChatGPTが利用可能に、近日公開 「Azure OpenAI Service」一般提供スタート 米Microsoftは1月16日（現地時間）、大規模自然言語処理モデル「GPT-3」などをクラウドサービス「Microsoft Azure」上で利用できる「Azure OpenAI Service」について、一般提供を開始すると発表した。近日中にAzure OpenAI ServiceでAI言語モデル「ChatGPT」を利用可能にする方針も明かした。 Azure OpenAI ServiceはAzureからOpenAIが運営するGPT-3やChatGPTなどのAPIにアクセスできるサービス。2021年11月に発表したが、GPT-3が有害な目的で使われることを防ぐとして招待制で提供していた。今後は一般向けに提供する。Microsoftは活用例として、カスタマーサービスのログから苦情
AWS による Jupyter の 生成系 AI の民主化とノートブック実行のスケールのための新しい拡張機能を発表 | Amazon Web Services
Amazon Web Services ブログ AWS による Jupyter の 生成系 AI の民主化とノートブック実行のスケールのための新しい拡張機能を発表 Project Jupyter は複数のステークホルダーで運営されるオープンソースプロジェクトであり、データサイエンス、機械学習、計算科学のためのアプリケーションだけでなく公開標準やツールも開発しています。なかでも、2011 年にリリースされた Jupyter Notebook は学術、研究、産業のあらゆる分野で世界で数百万人のユーザーが使用するデファクトスタンダードのツールとなりました。Jupyter ではユーザーがコードやデータをインタラクティブに実行でき、完全に再現可能な作業記録として作成、共有することが可能です。 AWS はデータサイエンティストや機械学習エンジニアにとって欠かせない Jupyter を開発する Proj
Today, we're announcing the Claude 3 model family, which sets new industry benchmarks across a wide range of cognitive tasks. The family includes three state-of-the-art models in ascending order of capability: Claude 3 Haiku, Claude 3 Sonnet, and Claude 3 Opus. Each successive model offers increasingly powerful performance, allowing users to select the optimal balance of intelligence, speed, and c
Genspark
Save time. Better results.TravelProductsImagesA Sparkpage is a new form of webpage featuring a built-in AI copilot, where you can freely chat and ask questions.About UsBlogPrivacyTerms
大規模言語モデル（LLM）に関連するビジネスを展開する際に留意すべき法規制・知的財産権・契約｜知的財産・IT・人工知能・ベンチャービジネスの法律相談なら【STORIA法律事務所】
OpenAIのChatGPT、MicrosoftのBing、GoogleのBardなど、言語系のAIサービスが急速に普及し始めました。1ちなみに記事冒頭のアイキャッチ画像は, 会社のロゴ風画像で「GPT」という文字をなんとか表示させようと画像生成AIで1時間悪戦苦闘したが結局、意味不明の文字列しか出てこなかったロゴ」です これらのサービスは、いずれも大規模言語モデル（Large Language Models; LLMs)をベースにしているという共通点があり、社会や産業に極めて大きなインパクトを与えると予想されています。 そこで、このような大規模言語モデル（LLM）に関連するビジネスを展開する際に留意すべき法規制・知的財産権・契約について、何回かに分けてまとめてみようと思います。 今回は、まずは総論部分として「大規模言語モデル（LLM）に関連するビジネス3つの領域」と「それぞれの領域におい
Custom instructions for ChatGPT
We’re rolling out custom instructions to give you more control over how ChatGPT responds. Set your preferences, and ChatGPT will keep them in mind for all future conversations. We’re introducing custom instructions so that you can tailor ChatGPT to better meet your needs. This feature will be available in beta starting with the Plus plan today, expanding to all users in the coming weeks. Custom in
ギブリーは4月4日、企業が安心してChatGPTを利用できるとうたう「法人GPT」の提供を開始した。API経由でChatGPTのサービスを提供することで、チャットに入力したデータがAIの学習に利用される心配もないとしている。 ChatGPTの登場以降、大規模言語モデルの生産性向上への有用性が明らかになっている。一方で、企業が積極的にChatGPTを自社の業務に利用しづらい状況がある。 ギブリーの独自の調査結果によると、約10%の会社が業務でChatGPTの利用を禁止している。また、禁止されていない企業では、社員が個人でChatGPTを契約し、こっそり業務の効率化に役立てている例もあるという。 その背景について「チャットに入力したデータがChatGPTの学習に活かされてしまうという企業側の懸念がある」とギブリーで取締役 オペレーションDX部門長を務める山川雄志氏は説明する。 通常のChatG
論文読み会 SNLP2024 Instruction-tuned Language Models are Better Knowledge Learners. In: ACL 2024
生成AIの産業における可能性｜東京大学 松尾研究室
ChatGPTのベースになった自然言語処理モデル「Transformer」を調べていたら「Hugging Face」に行き着いた | 豆蔵デベロッパーサイト
最近「ChatGPT」というワードがSNSを賑わしているようです。 筆者は技術に対しては非常にミーハー(？)なので、ChatGPTが何なのか？また、どれほど凄いのか試してみたくなりました。 さっそく ChatGPT を使ってみたいと思います。 (ChatGPTの利用登録の方法については、解説サイトがたくさんありますのでそちらを参照ください。Googleアカウントを持っていればGoogleアカウントと連携してログインすることも可能です) ChatGPTに登録してログインすると以下のような画面が表示されます。 Examplesを使って、いくつかの問いかけに対する応答を確認することが出来ます。 試しにExamplesの一番上にある「Explain quantum computing in simple terms」を選択して ChatGPT へ問いかけをしてみます。 (問いかけの内容は「量子コン
安野たかひろ事務所 技術チームで活動している角野です。普段は機械学習や自然言語処理関連の仕事をしています。 安野とは大学時代の学科の同級生で、彼が創業したBEDORE（現・PKSHA Communication）で一緒に働いていた縁もあり、技術面で今回の選挙活動をサポートしています。 私はAIあんのの開発を担当しており、特に次の3点の開発に携わっています。 返答生成ロジックの開発 返答生成に用いるデータの整備 音声合成 今回の記事では、1点目の返答生成ロジックについて解説します。システムの全体像については伊藤の記事でも解説されていますが、返答生成部分の技術により焦点を当てた記事となります。 返答生成フローについて返答生成は次の4つのパートで構成されています。 知識検索 知識のフィルタリング・リランキング 返答生成 ハルシネーションチェック 返答生成フローの全体像返答生成フローの設計思想全体
GPTシリーズの限界と非連続的な進歩について
GPTシリーズの限界と非連続的な進歩について 2023.02.28 Updated by Ryo Shimizu on February 28, 2023, 09:04 am JST 先日、秋葉原の3331で開催されたテクノエッジ主催イベントでは、StableDiffusionを開発したStability.AIのジェリー・チーさんと、THE GUILDの深津貴之さんと筆者の三人で鼎談した。 残念ながらイベントのアーカイブは残っておらず、80人の席は全て即完売。 改めて考えると、会場が小さすぎるしチケットが安すぎる。 まあそれはいいとして、懇親会ではTwitterやnoteでしか見たことがなかった生成AI業界のスターたちに挨拶できて非常に嬉しかった。 講演の感想をいただく中で、「Scaling Lawについての話が一番面白かった」と言われたので、昔もこの連載でとりあげた気がするが、再度この段
ChatGPTに書かせた技術記事に赤入れしてみた - Goodpatch Tech Blog
iOS 15で追加された新機能の中でも注目すべきは、Focus（集中）モードです。この機能を使うことで、自分がやるべきことに集中するために、通知やアプリアイコンの表示を制限できます。例えば、仕事中には仕事に関するアプリや連絡先からの通知だけを受け取り、プライベートな時間にはSNSやゲームからの通知を制限することができます。 Focusモードのデザイン Focusモードのデザインには、アプリのアイコンに新しいリングが追加されました。このリングは、Focusモードに設定されていることを視覚的に表していますは、基本的にできることが限られています。iOS15の段階では、コミュニケーションアプリの送受信先によって通知をフィルタすることしか開発者にはできませんでした。また、アプリの設定画面には、Focusモードに関するオプションが表示されます。ですが、iOS16から導入された「集中モードフィルタ」を使
この記事は、情報検索・検索技術 Advent Calendar 2023の12月4日の記事である。 昨今のLLMの台頭により、外部情報を In-Context Learning として利用しLLMの生成結果の性能を高めることが可能な RAG(Retrieval Augmented Generation) の重要性の高まりを感じる。ただ、RAG を使ったシステムを構築してみようにも、データが少ないと面白みが少なかったりする。その為、Wikipedia 日本語の約550万文から簡単に検索可能でRAGの入力データとして使えるような embeddings と、素早い速度でベクトル検索できるような faiss 用の index を作成した。 例えば、Wikipedia から該当の文を検索する用途はこのように使える。 from datasets.download import DownloadMana
ジェネレーティブAIで「文字起こし」をリライトさせるとどうなるのか。Easy-Peasy.AIを日本語で使ってみた（西田宗千佳） | テクノエッジ TechnoEdge
1971年福井県生まれ。得意ジャンルは、パソコン・デジタルAV・家電、ネットワーク関連など「電気かデータが流れるもの全般」。主に、取材記事と個人向け解説記事を担当。 音声の書き起こしはライターにとって夢の技術だ。そのまま原稿にできるわけではないが、インタビュー原稿や取材記事を執筆する上での手間が劇的に減る。筆者はもうずっと昔から、書き起こし系の技術が出るたびに試行錯誤を繰り返してきた。 そんな中に、ちょっとびっくりするようなサービスが現れた。正確にいえば「使ってみたらびっくりするようなものだった」というのが正しいだろうか。 それはいわゆるジェネレーティブAIサービスである「Easy-Peasy.AI」だ。このうち、AIによる音声書き起こしサービス「AI Transcription」を日本語で使ってみた。 結果として、「非常に使えるが、面白い性質がある」こともわかってきた。現在のジェネレーテ
Swallow Llama 2の日本語能力を強化した大規模言語モデル (7B, 13B, 70B) です。モデルのパラメータ（重み）が公開されていますので、LLAMA 2 Community Licenseに従う限り、研究や商業利用など自由に利用できます。 View on HuggingFace 大規模言語モデルSwallowは東京工業大学情報理工学院の岡崎研究室と横田研究室、国立研究開発法人産業技術総合研究所の研究チームで開発された大規模言語モデルです。英語の言語理解や対話で高い能力を持つ大規模言語モデルLlama 2 7B, 13B, 70Bの日本語能力を拡張するため、研究チームは言語モデルに日本語の文字や単語などの語彙を追加したうえで、新たに開発した日本語データを用いてモデルの構築を継続的に行う継続事前学習を行いました。研究チームで実施した性能評価では、2023年12月現在オープンな
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
ChatGPTで自然言語処理は終わるのか？で始まった知性・感性の再定義｜ysk_moto
Wolfram氏によるChatGPTの仕組みと機能に関する解説について｜IT navi
ChatGPTの言語モデル「GPT-3.5」、司法試験を受ける 結果は？
Your Personalized AI Assistant.
ChatGPTの衝撃 ーー新しいテクノロジーがもたらすもの。｜Yosuke Tsuji
東京大学大学院経済学研究科 「ICTと産業」基盤モデルと産業
OpenAIの「ChatGPT」と元OpenAIエンジニアが開発した「Claude」の性能を比較した実験結果
GPT in 60 Lines of NumPy | Jay Mody
AWSによる生成AIの新サービス「Amazon Bedrock」の可能性を考察する - Qiita
LMQL(Language Model Query Language)概観｜mah_lab / 西見 公宏
Microsoft、ChatGPTのオープンAIに1.3兆円を追加投資か - 日本経済新聞
パナ子会社、“GPT”利用の独自AIアシスタントを全社員に 漏えい防ぎつつ生産性向上へ
Apple、OpenAIへの投資を取りやめか WSJ報道 - 日本経済新聞
「ChatGPTに匹敵する」ドイツ新興の生成AI、HPEが製造業への導入例を披露
Google Colab で PEFT による大規模言語モデルのファインチューニングを試す｜npaka
Introducing the next generation of Claude
Introducing Gemini: our largest and most capable AI model
自社専用のChatGPT環境を構築できる「法人GPT」--入力データが学習される心配解消
医療分野におけるLLMの現状と応用可能性について
【東京都知事選×テクノロジー】AIあんのにおける返答生成技術について（詳細編）｜NSK
RAG用途に使える、Wikipedia 日本語の embeddings とベクトル検索用の faiss index を作った - A Day in the Life
Swallow – TokyoTech-LLM
maiko0.ue.bulog.jp
www.monotaro.com
www.wsj.com
www.green-up1.com
www.e-map.ne.jp
zenryoku.booth.pm