物理学者の逆襲!?Entropixはわずか3億6000万パラメータで1000億パラメータ級の回答を引き出す!Claude-3でも間違う問題を360Mが正しく解く｜shi3z
物理学者の逆襲!?Entropixはわずか3億6000万パラメータで1000億パラメータ級の回答を引き出す!Claude-3でも間違う問題を360Mが正しく解く 物理学者たちがノーベル物理学賞をホップフィールドとヒントンが受賞すると知った時、まあまあ微妙な気持ちになったことは想像に難くない。 我々コンピュータ科学者にとっては、ノーベル賞は全く無縁なものだった。むしろ「ノーベル賞をコンピュータ科学者が取ることは永久にない」と言い訳することさえできた。コンピュータ科学の世界にはチューリング賞という立派な賞があるし、ノーベル賞よりも賞金が高かった京都賞は、アラン・ケイやアイヴァン・サザーランド、ドナルド・クヌースなど、コンピュータ科学者たちが堂々と受賞している。その割には本来マイクロチップの最初の設計者である嶋正利などが京都賞にノミネートされていなかったり、サザーランドの弟子であるアラン・ケイの
【ServerlessDays 2024】生成AIアプリ実装におけるトレンド3選 - Qiita
・機能の多様化&複雑化 ・生成AIに仕事の一部を任せる ・ハルシネーションは許されなくなっていく ・出力内容の評価も生成AIが行う ・人間は更なる精度向上を求める ・生成AIを使いこなす技術力と知識が必要 ・AIがAIを使う時代へ このように移り変わっていくフェーズが来ている、と個人的には感じました。 ここからは、前述した3つのトレンドについて、1つずつ掘り下げていきます。 LLMが生成した出力を、LLMで評価する 例えば「オンライン薬局のLLMマルチエージェントを支えるLLM Ops」というセッションでは、患者さんとメッセージをやり取りする薬剤師さんに対して、返信のレコメンド文をLLMに出力させるという取り組みをされていました。 このサービスにおけるミッションは「漢方をお客様に販売すること」なので、虚偽・不正確な情報が入っていては困ります。 LLMが生成したメッセージを薬剤師さんがチェッ
Firecrawl
Crawl, Scrape, CleanWe crawl all accessible subpages and give you clean markdown for each. No sitemap required. [ { "url": "https://www.firecrawl.dev/", "markdown": "## Welcome to Firecrawl Firecrawl is a web scraper that allows you to extract the content of a webpage." }, { "url": "https://www.firecrawl.dev/features", "markdown": "## Features Discover how Firecrawl's cutting-edge features can tra
GPTを生んだ先端技術「Transformer」、その基礎を正しく理解する
対話型AIサービス「ChatGPT」で使われている自然言語モデルの核になっている技術が「Transformer」だ。自然言語処理を例に、Transformerの仕組みを解説する。 すっかり市民権を得た対話型AIサービス「ChatGPT」。ChatGPTで用いられている自然言語モデルが「GPT」（Generative Pre-trained Transformer）です。いわゆる「大規模言語モデル」（LLM：Large Language Model）の1つであり、本稿執筆時点（2023年12月）の最新バージョンは「GPT-4 Turbo」です。バージョンを追うごとに、精度向上などの進化を遂げてきました。 このGPTの核となるディープラーニング（深層学習）のモデルが「Transformer」です。前述のGPTの正式名称を見直すと、「T」はTransformerのTであることがわかります。このネ
自動プロンプト最適化をやってみた - Algomatic Tech Blog
はじめまして！データサイエンティストの山内(@jof_5)です。 本記事では、日々、プロンプト開発されている皆様に向けて、プロンプトを効率的に開発する手法の一つである「自動プロンプト最適化」について記載いたします。 1. プロンプトエンジニアリングの必要性と課題 2. 自動プロンプト最適化について 2-0. 最適なプロンプトとは何か？☕ 2-1. 自動プロンプトの概要 2-2. 自動プロンプト最適化のアーキテクチャ ①Task Executor: LLMによるタスクの実行 ②Output Evaluator: 出力の評価 ③ Prompt Improver: 最適なプロンプトの生成 3. 実験結果と考察 3-1. 自動プロンプト最適化の有効性の検証 3-2. 最適化プロンプトの生成過程 3-3. 最適化されたプロンプトの特徴 3-4. プロンプト生成用LLM(Prompt Improver
生成AI離れを防ぐ、組織定着化のヒント
生成AI技術が持つ高いポテンシャルは、多くの組織で注目されていますが、実際に日常業務に定着させるのは容易ではありません。 生成AIを導入したものの利用率が低下してしまう"生成AI離れ"が起きている現場もあるのが事実です。 この講演では生成AIを組織に効果的に組み込むための具体的な方法を提案します。 まだまだ進化を遂げる生成AIの継続的な利用を促し、業績向上のための実用的なテクニックをお届けします。 鈴木 祥太 ソフトバンク株式会社 SoftBank Tech Night #13 SoftBank World Special https://sbtechnight.connpass.com/event/295591/ 2023/10/04(水) 18:10 〜 20:10 ザ・プリンスパークタワー東京 SoftBank World 2023の会場内 で講演した資料です
ChatGPTplusを解約してClaude3Proへ乗り換えをする際に検討した事｜genkAIjokyo|ChatGPT/Claudeで論文作成と科研費申請
私は長らくOpenAIとChatGPTの大ファンであり、ChatGPTはリリース初日から使用し、有料プランもリリース当初から加入して利用してきました。しかし、この度Claude 3 Opusの文章のクオリティの高さに魅了され、ChatGPTからの乗り換えを決意しました。 （2024.4.29追記）こんなに記事を沢山読んでいただいたにも関わらず申し訳ないのですが、純正Web版Claude3Opusの 使用制限が厳しくなっていることと、ChatGPTのGPT4-turbo へのアップデートおよびChatGPTが使いがちな単語をnegative promptで抑制することで、好みの英文が出るようなったので、現在はPerplexityProでClaude3Opusを使い、ChatGPTは課金を再開しました。（これにした経緯は後述） （2024.3.19追記）Opusとりあえず試してみたい！という方
SaaSビジネスがいま、AIで大きく変わろうとしている | Coral Capital
月間10万人が読んでいるCoral Insightsのニュースレターにご登録いただくと、Coral Capitalメンバーによる国内外のスタートアップ業界の最新動向に関するブログや、特別イベントの情報等について、定期的にお送りさせていただきます。ぜひ、ご登録ください！ これまでソフトウェア・スタートアップは、主に企業における個人やチームの生産性向上のためのソフトウェアに注力してきました。要するに、ソフトウェアは実際に実務を行う「実務者」を支援するために作られてきたのです。ユーザー数に応じた価格設定が一般的であるのも、こうした背景から1人あたりの生産性向上効果でコストを正当化する価格戦略が適切とされていたからです。 しかし現在、LLMによってパラダイムシフトが起ころうとしています。インターネットの黎明期には、多くのウェブサイトが「オフラインの現実世界」に基づいて作られていました。例えば、街の
ELYZA LLM for JP (デモ版)
2024年6月 基盤LLMを「ELYZA-japanese-Llama-2-70b」から「Llama-3-ELYZA-JP-70B」（Built with Meta Llama 3）に変更しました 「ELYZA LLM for JP」はELYZAが開発する日本語の大規模言語モデル（LLM）シリーズの総称です。今回のデモは2024年6月時点で最高性能のモデル「Llama-3-ELYZA-JP-70B」を基盤としたもので、日本語による対話・タスクの実行においてグローバルプレイヤーが提供する海外製LLMに匹敵する性能（※）を実現しています。ELYZAでは本モデルシリーズを、グローバルモデル以外の新たな選択肢として、主にセキュリティやカスタマイズ性を重視する企業、自社サービスや事業にLLMを組み込みたい企業に向けて、安全なAPIサービスや共同開発プロジェクトなど様々な形態で提供してまいります。
マネフォ出身者創業の生成AIスタートアップStarley、雑談や悩み相談できるアプリ「Cotomo」をローンチ - BRIDGE（ブリッジ）テクノロジー＆スタートアップ情報
Image credit: Starley ＜21日15時更新＞ アプリに搭載されている基本音声の数を修正。 マネーフォワード（東証：3994）出身の丸橋得真氏や内波生一氏らが生成 AI スタートアップ Starley を創業し、プレシードラウンドで古巣であるマネーフォワードから1億円を調達したことは、昨年6月にお伝えした。あれから8ヶ月を経過した21日、同社は AI アプリの「Cotomo」をローンチした。iOS 向けに提供され、アプリストアからダウンロードできる。 Cotomo はユーザとの会話を通じて成長する音声会話アプリだ。雑談や悩み相談など、人間が独りでいる時、誰かといるが会話が煩わしい時などに、気軽に言葉を交わせることでユーザに癒しをもたらすことを意図している。最近の生成 AI のように、インターネット経由で外部から情報取得して応えることはしないが、「一般常識寄りなことであれば
Vertex AI Gemini ProとLangChainで実現するMultimodal RAG
はじめに この記事は、Google Cloud Champion Innovators Advent Calendar 2023 18日目の記事です。 機械学習エンジニアをしています、原です。Google Cloud Champion Innovators(AI/ML)として選出いただき、活動しています。Google Cloud Innovatorsは、Google Cloud開発者/技術者のためのメンバーシッププログラムです。誰でも参加可能ですので、Google Cloudユーザーの方はぜひ参加をおすすめします！ 先日、下記のような記事を公開し、Vertex AIにおけるGemini APIの概要と簡易的な実装例を紹介しました。 今回は少し実践寄りで、Vertex AIでのGemini APIとLangChainを組み合わせて、MultimodalなRAGを構築する一例を紹介します。実現
AWS、業務専用AIアシスタント「Amazon Q」発表 月額20ドル／ユーザーで提供開始
AWSは、企業はチャットボットの採用に興味は持っているが、データのセキュリティとプライバシーに関する懸念も抱いているとし、より安全でプライバシーを守れるチャットボットとしてQを構築したという。例えば、Qは企業顧客が既に設定しているセキュリティ権限に従い、特定の従業員が機密データにアクセスできないようにする機能を備えている。 また、企業顧客はAmazon QにSlackやGmailなどの外部データソースへのアクセス権を与えることもできる。Amazon Qは特定のAIモデルに基づいておらず、Amazon独自のプラットフォーム「Bedrock」を使っている。これにより、米Anthropicや米Metaなどによる複数のAIシステムを接続できる。 セプリスキー氏は米New York Timesに対し、Qという名称は「Question」に由来するが、「007」シリーズに登場するMI6の研究開発部門の課
大規模言語モデル間の性能比較まとめ｜mah_lab / 西見 公宏
StableLMのファインチューニングってできるのかな？と調べたところ、GitHubのIssueで「モデル自体の性能がまだ良くないから、ファインチューニングの段階ではないよ」というコメントがありまして。 シートの中身を見てみるlm-evalシートstablelm-base-alpha-7bは54行目にありまして、確かに他の言語モデルと比較するとまだまだな性能のようです。応援したいですね。 シートの列の意味それぞれの列の意味については推定ですが以下の通りです。 RAM 言語モデルのGPUメモリ消費量。 lambada(ppl) LAMBADAデータセットによる測定値。ロングレンジの言語理解能力をテストする（文章全体を読まないと答えられないタスクでの評価）。PPLはPerplexityという指標で、モデルの予測の不確かさを示す。PPLが低いほど、モデルの予測精度が高い。 lambada(acc
Vicuna: An Open-Source Chatbot Impressing GPT-4 with 90%* ChatGPT Quality | LMSYS Org
Vicuna: An Open-Source Chatbot Impressing GPT-4 with 90%* ChatGPT Qualityby: The Vicuna Team, Mar 30, 2023 We introduce Vicuna-13B, an open-source chatbot trained by fine-tuning LLaMA on user-shared conversations collected from ShareGPT. Preliminary evaluation using GPT-4 as a judge shows Vicuna-13B achieves more than 90%* quality of OpenAI ChatGPT and Google Bard while outperforming other models
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
GitHub - dai-motoki/zoltraak
v0 by Vercel
Codeium · Free AI Code Completion & Chat
https://twitter.com/fladdict/status/1687825205501313024