LLMプロダクトのロバスト性と運用｜Yuki Nanri
こんにちは、Algomaticのなんりです。 この記事は、LLM In Productionで登壇した「LLMプロダクトのロバスト性と運用」の資料を元に加筆した内容です。 背景が不足していたり、図が小さかったりしたので、追記も含めて更新しました。もし間違いがあれば教えてください。 自己紹介会社概要と事業内容いきなり余談で恐縮ですが、LLM in Productionの前回の勉強会で代表の大野が「LLMを活用した “反直感的”な新規サービス設計」という発表をしました。その中で「とりあえずサービスをリリースして、事業性がなくクローズした」という話をしています。 本勉強会の懇親会である方から、「事業ドメイン上、LLMプロダクトの取り組みは難しかったが、この話を聞き、チーム内でまず出してみようと動きになった。もうすぐプレスリリースも出します。」という声を頂きました。 市場全体でこういった事例が増え
Five Levels Of AI Agents
IntroductionThis is a topic I really enjoyed researching and I was looking forward to writing this. Mostly because I wanted to demystify the idea of agents and what exactly constitutes an agent. Together I wanted to create a clear delineation between domain specific implementations and wide, general implementations which are referred to as AGI. Considering domain specific implementations, this is
社内のAI活用事例と活用促進のための取り組みを大公開！
2024/05/28に、プロデザ！byリクルートvol12で発表した、上村・黒羽・夏目・三浦の資料です。
Copilot for Microsoft 365 ユーザー向け研修資料
Copilot for Microsoft 365 ユーザー向け研修資料を作りました。まだ出来栄えとしては、7割程度ではありますが、せっかくなのでWebで公開します。 Copilot for Microsoft 365 をこれから触る方の参考になれば幸いです。また、まだ書ききれていない部分も多々あるので、日々メンテはしていきたいと思います。 ＜関連ブログ＞ Copilot for Microsoft 365 ぶっちゃけどうなん？ https://blog.cloudnative.co.jp/22728/ Copilot for Microsoft 365 に関する FAQ https://blog.cloudnative.co.jp/21345/
基盤モデルを用いたAIエージェントの設計パターン - Sun wood AI labs.2
はじめに 近年、人工知能(AI: Artificial Intelligence)の分野では、AIエージェント(AI Agents)と呼ばれる技術が大きな注目を集めています。AIエージェントとは、人間に代わって自律的に行動し、目標を達成するためのソフトウェアシステムのことです。 特に、大規模な言語モデルや画像生成モデルなどの基盤モデル(Foundation Models)を用いたAIエージェントは、高度な推論能力と言語処理能力を持ち、ユーザーの目的を理解し、それを達成するために自発的に行動することができます。そのため、様々な分野での応用が期待されています。 しかし、このようなAIエージェントを開発する際には、目標設定の難しさや推論プロセスの説明性の欠如、責任の所在の複雑さなど、様々な課題が存在します。また、基盤モデルに内在する幻覚(Hallucinations)の問題もあります。 これらの
「金融生成AI実務ハンドブック」公開のお知らせ
一般社団法人金融データ活用推進協会（東京都中央区、代表理事：岡田 拓郎、以下「FDUA」）は、2023年7月に立ち上げた生成AIワーキンググループ（以下「生成AIWG」）において、健全な活用促進のための生成AIガイドラインの策定に取り組んでおり、この度「金融機関における生成AIの実務ハンドブック（第1.0版）」を公開いたしますのでお知らせいたします。 ダウンロード申請はこちら https://www.fdua.org/board/generativeai 生成AIは、特に事務処理や情報管理が多い金融機関において、顧客サービスの向上や業務の効率化など、幅広い領域で高い効果を発揮すると期待されています。しかし、その活用には著作権などの法的規制、倫理的問題、セキュリティへの適切な対応が必要となります。 特に金融機関では、各種金融規制法やガイドラインの順守が不可欠です。 生成AIWGでは、金融業界
LLMエージェントの設計16パターン | AIDB
LLMエージェントの設計は課題が多い上に分類が整理されていません。なお課題としてはハルシネーション（誤った情報の生成）の存在や推論の道筋が不明瞭な点などが挙げられています。 今回研究者らは、基盤モデルを使ったエージェントの設計パターン16種類をまとめました。例えば、エージェントが目標をどうやって設定するか、計画をどう作るかについての情報が記載されています。 参照論文情報 タイトル：Agent Design Pattern Catalogue: A Collection of Architectural Patterns for Foundation Model based Agents 著者：Yue Liu, Sin Kit Lo, Qinghua Lu, Liming Zhu, Dehai Zhao, Xiwei Xu, Stefan Harrer, Jon Whittle 所属：Dat
生成AIを巡る日本の現状は？ 東大・松尾教授の考察資料が無料公開 「1年間、日本は最善手を指し続けている」
内閣府は5月23日、「第9回 AI戦略会議」で取り扱った資料を公開した。同会議は22日に開催したもので、AI研究の権威として知られる東京大学の松尾豊教授が作成した「生成AIの産業における可能性」と題した全33ページの資料などを閲覧できる。資料は、ここ1年間での生成AIを取り巻く日本の動きをまとめており、各産業でどのようなAI活用方法があるか考察している。 資料内で松尾教授は、日本のAI政策について「デジタルの領域は、グローバルな競争の中で全般に苦しい戦いが続き、AI政策も厳しい状態からスタートしている」としつつ「ここ1年、日本は最善手を指し続けている」と説明。「広島AIプロセス」などグローバルの議論でリーダーシップを発揮している点や、AI関連予算費を増やしGPUの増強に当たっている点などを評価している。
LLMを活用したプロジェクトのプロダクトマネジメント｜arai takashi / product manager
mentoでPMをしている荒井です。 mentoは、月3万円からプロのビジネスコーチがつけられるオンラインサービスです。現在は法人向けの「mento for Business」に注力してます。 会社としても個人としても初めてとなる、LLM(大規模言語モデル)を活用した「AIサマリー」プロジェクトのプロダクトマネジメントについて書きます。 AIサマリーとは、コーチングを録画するだけで自動で内容が要約され、コーチング対象者およびコーチが受け取れるサービスです。 公式のプレスリリースです↓↓ 企画背景：管理職は忙しすぎる。必要なのは押し付けない支援コーチングにおいては、経験学習サイクルを引き合いに、業務での実践と振り返り(内省)が重要と言われます。 mentoがサービスを提供するのは、1日の予定がぎっちり詰まっている忙しい管理職です。60分のコーチングセッションの時間を確保することも難しいような
OKRと「測りすぎ」 〜なりたい姿を、「測りすぎ」ないようにしながらどう追いかけるか〜/OKR and the tyranny of metrics
OKRと「測りすぎ」 〜なりたい姿を、「測りすぎ」ないようにしながらどう追いかけるか〜/OKR and the tyranny of metrics
Object-Oriented Conference2024 のランチセッションで生成AIの話をしました - Algomatic Tech Blog
tech.algomatic.jp 2024年3月24日 (日) 開催の Object-Oriented Conference2024にて、ランチセッション登壇させていただきました。 登壇資料 登壇資料はこちらです。 speakerdeck.com お伝えしたかったこと 過去の登壇でも度々お話しさせていただいているのですが、生成AIはまだまだ黎明期であり、あらゆるものが日々変わっていきます。 一方で、その黎明期の技術を使わなければ不可能な価値提供が確かに存在しています。 その技術的不確実性をわたしたちソフトウェアエンジニアの「設計」という営みによってうまく乗りこなせたら、それはとても事業上優位性となりますし、何より楽しいなぁと私は思います。 そんな「生成AIをプロダクトに組み込む」というチャレンジの楽しさが、少しでも多くの方に伝わっていれば幸いです。 また、上記の内容は公式ガイドブックへの
Devin を含むAIソフトウェアエンジニアと周辺技術のざっくり紹介 - Algomatic Tech Blog
こんにちは。LLM STUDIO 機械学習エンジニアの宮脇（@catshun_）です。 本記事では最近注目を集めている AI ソフトウェアエンジニアに関するプロダクトについてざっくりと紹介します。 社内勉強会に向けたキャッチアップ資料として作成しており、加筆修正する可能性がありますが、本記事を読んだ方の議論のネタ程度になってくれれば幸いです。 おことわり 本記事では AI ソフトウェアエンジニアに関する 詳細な解説は含みません。 Devin を参考に AI ソフトウェアエンジニアと呼称していますが、主語が大きく曖昧性の高い表現を使用しています。詳細については 参照元をご確認ください。 不十分また不適切な言及内容がございましたらご指摘いただけますと幸いです。 プロダクト等の利用時は 必ずライセンスや利用規約を参照して下さい。 本記事の目次 プログラム生成を伴う推論 Self-Refine (
Arxiv RAGによる論文サーベイの自動生成 | Shikoan's ML Blog
2.3k{icon} {views} 複数のLLM（GPT/Claude3）とArxivの検索APIをRAGで統合し、論文サーベイの自動生成を作りました。検索結果の前処理や、サーベイ特有のプロンプトエンジニアリングやソートが重要で、最適化手法として古くからある巡回セールスマン問題（TSP）が有効に機能しました。また、生成部分ではGPTよりClaude3の明確な有効性を確認できました。 できたもの Arxivの検索APIを使って検索拡張生成（RAG）したらサーベイを自動生成できた やっていること Arxivの検索ワードをGPT-4-Turboで生成 ArxivのAPIを叩いてヒューリスティックでフィルタリング OpenAIのEmbedding APIを叩く Embeddingに対して巡回セールスマン問題（TSP）を解いてソートをかける 論文の要旨をGPT-3.5-Turboで要約 ソートした
生成AIを活用したサービス設計のススメ〜仮説構築編〜
デザイナーの帽子をかぶったわたしが、プロダクト開発するうえでスクラムチームに提供したいこと / what I want to provide to Scrum teams when developing products
Linear - それは魔法のプロダクトマネジメントツール
アジャイル開発やスクラム開発を支援するためのマネジメントツールとして、みなさまはどんなツールをお使いでしょうか。GitHub (GitHub Project)、 Jira、Zenhub、Pivotal などなど... 優れたツールは数多あるなか、Awarefy では Linear （リニア）を導入し、日々の開発タスクにはじまり、採用関連タスク、経営にまつわる Issue などをこのツールで管理しています。 Linear – A better way to build productsLinear streamlines issues, sprints, and product roadmaps. It’s the new standard for modern software development.LinearAwarefy が Linear を導入したのは 2023年3月のことで、お
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Easy Scraper
生成AIの産業における可能性｜東京大学 松尾研究室
生成AIユースケースを考え倒すためのGenerative AI Use Cases JP (GenU)の魅力と使い方
Databricksの生成AI戦略
Advance RAG control flow with Mistral and LangChain: Corrective RAG, Self-RAG, Adaptive RAG
