LLMの応答に柔軟性・拡張性をもたせる為の取り組みについてです。 ・基本プロンプト ・RAGで埋め込む知識 ・LLMのテキスト応答と同時に生成する音声 などを柔軟に切り替えてユーザーの「痒いところに手が届く」を実現する為に、どのような仕組みを用意しているのか紹介します。
生成AIキャラクター作成プラットフォームにおける LLM応答の柔軟性の拡張の工夫
LLMの応答に柔軟性・拡張性をもたせる為の取り組みについてです。 ・基本プロンプト ・RAGで埋め込む知識 ・LLMのテキスト応答と同時に生成する音声 などを柔軟に切り替えてユーザーの「痒いところに手が届く」を実現する為に、どのような仕組みを用意しているのか紹介します。
LLMチャットアプリケーション・アーキテクチャの工夫
LLM Night〜生成AIソフトウェアアーキテクチャ〜というイベントで発表した資料です。 イベントの概要と本資料のサマリーは以下のとおりです。 --------------- 回は、生成AI/LLMを用いたアプリケーションのソフトウェアアーキテクチャにフォーカスして語ります。 生成AIを用いたアプリケーションの開発が行われるようになり、本番運用している企業も増えてきました。 一方、まだ生成AIを用いたソフトウェアの設計・ソフトウェアアーキテクチャに関する情報は多くはなく、まだベストプラクティスが出揃っていないと感じます。 ・各社がどのようなソフトウェアアーキテクチャを用いて生成AIソフトウェアを開発しているのか ・各社がどのような設計パターンを導入して生成AIソフトウェアを開発しているのか ・アプリケーション開発を実施する上でどのような工夫を実施しているか ・アプリケーション開発を実施す
株式会社一休 会社紹介資料 / introduce-ikyu
エンジニア、デザイナー採用の面談/面接時に使用している会社紹介資料です。
slide-ai-codegen.md
slide-ai-codegen.md marp theme paginate true gaia true LLMによるフロントエンド生成自動化 mizchi | Plaid Inc TechFeed Expert Night 31 LLM 使ってますか？ 便利ですよね ChatGPT / GitHub Copilot WebUI じゃなくて CLI で自動化したいですよね？ 黎明期でまともにモジュール化しても無駄そうだし、 Deno の書き捨てスクリプト量産するぞ！ Deno for LLM 設定や依存のインストール不要のTS実行環境 書き捨ての CLI スクリプトが書きやすい => 実験しやすい npm 資産が使える import {z} from "npm:zod" コード評価に Deno Sandbox を用意できる(後述) @luca/esbuild-deno-loader で
生成AIで議事録が60分→2分。96%工数削減した自動生成ツールの紹介｜noteエンジニアチームの技術記事
こんにちは、note AI creative（以下、nAc）の田中です。 nAcとして今までさまざまな社内の業務改善に取り組んできましたが、中でも「議事録作成業務」は負担の大きい業務の１つでした。 セールス・カスタマーサクセスなど顧客と対面する部署では特に議事録作成は重要な業務として頻繁に発生しますが、1回あたり最大60分かかっており改善の余地がありました。 nAcが作成した生成AIのソリューションを使うことで、作業量が96%も削減され、60分の作業が2分で終わるようになりました。 議事録を生成するデモgifnote proチームの社内発表資料から抜粋この記事では、議事録作成を自動化するために作成したソリューションとその効果について紹介します。 議事録作成効率化の歴史議事録作成業務の効率化を目指し、まずは「tl;dv」というツールを導入してテストを行いました。 tl;dvは非常に機能が豊富
ウォータフォールはやめて2024年の開発をやろう！｜牛尾 剛
今回の記事は特に私の意見であり、所属会社の意見ではないことをお断りしておきます。 最近になってまたウォータフォール vs アジャイルの議論を見かけることが多くなってきたので、私が勤務する米国の世界規模のクラウドプロバイダーでは2024年現在どんな開発をしているのかをご紹介したいと思います。私はこれが「正解」といいたいのではなく、何らかのポイントが皆さんの何らかの参考になったらいいなと思って筆をとりました。 ちなみに、2016年時点で私のウォータフォール開発に対する考え方は下記のブログの通りで今も変わっていません。ただ、2024年現在だからといってアジャイルをやるべきと思っているわけでもありません。 もし、今ウォータフォールをやっている人がいたら「そんなこと言ってもどうしたらええねん」となると思うので、自分なりの解決方法も考えてみました。 最初に自分的な結論を書いておくと「2024年の開発と
SaaSにおけるマルチプロダクト戦略 - 株式会社ROUTE06 (ルートシックス)
国内でも、Horizontal SaaSについで、Vertical SaaSと徐々にプレイヤーが揃い、PMFを獲得しつつあります。その過程で、いつ、どんなプロダクトを2つ目、3つ目のプロダクトとして展開していくべきか、という議論をよく耳にするようになってきました。 これは、言語や商慣習の障壁が高い国内において、市場が限定的であることから、USを中心としたグローバル・マーケットを対象としたSaaS企業よりもかなり早いタイミングで検討されているからです。特に、Vertical SaaSの場合、業界を限定するため、PMF前の段階から考え始められている印象さえあります。 そこで本記事では、ターゲットとする業界、業種やユーザーのペルソナによって、どのようなマルチプロダクト戦略を取るべきなのかについて、整理を進めていきたいと思います。 マルチプロダクト戦略とは SaaSにおけるマルチプロダクト戦略は1
当社サービスへのサイバー攻撃に関するご報告とお詫び | 株式会社ドワンゴ
{.md_tr}株式会社ドワンゴ 株式会社ドワンゴ（本社:東京都中央区、代表取締役社長:夏野剛）は、2024年6月8日付けのニコニコインフォで公表したとおり、6月8日早朝から当社が運営する「ニコニコ」のサービス全般を利用できない状態が続いております。本障害は、ランサムウェアを含む大規模なサイバー攻撃によるものであることが確認され、現在サービスの利用を一時的に停止し、被害状況の全容把握と復旧に向け、調査と対応を進めております。 当社は、サイバー攻撃を確認後、直ちに関連するサーバーをシャットダウンするなど緊急措置を実施するとともに、対策本部を立ち上げ、被害の全容解明、原因究明およびシステムの復旧対応に総力を上げて取り組んでおります。現時点までの調査で判明した内容および今後の対応について、以下の通りご報告いたします。 ユーザーの皆様、関係者の皆様に、多大なるご迷惑とご心配をおかけしておりますこと
｢アップルのAI戦略｣が競合とあまりに違う事情
iPhone、iPad、Macなどのアップル製品に知性を与え、使う人の状況やニーズをより深く理解してアシストしてくれる新技術「Apple Intelligence」が発表された。アメリカではこの秋から最新基本ソフト（OS）に搭載され、日本などでは来年以降に搭載される。 アップルらしい設計思想 日本ではChatGPTとの連携ばかりが大きく報じられているが、実はこの連携は枝葉に過ぎない。「Apple Intelligence」で最も重要なポイントは、アップルが、AI統合型のOSとは本来どうあるべきかを一から考えデザインしたことだ。 AI統合型OSは、アップルより先にすでに数社から発表されている。よくIT業界はスピードが重要だと言われる。しかし、そんな中でアップルはつねに真逆のアプローチを取ってきた。急がば回れの真摯かつ丁寧なものづくりだ。 その結果、優れた使い勝手と信頼性が評価され、スマートフ
二子玉川の堤外地問題と小字地図に関して幾つか指摘その1
二子玉川の堤外地に建つマンションが高値を付けてる事に嘆いて小字地図という面白いものを公開してくれた人がいる。 でもその事をまとめたtogetterではそれに対して間違ったり不適当なツイートばかり拾ってるので指摘するよ。 https://b.hatena.ne.jp/entry/s/togetter.com/li/2381841 過去の経緯二子玉川には堤防の切れ目があった。陸閘ともいう。閘はパナマ運河などの閘門の閘で、板で締め切って水をブロックして水位を変化させるものだ。それが陸にあるから陸閘。 https://maps.app.goo.gl/DKKV4c1kefy3BVSE9 余談だがこの道は結構重要な道で、江戸時代の矢倉沢往還（青山通り大山道）だった。真っ直ぐ行って多摩川に出たところに渡船（二子の渡し）があったのだ。川を渡って崖を上ると二子の宿場に着く。 ここは瀬田村の一部で、スレッドで
RAG for Agentプロセスという考え方｜深津 貴之 (fladdict)
マルチステップエージェントの安定化についてAIでマルチステップエージェントを作る際、安定した挙動にすることが難しいという話をよく耳にします。多くの人はRAG（Retrieval-Augmented Generation）に知識を入れていますが、プロセス情報を先に入れたRAGを作る方が良いのではないかというコンセプトについて考えてみました。 プロセス情報を先にRAGに入れる例えば、XXしたいときの手順を以下のように構成します： 調査: どこを調べるべきか 考慮: どう考えるべきか ツールの使用: どのツールを使うべきか 保存: 結果をどう保存するか このように、エージェントのプロセス情報をRAGとして用意しておくことで、エージェントの処理が安定し、結果的にエージェントの回答も安定します。 このプロセス処理の安定性がRAGで保証されると、AIエージェントが「印刷する」みたいな、自分でできないタ
レコメンドアルゴリズム入門：基礎から応用まで実装に必要な知識を解説 - Qiita
1: 購入 0: 閲覧(したが購入してない) -: 未観測 ユーザーベース型 ユーザー同士の類似度を計算 「あなたと購入履歴の似たユーザーはこんな商品を買っています」 行を各ユーザーのベクトルとみなして、似たユーザーを見つける（上位N人） 似たユーザーが購入しているアイテムを推薦する（N人の平均値などで購入しそうな順に提示） アイテムベース型 アイテム同士の類似度を計算 「この商品を買ったユーザーはこんな商品も買ってます」 列を各アイテムのベクトルとみなして、類似度の高いアイテムを推薦する（上位M件） 類似度計算には、コサイン類似度やJaccard類似度が使われる。 類似度を計算する際に、未観測「-」は適当な値（0, 0.5など）で埋めるか、無視をする。 ログデータを使うため、情報の少ない新規アイテム/新規ユーザーに弱いコールドスタート問題がある。 コンテンツベースフィルタリング アイテム
LLMによるLLMの評価（LLM as a judge）の精度改善のためのプロンプトエンジニアリング
LLM-as-a-Judgeとは LLMをアプリケーションに組み込んでいると、LLMの出力を評価する必要が出てきます。 LLMの「出力は確率的である（毎回異なる）」ためです。 また、LLMの出力はハルシネーションを含む可能性がありますし、間違いではないにしてもサービス提供者の意図とは違った出力をエンドユーザーに提示してしまうかもしれません。 LLMの出力を評価して、出力が適切でないことを判定できれば、ユーザーには表示しない、出力を再度行わせる（出力をLLMに修正させるのもよいでしょう）というようなことができるようになります。 ただし、LLMのすべての出力を人が評価していたのでは、手が回りません。 そこで、注目されているのが、LLM-as-a-Judgeと呼ばれるLLMにLLMの出力を評価させる手法（以後、単に評価と呼ぶ）です。 評価にLLMを使えば、出力をすぐに評価し、評価結果をアプリケー
Appleが新たなパーソナルAIの「Apple Intelligence」を発表、OpenAIとの提携でSiriがChatGPTをサポート
2024年6月11日2時からAppleが開催している年次開発者会議「WWDC24」の基調講演で、iPhone・iPad・Macで使える新しいパーソナルAI「Apple Intelligence」を発表しました。 iPhone、iPad、MacにApple Intelligenceが登場 - Apple (日本) https://www.apple.com/jp/newsroom/2024/06/introducing-apple-intelligence-for-iphone-ipad-and-mac/ Appleのイベント - Apple（日本） https://www.apple.com/jp/apple-events/ WWDC 2024 — June 10 | Apple - YouTube 私たちは長年人工知能(AI)や機械学習を活用してきました。 近年の生成知能と大規模言語モデ
【翻訳】技術的負債という概念の生みの親 Ward Cunningham 自身による説明 - t-wadaのブログ
システム開発の世界において「技術的負債（Technical Debt）」は繰り返し話題になり、しばしば炎上しています。 技術的負債という概念の生みの親は Ward Cunningham （ウォード・カニンガム）です。彼は 1992 年にオブジェクト指向プログラミングの国際カンファレンス OOPSLA '92 の Experience Report でコードの初回リリースを負債に例えました（"Shipping first time code is like going into debt"）。 Ward Cunningham はソフトウェアの世界に多くの貢献を果たしてきました。Wiki の発明者であり、XP と TDD の父 Kent Beck の師匠のような存在であり、建築の世界の「パタン・ランゲージ」を Kent Beck と共にソフトウェアに輸入した人であり、「アジャイルソフトウェア開
株式会社一休に入社しました - 貳佰伍拾陸夜日記
転職のお知らせ、あるいは個人の日記です。 6月から以下のように所属変更となっています。 From 株式会社はてな To 株式会社一休 マネージャではなく、とくに役職のないソフトウェアエンジニアとして働きます。いわゆるIC (individual contributor)というやつです。 きっかけ はてなには新卒として入社して以来11年も勤めて、インターンやアルバイトとして関わった時期から数えると16年になります。出入りの激しいこの業界でずっと1社しか知らずに過ごすのは負い目に感じていました。また、年齢的にも今年で40歳になることもあって、そろそろ転職を経験しておかないとまずいという焦りもありました。 そんなときに、大学の同期でプライベートでも仲良くさせてもらっているid:suzakから声をかけてもらい、ちょっと真剣に転職を考えたのがきっかけでした。 できることではなくやりたいこと はてなで
「AI・LLMの民主化へ」注目2社の最年少執行役員それぞれが描く未来像【対談：Chatwork桐谷・LayerX中村】 | FastGrow
なぜITスタートアップが今、こぞってAI活用を本格化させようとしているのか。いや、そもそも「AI活用の本格化」とはどういった動きを指すのだろうか。 こうした問いの答えは、「AI活用の最新情勢」や「これまでのAI活用の実態」そして「自社の立ち位置や強み」までを客観的に分析できなければ、なかなか見つからないものだろう。逆に言えば、こうした要素を的確に認識できれば、地に足の着いたAI活用を進めることができる。そうして初めて、目先の業務効率化にとどまらず、既存の業界や事業を大きく変革させたり世の中に広くインパクトを与えたりといったステージへと駆け上がる。 生成AIトレンド以前からAI事業開発に携わってきたこの二人はまさに、そうした視座から、新規事業の創出とグロースを目指し取り組んでいる。 桐谷これから自然言語処理の領域を中心に裾野は徐々に広がっていくだろうと強く感じています。まだまだこれからですが
CyberAgent AI事業本部新卒研修「MLOps」の資料を公開します | CyberAgent Developers Blog
はじめに 近年、様々な分野で機械学習の利用が進む中、モデルの品質を担保し、継続的な学習を行うための施策が重要視されています。そのため、機械学習のためのDevOpsであるMLOpsの必要性が高まっており、AI事業本部でも研修内容に取り入れています。 より良いMLOpsを構築するためには、アプリケーションやインフラの知識も必要です。そのため、今年は昨年までと異なり、MLエンジニアだけでなくソフトウェアエンジニアも講義に参加しました。また、新たに実践編が加わり、より業務を意識した講義が追加されました。 Container編 基礎編 応用編 実践編 そこで、今回は研修で行われた各講義の資料を公開したいと思います。 Container編 Container編では、コンテナにまつわる技術に対しインデックスを張ることと、イメージ作成や運用時のTipsを学び実業務に役立てることを目的としています。 そのた
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
RAGをテーマに考える、LLMの認知アーキテクチャとソフトウェア設計
ニコニコのサービス停止に関するお詫びと今後について
