[LangGraph] 自律的にプログラムを実行するLLM Agentを作るための60行スクリプト
60行スクリプトシリーズ第二弾。前回はこちら この記事はMultiAgent作成フレームワーク「LangGraph」に興味がある人が手っ取り早く動かしてみることを目標にした記事です。 この記事を見てできること 指定のお題に対して、関数で定義したツール実行（Web検索など）をする。 実行結果を元に答えを返す。答えがわかるまでツール実行を繰り返す。 このワークフローの拡張性も意識して、組み込みのワークフローは利用しない方針で作成しています。 まずはセットアップ # 必要なライブラリをインポート import argparse from langchain_community.tools.tavily_search import TavilySearchResults from langchain_openai import ChatOpenAI from langgraph.checkpoin
![[LangGraph] 自律的にプログラムを実行するLLM Agentを作るための60行スクリプト](https://cdn-ak-scissors.b.st-hatena.com/image/square/83e7fc6307f38a27195f5c4a2889d8135fd3bed1/height=288;version=1;width=512/https%3A%2F%2Fres.cloudinary.com%2Fzenn%2Fimage%2Fupload%2Fs--eEE3RjZy--%2Fc_fit%252Cg_north_west%252Cl_text%3Anotosansjp-medium.otf_55%3A%25255BLangGraph%25255D%252520%2525E8%252587%2525AA%2525E5%2525BE%25258B%2525E7%25259A%252584%2525E3%252581%2525AB%2525E3%252583%252597%2525E3%252583%2525AD%2525E3%252582%2525B0%2525E3%252583%2525A9%2525E3%252583%2525A0%2525E3%252582%252592%2525E5%2525AE%25259F%2525E8%2525A1%25258C%2525E3%252581%252599%2525E3%252582%25258BLLM%252520Agent%2525E3%252582%252592%2525E4%2525BD%25259C%2525E3%252582%25258B%2525E3%252581%25259F%2525E3%252582%252581%2525E3%252581%2525AE60%2525E8%2525A1%25258C%2525E3%252582%2525B9%2525E3%252582%2525AF%2525E3%252583%2525AA%2525E3%252583%252597%2525E3%252583%252588%252Cw_1010%252Cx_90%252Cy_100%2Fg_south_west%252Cl_text%3Anotosansjp-medium.otf_37%3Ahikae%252Cx_203%252Cy_121%2Fg_south_west%252Ch_90%252Cl_fetch%3AaHR0cHM6Ly9zdG9yYWdlLmdvb2dsZWFwaXMuY29tL3plbm4tdXNlci11cGxvYWQvYXZhdGFyLzExZjM4ZmUxNGMuanBlZw%3D%3D%252Cr_max%252Cw_90%252Cx_87%252Cy_95%2Fv1627283836%2Fdefault%2Fog-base-w1200-v2.png)
LangChainから使用するLangSmithとLangfuseの詳細比較
はじめに この記事で想定している読者の方 LangChain経由でLLMを用いたchainを使用している方 LangChainと共に使用するLLM実験管理ツールを迷っている方 「LangChain」はLLMをシステムに組み込む際に非常に便利なライブラリであり, 実際に開発に用いられている方も多いと思います。ですが, LLMの性質上プロンプトやchainの構造を変化させての実験が多くなってしまい, 記録・管理が大変になりがちです。そんな場合に使用したいLLMの実験管理ツールについて前編の記事にてLangChainから使用するために選定したLangSmithとLangfuseについて今回は実装を行った上で比較して行こうと思います! TL;DR 今回は以下の画像のデモアプリを作成し3種類のchainについて実際に記録しLangSmithとLangfuseの比較を行いました! デモアプリの入力画面
コードのコメントやドキュメントなどのテクニカルライティングを生成AIが提案、補完、校正など支援するツール「Grazie」、JetBrainsが提供開始。日本語は未対応
コードのコメントやドキュメントなどのテクニカルライティングを生成AIが提案、補完、校正など支援するツール「Grazie」、JetBrainsが提供開始。日本語は未対応 Kotlin言語や統合開発ツールIntelliJ IDEAなどの開発を行っているJetBrainsは、IT系のテクニカルライティングのためのAI作文支援ツール「Grazie」（紹介動画によると発音は「グラッツィ」のようです）を発表しました。 JetBrainsの説明によると、Grazieで利用している言語モデルはハイテク業界のテキストを学習させているため、テクニカルライティングを的確に支援できるとのことです。 Introducing Grazie, a new AI writing companion! Streamline non-coding tasks right inside your JetBrains IDEs,
【HELP ME】Assistants APIで破産しそうになった話｜ニケちゃん
こんにちは、ニケです。 皆さん、Assistatnts APIは使われていますでしょうか？ 巷（私の周り）ではGPTsが流行りに流行ってるのでAssistatnts APIを使用されている方はあまり見かけないですが、今回のDevDayで発表された中でもかなり注目度の高いサービスではないかと思っています。 私も過去に以下の記事を書いているので是非ご覧になってください。 で、個人的にもかなり注目しているAssistatnts APIですが、今回はこれに破産させられそうになったという話です。 Assistants API とは？この説明も3回目です。 下記の公式かnpakaさんの記事がわかりやすいので、そちらを先に読んでもらえると良いかもしれません。 アシスタントAPIは、開発者が多様なタスクを行う強力なAIアシスタントを作れるように設計されています。 アシスタントは、特定の指示を設定することで
DevTools for language models — predicting the future
Anywhere developers go, DevTools reliably follow. In the last few months, a horde of developers has been hacking away at Foundation Models (FMs). The initial wave of DevTools has cropped up to enable those developers to iterate more quickly and build amazing features. In this blog, we’ll explore the thriving ecosystem of tools cropping up around large language models (LLMs), and dive into what too
PR-Agent を使って Pull Request をAIレビューしてみた。（日本語対応もしてみた） - LayerX エンジニアブログ
LayerXの suguru です。 今日は、バクラクの開発に導入した PR-Agentの話をしようと思います。 PR-Agent は、Codium AI によってオープンソースで開発されている ChatGPT を使ったプルリクエストを便利にするためのAIツールです。 現時点で、下記のような機能を持っています。 Pull Request の自動分析およびレビュー Pull Request のタイトルと説明文を自動入力 コード改善の提案 フリーテキストな質問への回答 CHANGELOG の自動生成 必要なものは、 OpenAI のキーのみのため、CIに簡単に導入できます。 GitHub上へのインラインコメントなどにも対応しており、普段開発する際に面倒なプルリクエストに関する様々な作業を自動化することができます。 裏側ではデフォルトで GPT-4 を使っており、ソースコードを解析し、高精度な結
RAG評価ツール ragas を試す｜npaka
RAG評価ツール「ragas」を試したので、まとめました。 1. ragas「ragas」は、「RAG」 (Retrieval Augmented Generation) パイプラインを評価するためのフレームワークです。「RAG」は外部データを使用してLLMのコンテキストを拡張するLLMアプリケーションです。「ragas」はこのパイプラインを評価して、パフォーマンスを定量化します。 2. Colabでの実行Colabでの実行手順は、次のとおりです。 (1) RAGパイプラインの準備。 今回は、以下の記事で作成した、ELYZAのRAGパイプラインを使います。 (2) パッケージのインストール。 # パッケージのインストール !pip install ragas datasets(3) 環境変数の準備。 「ragas」は「OpenAI API」で評価します。 import os import
Synced Databases bridge the gap between different tools
Synced Databases let you pull information from 3rd party apps like GitHub and Jira into Notion, and break down silos across teams. コンテンツNo more silos — collaborate seamlessly by bringing external work into NotionHow to create and use Synced Databases with JiraFormat your Jira Synced DatabaseHow to use Synced Databases with Notion and GitHubSyncing GitHub Issues or Pull RequestsConnect your Synced
OpenAI API の Assistant API のしくみ｜npaka
1. Assistant API「OpenAI API」の「Assistant API」は、さまざまなタスクを実行できる強力な「AIアシスタント」を作成するためのAPIです。 (1) アシスタントは、OpenAIのモデルを呼び出し、個性や能力を調整するための具体的な指示を与えることができる。 (2) アシスタントは複数のツールに並行してアクセスできる。「Code interpreter」「Knowledge retrieval」などOpenAIが提供するツールに加えて、「Function calling」を介してユーザーが提供するツールを利用できる。 (3) アシスタントは永続的なスレッドにアクセスできる。スレッドはメッセージ履歴を保存し、会話長がモデルのコンテキスト長より長すぎる場合に切り捨てることで、AIアプリケーション開発を簡素化。 (4) アシスタントは、いくつかの形式でファイルに
GitHub - a13xp0p0v/kernel-hardening-checker: A tool for checking the security hardening options of the Linux kernel
$ ./bin/kernel-hardening-checker -a [+] Going to autodetect and check the security hardening options of the running kernel [+] Detected version of the running kernel: (6, 5, 0) [+] Detected kconfig file of the running kernel: /boot/config-6.5.0-1025-azure [+] Detected cmdline parameters of the running kernel: /proc/cmdline [+] Saved sysctl output to /tmp/sysctl-n7hd4ab2 [+] Detected microarchitect
横向きA4サイズの現代アート。霞が関の「ポンチ絵」はどうして生まれたか？ その知られざる使命とは｜narumi
「ポンチ絵」が大好きだ。 なかでも官公庁のつくるポンチ絵がいい。 細かく書き込まれた文字にフリーのイラスト素材、あちらこちらを向いた派手な矢印と吹き出し、関係性を示す線……。圧倒的な情報量がぎゅうぎゅうに詰め込まれた1枚の資料……。それこそが至高のポンチ絵だ。 言葉で説明していても、きっとこの魅力は伝わるまい。まずはご覧いただこう。 環境庁による名作「地域循環共生圏（日本発の脱炭素化・SDGs構想）」とにかくうつくしい。見とれるほどに。 デザインを学んだ人なら眉をひそめるかもしれない。だが、その複雑怪奇な魅力にはあらがえない――。 いったいなぜこんなものが生まれたのだろうか。誰がどうやってつくっているのか。なんのために…どんな意味があるのだろう？ わからないことだらけだ。 そこでこの記事では、官公庁のパワポ資料（いわゆるポンチ絵）の独特さ、ポンチ絵が生まれた背景とその使命について考察し、ポ
LangChainまたまた新機能: OpenAI Multi Functions Agent｜はまち
中の人がどうなってるのか、にわかに信じられませんが、またまたLangChainの新機能が発表されていました😮 今度の新機能は、「Multi Functions Agent」です。 Agentが１ステップで複数の関数呼び出しをするという機能です。 Tools定義google検索ツール(SerpAPI)を tools に登録します。 llm = ChatOpenAI(temperature=0, model="gpt-3.5-turbo-0613") search = SerpAPIWrapper() # Define a list of tools offered by the agent tools = [ Tool( name="Search", func=search.run, description="Useful when you need to answer questions
LlamaIndex v0.7 のデータエージェント｜npaka
以下の記事が面白かったので、軽くまとめました。 ・LlamaIndex - Data Agents 1. データエージェント「データエージェント」は、LLMを利用したナレッジワーカーです。データに対して「読み取り」と「書き込み」の両タスクをインテリジェントに実行することができます。 「データエージェント」では、次のようなタスクが可能になります。 ・「非構造化データ」「半構造化データ」「構造化データ」など、様々なデータに対して自動検索と取得を実行。 ・構造化された方法での「外部サービスAPI」 の呼び出し。レスポンスをすぐに処理することも、インデックス化 / キャッシュすることも可能。 ・会話履歴の保存。 ・上記のすべてを使用して、「単純なデータタスク」と「複雑なデータタスク」の両方を実行。 「データエージェント」を構築するために、「エージェント側」と「ツール側」の両方で、「抽象化」「サービ
ChatGPTと協創！arXiv論文要約ツールを作ってみた - Qiita
はじめに こんにちは。(株) 日立製作所の Lumada Data Science Lab. の諸橋 政幸です。 最近、AI技術の進歩により、様々なタスクが効率化されています。その中でも、「ChatGPT」 は自然言語処理の分野で革新的な成果を上げており、大きな注目を集めています。 今回は、このChatGPTを活用してarXiv論文の要約を生成する簡易ツールを作成してみたので、そのプロセスを共有します。本記事の構成は以下のとおり。 ChatGPTにやりたいことを伝えてみる 生成コードを修正して期待通り動くようにする ツール名も考えてもらう とにかく 「ChatGPTに積極的に頼る！」 をコンセプトにして作りました。 土日に趣味でやったのでツールのレベルや実用性については深く考えないでください！ その前に自己紹介（＋本のアピール） 私は日立製作所で顧客課題をデータ分析を使って解決する業務を行
｢アフリカの労働者｣と｢ヨーロッパの労働者｣で結果が違いすぎる…画像生成AIにつきまとう偏見の問題
Thomas Maxwell ［原文］ （翻訳：梅田智世／ガリレオ、編集：井上俊彦） May. 18, 2023, 11:00 AM テックニュース 87,234 ｢DALL-E｣をもとにした無料ツール｢Craiyon｣に出力させた、｢アフリカ人労働者｣のAI生成画像。 Thomas Maxwell/Insider ツールの高度化に伴い、AI生成画像の人気が爆発している。 しかしこの技術は、知的財産、偏見、デマをめぐる懸念をはらんでいる。 ｢Stable Diffusion｣などのAIモデルが生成する｢アフリカ人労働者｣の画像は、有害なステレオタイプを反映している。 OpenAI（オープンAI）の｢DALL-E（ダリ）｣や、｢Stable Diffusion（ステーブル・ディフュージョン）｣といった、画像を生成するAIモデルがつくった｢アフリカ人労働者｣の画像には、｢ヨーロッパ人労働者｣と
ChatGPTのようなモデルを高速生成するツール、Microsoftが開発 「既存技術の15倍以上」うたう
米Microsoftは4月12日、ChatGPTのようなモデルを生成できるツール「DeepSpeed-Chat」を公開した。GPU1台で100億以上のパラメータを持つモデルの学習ができる上、学習速度も既存技術の15倍以上としている。 DeepSpeed-ChatはChatGPTでも採用されている学習手法「RLHF」を効率的に実行するためのツール。これまでは高価なGPUを大量に使う必要があったが、DeepSpeed-Chatは少ないGPUで効率的に学習ができる。 例えば、クラウド上でGPU「A100-80GB x8」を使って大規模言語モデル「OPT-B13」を訓練する場合、9時間程度で完了し、コストも290ドル程度という。複数台のGPUを使えば1000億パラメータ規模のモデルの学習にも対応する。 関連記事 ChatGPTが職務経歴書を作成するサービス続々 エンジニア向けから看護師まで ファイ
画像生成AI「StableDiffusion」で得ておくべき知識を身に付けるのに役立つ「SD Toolset」
画像生成AI「Stable Diffusion」はモデルデータが一般公開されているため、自宅のPCで誰でも簡単に動かすことができます。しかし、Stable Diffusionを使って自分が望む通りの画像を生成するためにはさまざまな知識が必要になり、初心者は何から学べばいいのかわからなくなりがち。無償で公開されている「SD Toolset」にはStable Diffusionで得ておくべき知識が単元ごとにわけてまとめられているので、ピンポイントで必要な知識を学ぶことができます。 SD Toolset https://sdtools.org/ SD Toolsetはこんな感じで、左のカラフルな同心円に単元が視覚的にまとめられており、同心円の内側から気になるカテゴリをクリックしていきます。例えば、Stable Diffusionの根幹部分を知りたい場合は、「Core」をクリック。 すると、以下の
「サイバーパンク2077」のようなリアルタイム翻訳システムをWhisperやDeepLを駆使して実現した猛者が現る
「サイバーパンク2077」をプレイしたというエンジニアのマルチン・エランコウスキ氏が、同作で登場するリアルタイム翻訳システムのような「話者の上にリアルタイムで会話内容が表示され翻訳まで行ってくれる翻訳システム」の開発に取り組んでいます。 GitHub - elanmart/cbp-translate https://github.com/elanmart/cbp-translate エランコウスキ氏は「話者の上にリアルタイムで会話内容が表示され翻訳まで行ってくれる翻訳システム」を開発するにあたり、以下のような条件を処理できるシステムを構築することにしたそうです。 ・ショート動画を処理可能 ・複数のキャラクター(話者)の会話内容を翻訳可能 ・英語とポーランド語の両方の音声を認識・文字起こし可能 ・会話を任意の言語に翻訳可能 ・各フレーズを話者に割り当て可能 ・画面に話者を表示する ・サイバー
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
【衝撃】わずか3時間で「神AIツール」を作り上げた日本人
Notion – The all-in-one workspace for your notes, tasks, wikis, and databases.