概要 速さが正義 LINE Botの開発でCloudflareとHonoを使う理由 Cloudflare Workersの応答速度が速いから PoPについて CloudflareはAWSのlambdaに比べてポイントオブプレゼンス（PoP）の数が多く、処理が実行される場所がよりユーザーの近くにある可能性が高い。 そのため、パフォーマンステストではAWS Lambda、AWS Lambda@Edgeよりも応答時間が小さいという結果になった。 コールドスタートがない Cloudflare Workersはコールドスタートがなく、LambdaとLambda@EdgeのようにEventBridgeで1分おきにツンツンしなくていい。 Service bindingsが便利だから Cloudflare WorkersのService bindingsを使用することで、worker間の通信はパブリックに

今回は話題のGTP-3のAPIを使って、LINEで英会話できる簡単なbotを作ります。 コードはGoogle Cloud Functionsを使ってサーバレスに実装します。サンプルコードはPythonとなります。 今回のアーキテクチャはシンプルながらも今後、様々な応用例があると思います。 全工程をサンプルコード・画像付きで説明していますので、ぜひ遊んでみてください！ ご購入頂きありがとうございます。以下からが構築手順になります。 1.GPT-3 まずはGPT-3の準備に入りましょう。 GPT-3のAPIを利用するためにOpenAIのアカウントを作りましょう。 アカウントを作成します。既に登録済みの人はログインしてください。 メニューのAPI KeysからAPIキーを発行します。 もう見れないので、API Keyはどこかに記録しておてください。 注意：APIはRequestごとに料金がかかる

生成AI新年会2024 LT資料 LangGraphで始めるマルチエージェントシステム

Python版の「LangChain」のクイックスタートガイドをまとめました。 ・langchain 0.1.16 1. LangChain「LangChain」は、「大規模言語モデル」 (LLM : Large language models) と連携するアプリの開発を支援するライブラリです。 「LLM」という革新的テクノロジーによって、開発者は今まで不可能だったことが可能になりました。しかし、「LLM」を単独で使用するだけでは、真に強力なアプリケーションを作成するのに不十分です。真の力は、それを他の 計算 や 知識 と組み合わせた時にもたらされます。「LangChain」は、そのようなアプリケーションの開発をサポートします。 主な用途は、次の3つになります。 ・文書に関する質問応答 ・チャットボット ・エージェント v0.1 ではlangchainパッケージが次の3つのパッケージに分割

対話ベースの対人支援におけるAI活用：アンブレラレビュー 1．ヘルスケア全般スライド1： 対話型AIが変えるヘルスケア：可能性と展望 ヘルスケアにおける対話型AIとは？ AIを活用したチャットボットや仮想エージェントを通じた、患者・利用者への個別支援 カウンセリング、心理療法、コーチングなどのメンタルヘルス領域での活用が期待 AI活用のメリット アクセシビリティ向上: いつでもどこでも利用可能、医療格差の解消に貢献 効率性向上: 臨床医の負担軽減、患者の待ち時間短縮 個別最適化: 個別ニーズに合わせたパーソナライズ

Google Apps ScriptでOpenAIのASSISTANT APIを試す ASSISTANT APIが公開されました。 本記事では、Google Apps Script(GAS)を使用してOpenAI APIを介してLINEボットの応答を行うプロセスを紹介します。以下では、特定のユーザーメッセージに反応し、OpenAIのアシスタントを活用して応答するスクリプトの主要な機能に焦点を当てて解説します。 前提条件 ASSISTANTとTHREADはplatform上で作成し、IDをGUI上でコピペします。 ユーザーごとのスレッド管理はまだしてません。 LINEボットの作り方は以下を参照(GASのソースは全部書き換え。無料版でOK) gpt-3.5-turbo-1106を使用しています 環境変数の設定 スクリプトで利用する各種トークンやAPIキーは、Google Apps Script

ChatGPT、LINE Botとの相性抜群ですよね。流暢におしゃべりできるし、プロンプトの工夫をすればキャラ設定もできます。 でも、今日はそういうお話ではありません。何を作るのかではなく、どうやって作るかについてお話します。かといってコードを自動生成してもらうという話でもなく、もう全然作り方が変わってしまったというお話です。 チャットボットの処理フロー LINE Botに限らずあらゆるチャットボットや対話システムは、ざっくりいうと以下のような仕組みになっています。 ユーザーの発話の意図や関連情報を読み取って（インテント判定・エンティティ抽出）、それを処理し（スキル実行）、処理結果をメッセージとして応答します。図の例だとインテントとして「天気予報」、エンティティとして「佐賀」を読み取って、天気予報APIなどで処理していることでしょう。 これまでのチャットボットの作り方 先の例をPython

一番星はてのがなるべく非建設的なコメントをしないように判定を強化しました。 これまでもある程度そのような仕組みを入れていましたが、コメント全文と文単位でGoogle Perspective APIで判定し建設的でない場合は一定回数までコメント生成をリトライするようにしました。 Perspective APIについて perspectiveapi.com Perspective APIはテキストの次のような属性への該当度合いを0~1の数値で判定してくれます（1に近づくほど有害判定となる）。日本語対応もしています。 OpenAIにも同じようなポリシーに準拠しているかどうかを判定するmoderations APIがありますがこちらは2023年6月現在では日本語対応は限定的です。 TOXICITY(失礼な発言) IDENTITY ATTACK(アイデンティティへの攻撃的な発言) INSULT(侮辱

シークレット類の取り扱い シークレットやAPIキーをソースコードにハードコードするのはあまり良くない習慣です。 [レポート][GitGuardian]ハードコードされたシークレットに対応することはなぜ急務なのか？ – CODE BLUE 2022 #codeblue_jp | DevelopersIO これらの値は環境変数経由で読み込ませるのが良いでしょう。今回はSSMパラメータストアに値を手動でセットし、それをCDKデプロイ実行時に読み取ってLambda環境変数にセットするようにします。 ちなみにパラメータストアやSecretsManagerから直接読み込む方法もあるようです。 [アップデート] Lambdaから直接Parameter Store/Secrets Managerから値を取得できるようになりました！ | DevelopersIO Lambda関数とAPIGateway Re

ChatGPT APIのChat Completion APIを用いて、チャットの入力に対してその回答をレスポンスで返してくれます。 このチャットの入力に過去のチャットの内容を含めることで、過去の内容を前提とした回答を行うことができますが、これを実現するには、過去のチャットの内容を永続化しておく必要があります。 ユーザーインターフェースとしてLINE(LINE Messaging API)、LINEからの処理受付とChatGPTへのリクエスト、チャット内容の永続化をCloudflareを使って、過去の会話を覚えてるLINEボットを実現することができました。 本記事では、Cloudflare側の構成について紹介します。 [ChatGPT API][AWSサーバーレス]ChatGPT APIであなたとの会話・文脈を覚えてくれるLINEボットを作る方法まとめのCloudflare版の内容になりま

スマートフォン向け写真共有アプリ「Snapchat」を運営するSnapが、OpenAIの大規模言語モデルであるGPT-3シリーズの関連技術を用いたチャットボット「My AI」を立ち上げ、有料サブスクリプションサービス「Snapchat+」に試験的ながら実装することを発表しました。 Say Hi to My AI https://newsroom.snap.com/en-US/say-hi-to-my-ai Snapchat releases ‘My AI’ chatbot powered by ChatGPT - The Verge https://www.theverge.com/2023/2/27/23614959/snapchat-my-ai-chatbot-chatgpt-openai-plus-subscription Snapは、「My AIは、あなたの親友への誕生日プレゼント

Generative AI(生成AI)の時代が到来しています！AIがクリエイティブかつ人間のようなアウトプットを生み出せるようになりました。そして、画像や音楽、動画だけでなく、AIはついに「言葉」を高度に生成する能力を習得しつつあります。その象徴こそが「ChatGPT」の登場です。 ChatGPTの登場は、まさに「シンギュラリティ(技術的特異点)」を予感させるものでした。いよいよ人間と遜色ない会話をAIができる未来が、ついそこまで迫っていることを実感させられました。これからは、ChatGPTを代表とする自然言語処理領域のGenerative AIによって、会話AI(チャットボット)の分野に大転換が起きると予想されます。 本書は、そんな大転換の中、チャットボットの構築方法がどのように変化していくのかを解説しています。変革期なのでこれから違う変化を遂げて行く可能性はありますが、要素技術はすでに

Personalized conversational responses based on ALL your business content.

はじめに こんにちは、maKunugiです。meboという会話型AI構築サービスを開発・運営しています。 先日、ChatGPT相当の言語モデルである「GPT-3.5」を利用してチャットボットをノーコードで作れる機能を追加したところ、ありがたいことに多くの方に利用していただくことができました。 ChatGPT相当のモデルを使ったチャットボットをプログラミング不要で作れることは、かなり役立つことだと感じたため、本腰を入れてさらなる進化に取り組んでおります。 そして今回は、ChatGPT相当の言語モデルを利用したチャットボットに、「Webサイトの情報」を吸収させるという試みについて紹介しています。ChatGPTの持つ課題を和らげ、独自のコンテンツを踏まえた会話をさせることができるようになるためのチャレンジです。上記の記事の続きになりますので、ぜひ合わせてお読みいただけると幸いです。 ChatGP