概要 速さが正義 LINE Botの開発でCloudflareとHonoを使う理由 Cloudflare Workersの応答速度が速いから PoPについて CloudflareはAWSのlambdaに比べてポイントオブプレゼンス（PoP）の数が多く、処理が実行される場所がよりユーザーの近くにある可能性が高い。 そのため、パフォーマンステストではAWS Lambda、AWS Lambda@Edgeよりも応答時間が小さいという結果になった。 コールドスタートがない Cloudflare Workersはコールドスタートがなく、LambdaとLambda@EdgeのようにEventBridgeで1分おきにツンツンしなくていい。 Service bindingsが便利だから Cloudflare WorkersのService bindingsを使用することで、worker間の通信はパブリックに

はじめに Cohere(コーヒア)とは、生成AI関連のスタートアップ企業であり、オラクル、エヌビディア（NVIDIA）、セールスフォース・ベンチャーズ（Salesforce Ventures）、センチネルワン（SentinelOne）などが支援しています。 これまでにCommand-R+などのモデルを公開しています。 今回はCohereのイケている部分について紹介させていただきます。 UIがイケている こちらCohereのダッシュボードです。実際に使ってみるとわかるのですが、全ての画面がわかりやすいです。この画面だけでもやりたいことがすぐ見つけられますし、サイドバー、ヘッダーの選択肢も適切です。（筆者の感想ですが） PlayGroundはChatだけではなく、ClassifyとEmbedも選択できます。 さらにConnectorsでWeb検索を有無を選択できます。 このUIの偉いところは、

1. はじめに Cohere社が最近リリースしたLLMのCommand R+がGPT4に迫る性能を発揮していたり、RAG利用での性能で話題となっています。 そのCommand R+でRAGを体験できるチャットアプリの実装がLightningAIにてチュートリアルが公開(CC-BY-4.0ライセンスとして)されています。 これを身近な環境で動かしてみたいと思います。 このチャットボットでCohere社の以下のモデルが使われています LLM: Command R+ Embed: embed-english-v3.0 / embed-multilingual-v3.0 Reranker: rerank-english-v3.0 / rerank-multilingual-v3.0 以下の動画のようにブラウザでPDFファイルをアップロードしてチャットで問い合わせができます。 2. 必要なもの 以下

今回は話題のGTP-3のAPIを使って、LINEで英会話できる簡単なbotを作ります。 コードはGoogle Cloud Functionsを使ってサーバレスに実装します。サンプルコードはPythonとなります。 今回のアーキテクチャはシンプルながらも今後、様々な応用例があると思います。 全工程をサンプルコード・画像付きで丁寧に説明していますので、ぜひご検討してみてください！

生成AI新年会2024 LT資料 LangGraphで始めるマルチエージェントシステム

Python版の「LangChain」のクイックスタートガイドをまとめました。 ・langchain 0.1.7 1. LangChain「LangChain」は、「大規模言語モデル」 (LLM : Large language models) と連携するアプリの開発を支援するライブラリです。 「LLM」という革新的テクノロジーによって、開発者は今まで不可能だったことが可能になりました。しかし、「LLM」を単独で使用するだけでは、真に強力なアプリケーションを作成するのに不十分です。真の力は、それを他の 計算 や 知識 と組み合わせた時にもたらされます。「LangChain」は、そのようなアプリケーションの開発をサポートします。 主な用途は、次の3つになります。 ・文書に関する質問応答 ・チャットボット ・エージェント v0.1 ではlangchainパッケージが次の3つのパッケージに分割さ

英論概要：糖尿病への認知行動療法研究のレビュー 糖尿病への認知行動療法に関するレビュー論文を要約中心に見ていく 【関連記事】 1．糖尿病とうつ病患者に対する認知行動療法のランダム化比較試験の系統的レビューとメタアナリシス（Li et al 2017）Li C, Xu D, Hu M, Tan Y, Zhang P, Li G, Chen L. A systematic review and meta-analysis of randomized controlled trials of cognitive behavi

Google Apps ScriptでOpenAIのASSISTANT APIを試す ASSISTANT APIが公開されました。 本記事では、Google Apps Script(GAS)を使用してOpenAI APIを介してLINEボットの応答を行うプロセスを紹介します。以下では、特定のユーザーメッセージに反応し、OpenAIのアシスタントを活用して応答するスクリプトの主要な機能に焦点を当てて解説します。 前提条件 ASSISTANTとTHREADはplatform上で作成し、IDをGUI上でコピペします。 ユーザーごとのスレッド管理はまだしてません。 LINEボットの作り方は以下を参照(GASのソースは全部書き換え。無料版でOK) gpt-3.5-turbo-1106を使用しています 環境変数の設定 スクリプトで利用する各種トークンやAPIキーは、Google Apps Script

AIチャットボットで問い合わせに対応し、回答が難しい内容に限り担当者にエスカレーション[Amazon Connect + Lex + Bedrock] はじめに Amazon Connect + LexでAIチャットボットを構築し、問い合わせに対して無人対応し、対応が難しい内容に限り、オペレーター（以降、担当者）にエスカレーションする仕組みを作成しました。 コールセンターの負担軽減や人手不足の解消を目指して、AIチャットボットを活用して有人対応から自動応答に切り替えたいというニーズは増えているように思います。 本記事では、お問い合わせをAIチャットボットがヒアリングして、生成AIのAmazon BedrockのClaudeを用いて種別判定を行い、回答できるものはチャットボットが回答し、それ以外の内容については、担当者にエスカレーションする方法をまとめました。 今回検証するお問い合わせの種別

ChatGPT、LINE Botとの相性抜群ですよね。流暢におしゃべりできるし、プロンプトの工夫をすればキャラ設定もできます。 でも、今日はそういうお話ではありません。何を作るのかではなく、どうやって作るかについてお話します。かといってコードを自動生成してもらうという話でもなく、もう全然作り方が変わってしまったというお話です。 チャットボットの処理フロー LINE Botに限らずあらゆるチャットボットや対話システムは、ざっくりいうと以下のような仕組みになっています。 ユーザーの発話の意図や関連情報を読み取って（インテント判定・エンティティ抽出）、それを処理し（スキル実行）、処理結果をメッセージとして応答します。図の例だとインテントとして「天気予報」、エンティティとして「佐賀」を読み取って、天気予報APIなどで処理していることでしょう。 これまでのチャットボットの作り方 先の例をPython

一番星はてのがなるべく非建設的なコメントをしないように判定を強化しました。 これまでもある程度そのような仕組みを入れていましたが、コメント全文と文単位でGoogle Perspective APIで判定し建設的でない場合は一定回数までコメント生成をリトライするようにしました。 Perspective APIについて perspectiveapi.com Perspective APIはテキストの次のような属性への該当度合いを0~1の数値で判定してくれます（1に近づくほど有害判定となる）。日本語対応もしています。 OpenAIにも同じようなポリシーに準拠しているかどうかを判定するmoderations APIがありますがこちらは2023年6月現在では日本語対応は限定的です。 TOXICITY(失礼な発言) IDENTITY ATTACK(アイデンティティへの攻撃的な発言) INSULT(侮辱

AIを活用して声を学習し、本人そのままの高精度な声で生成する技術がここ数カ月で大きく進化しています。 RVCというAIボイスチェンジャー機能は、岸田首相の声真似を本人の前でデモするまでになり、AIフェイクボイスの問題が一部で取り沙汰されるようにもなりました。 そんな中、アップルがAIを使った人声の学習・生成機能「Personal Voice」を今年下半期のOSアップデートで提供すると発表しました。 iPhone、iPad、そしてAppleシリコンを搭載したMacで15分、ランダムに表示される150の文章を読み上げるだけで自分の声を学習することができ、テキストをタイプすると自分そっくりな声で相手に伝えることが可能になります。ただし、当初は英語のみです。 テキストした文章を音声化する機能（TTS、Text To Speech）をアップルは「Live Speech」という新機能で提供。これまでは

シークレット類の取り扱い シークレットやAPIキーをソースコードにハードコードするのはあまり良くない習慣です。 [レポート][GitGuardian]ハードコードされたシークレットに対応することはなぜ急務なのか？ – CODE BLUE 2022 #codeblue_jp | DevelopersIO これらの値は環境変数経由で読み込ませるのが良いでしょう。今回はSSMパラメータストアに値を手動でセットし、それをCDKデプロイ実行時に読み取ってLambda環境変数にセットするようにします。 ちなみにパラメータストアやSecretsManagerから直接読み込む方法もあるようです。 [アップデート] Lambdaから直接Parameter Store/Secrets Managerから値を取得できるようになりました！ | DevelopersIO Lambda関数とAPIGateway Re

ChatGPT APIのChat Completion APIを用いて、チャットの入力に対してその回答をレスポンスで返してくれます。 このチャットの入力に過去のチャットの内容を含めることで、過去の内容を前提とした回答を行うことができますが、これを実現するには、過去のチャットの内容を永続化しておく必要があります。 ユーザーインターフェースとしてLINE(LINE Messaging API)、LINEからの処理受付とChatGPTへのリクエスト、チャット内容の永続化をCloudflareを使って、過去の会話を覚えてるLINEボットを実現することができました。 本記事では、Cloudflare側の構成について紹介します。 [ChatGPT API][AWSサーバーレス]ChatGPT APIであなたとの会話・文脈を覚えてくれるLINEボットを作る方法まとめのCloudflare版の内容になりま

スマートフォン向け写真共有アプリ「Snapchat」を運営するSnapが、OpenAIの大規模言語モデルであるGPT-3シリーズの関連技術を用いたチャットボット「My AI」を立ち上げ、有料サブスクリプションサービス「Snapchat+」に試験的ながら実装することを発表しました。 Say Hi to My AI https://newsroom.snap.com/en-US/say-hi-to-my-ai Snapchat releases ‘My AI’ chatbot powered by ChatGPT - The Verge https://www.theverge.com/2023/2/27/23614959/snapchat-my-ai-chatbot-chatgpt-openai-plus-subscription Snapは、「My AIは、あなたの親友への誕生日プレゼント

Generative AI(生成AI)の時代が到来しています！AIがクリエイティブかつ人間のようなアウトプットを生み出せるようになりました。そして、画像や音楽、動画だけでなく、AIはついに「言葉」を高度に生成する能力を習得しつつあります。その象徴こそが「ChatGPT」の登場です。 ChatGPTの登場は、まさに「シンギュラリティ(技術的特異点)」を予感させるものでした。いよいよ人間と遜色ない会話をAIができる未来が、ついそこまで迫っていることを実感させられました。これからは、ChatGPTを代表とする自然言語処理領域のGenerative AIによって、会話AI(チャットボット)の分野に大転換が起きると予想されます。 本書は、そんな大転換の中、チャットボットの構築方法がどのように変化していくのかを解説しています。変革期なのでこれから違う変化を遂げて行く可能性はありますが、要素技術はすでに

🔥 CustomGPT.ai Outperforms OpenAI in Industry RAG Benchmark. 🔥