canadieのブックマーク - はてなブックマーク

RAGの実案件に取り組んできた今までの知見をまとめてみた | DevelopersIO

はじめに新規事業部生成AIチーム山本です。 ChatGPT（OpenAI API）をはじめとしたAIの言語モデル（Large Language Model：以下、LLM）を使用して、チャットボットを構築するケースが増えています。通常、LLMが学習したときのデータに含まれている内容以外に関する質問には回答ができません。そのため、例えば社内システムに関するチャットボットを作成しようとしても、素のLLMでは質問に対してわからないという回答や異なる知識に基づいた回答が（当然ながら）得られてしまいます。この問題を解決する方法として、Retrieval Augmented Generation（以下、RAG）という手法がよく使用されます。RAGでは、ユーザからの質問に回答するために必要そうな内容が書かれた文章を検索し、その文章をLLMへの入力（プロンプト）に付け加えて渡すことで、ユーザが欲しい

canadie 2024/02/07

とっかかりには良い資料。ただコンテキスト10個は体感多い。なぜならGPTモデルは先頭が強いとあるが、厳密には真ん中あたりを無視する。触れられてないこととして、時間はかかるがマルチラウンドRAGが有効

あとで読む

リンク

[電話予約の無人化]Amazon Connect + GPT-4 JSONモード + Whisperで、1回の発話から予約情報(日付,時間など)を抽出 | DevelopersIO

[電話予約の無人化]Amazon Connect + GPT-4 JSONモード + Whisperで、1回の発話から予約情報(日付,時間など)を抽出はじめに Amazon Connect + GPT-4 JSONモード + Whisperで、1回の発話から予約情報(電話番号,日時,名前,人数)を正しく抽出できるか検証しました。コールセンターでは、有人対応から無人対応に変更したいニーズが増えているように思います。電話予約の無人対応を想定し、1回の発話で、下記の５つの予約情報を抽出できるか確認します。お名前電話番号予約日予約時間人数発話で予約情報を抽出する方法として、GPT-4 Turbo のJSONモードを利用します。 JSONモードの詳細は、下記を参照ください。例えば、「名前はクラスメソッドで、電話番号は09011111111。来週の火曜日の19時に4名で予約できます

canadie 2023/11/21

抽出能力は本当に高いのでこれは早く実用に乗って欲しい。なおJSONスキーマに従わせたい場合、Function callingのほうが便利よ。

リンク

AIチャットボットで問い合わせに対応し、回答が難しい内容に限り担当者にエスカレーション[Amazon Connect + Lex + Bedrock] | DevelopersIO

AIチャットボットで問い合わせに対応し、回答が難しい内容に限り担当者にエスカレーション[Amazon Connect + Lex + Bedrock] はじめに Amazon Connect + LexでAIチャットボットを構築し、問い合わせに対して無人対応し、対応が難しい内容に限り、オペレーター（以降、担当者）にエスカレーションする仕組みを作成しました。コールセンターの負担軽減や人手不足の解消を目指して、AIチャットボットを活用して有人対応から自動応答に切り替えたいというニーズは増えているように思います。本記事では、お問い合わせをAIチャットボットがヒアリングして、生成AIのAmazon BedrockのClaudeを用いて種別判定を行い、回答できるものはチャットボットが回答し、それ以外の内容については、担当者にエスカレーションする方法をまとめました。今回検証するお問い合わせの種別

canadie 2023/11/02

リンク

コールセンターへの問い合わせをAIチャットボットで種別を判定し、最適な担当者に自動振り分け[Amazon Connect + Lex + Bedrock] | DevelopersIO

コールセンターへの問い合わせをAIチャットボットで種別を判定し、最適な担当者に自動振り分け[Amazon Connect + Lex + Bedrock] はじめに Amazon Connect + LexでAIチャットボットを構築し、顧客のお問い合わせから、種別を判定し、カテゴリに合った担当者に自動振り分けしてみました。コールセンターの担当者の負担軽減や人手不足を解消するために、AIチャットボットを使って有人対応から無人対応に切り替えたいというニーズが増えております。今回は、顧客からのお問い合わせをAIチャットボットがヒアリングし、生成AIのAmazon BedrockのClaude Instanceによってお問い合わせの種別判定を行い、適切な担当者に振り分けを行ってみました。今回検証するお問い合わせの種別は、以下の9種類です。在庫に関する問い合わせ配送/送料に関する問い合わせ

canadie 2023/10/30

リンク

Amazon BedrockのClaudeとAmazon Connectを利用し、電話で色々な質問に答えてくれるコールセンター向けAIチャットボットを構築してみた | DevelopersIO

Amazon BedrockのClaudeとAmazon Connectを利用し、電話で色々な質問に答えてくれるコールセンター向けAIチャットボットを構築してみたはじめに Amazon BedrockのClaudeとAmazon Connectを利用した、電話で様々な質問に対する応答が可能なコールセンター向けAIチャットボットを構築しました。電話をかけて質問すると、BedrockのAPIを利用し、質問に答えてくれます。音声は、Amazon Connectが提供するものを活用しています。以下は、電話をかけた際の対話の様子を示したイメージです：実際に電話をかけたときのデモ動画です。Bedrockのモデルは、Claude Instant v1.2を使用しています。構成図は、以下になります Connectのコンタクトフロー内で、Lexで質問内容を受け取り、音声から文字起こしされ(裏でAm

canadie 2023/10/09

リンク

OpenAIのブランドガイドラインが公開されたので読んでみた | DevelopersIO

2023年4月24日付けで、OpenAI社がブランド利用のガイドライン（brand guidelines）を公開しました。サービス名の命名などにも関わる重要な情報なので、ChatGPTを利用したサービスを検討している企業は要チェックな内容となっています。私もざっと読んでみたので、本文を要約しつつ解説を入れてご紹介していきたいと思います。概要 ChatGPTなどOpenAI社のサービスを利用する際に、文言上でどのように記載するべきか、またロゴなどのアセットをどう使用するべきか、など、ブランドの利用に関する情報を全般的に記載したガイドラインとなっています。具体的には下記の項目があります： Language（文言上の利用ガイドライン） API Plugins（プラグイン） Models（モデル） Non-partnerships（パートナー以外の利用） Content attribution

canadie 2023/05/18

リンク

1on1 ノウハウの共有 | DevelopersIO

ここでは主導する方が知っておくべきものをまとめています。なおこの記事での 1on1 とは、バスケのハーフコートにおける 1 対 1 の攻防ではなく、職場における 1 対 1 の定期的な話し合いのことです。 1on1 で話すべきこと業務以外の課題解決なにか課題を抱えていると他のどの話題にも身が入らないため、まず話せる環境を作りましょう。同様に課題は業務効率を落とします。ここでの課題は次を指しています。健康上の課題業務が原因で病院受診が難しい場合の業務量の調整などお互いの健康テクニックの共有なども Good 家族との課題お子さんが夜泣きで寝不足などの場合は就業時間の調整など親族と折り合いが悪いなどの場合、第三者としての意見や、自分の経験を共有する社会上の課題コロナ禍によるつらみの共有など業務に連動するわけではないため、前回課題がなかったからといって今回もないと仮定しては

canadie 2022/02/07

あとで読む

リンク

グラフを生成可能なマークダウン構文「Mermaid」がNotionで利用出来るようになりました #notion | DevelopersIO

データアナリティクス事業本部サービスソリューション部サービス開発チームのしんやです。 Notionの直近リリースノートに「Mermaidっていうマークダウン構文がNotionで使えるようになったよ！」という情報が載っていたので、試してみた内容を軽くではありますが紹介したいと思います。目次 Mermaidとは実践 #1. フローチャート #2. シーケンス図 #3. クラス図 #4. 状態遷移図 #5. ER図 #6. ジャーニーマップ #7. ガントチャート #8. パイチャート #9. 要件図まとめ Mermaidとは Mermaidとは、フローチャート、シーケンス図、クラス図、ガントチャート、およびgitグラフを生成するためのマークダウン構文です。コードから良い感じのグラフを生成できるイメージについては下記動画を参照頂くと良さそうです。実践では早速実践してみたいと思いま

canadie 2021/12/24

あとで読む

リンク

AWS WAF でアクセス数が一定回数を超えた IP アドレスを自動的にブラックリストに追加させる方法 | DevelopersIO

困っていた内容自社サービスの特定の URL に対して、数日間で数百の IP アドレスから大量の不正アクセスを受けています。攻撃元 IP アドレスを自動的にブラックリストに追加させる方法がありましたら教えてください。どう対応すればいいの？ AWS WAF のレートベースのルールを設定してください。より細かい制御を行いたい場合は、AWS WAF セキュリティオートメーションの導入をご検討ください。 AWS WAF のレートベースルールとは AWS WAF のレートベースのルールを設定すると、AWS WAF が発信元 IP アドレスのリクエスト数をカウントし、設定したしきい値を超えるリクエスト数が確認された際に対象の IP を自動でブロックできます。現在は 5 分間あたり 100 リクエストを最小しきい値として指定可能です。以下にて作成手順を紹介します。 Web ACL とレー

canadie 2021/07/10

リンク

3〜4時間でAWSの監視系のサービス一気に学べたらコスパ良いと思いませんか | DevelopersIO

突然ですが、以下の機能がそれぞれどういうものかすべてご存知でしょうか？ CloudWatch ServiceLens X-Ray CloudWatch Contributor Insights CloudWatch Synthetics CloudWatch Container Insights CloudWatch Logs Insights CloudWatch メトリクス Metric Math 検索式カスタムメトリクス CloudWatch ダッシュボード CloudWatch 異常検出（Anomaly Detection） CloudWatch 埋め込みメトリックフォーマット CloudWatch アラーム異常検出に基づいたアラーム複合アラーム私はわからなかったですね。ここ 1〜2年のCloudWatch系のアップデート量は凄まじいなと個人的には思っていて、Cloud

canadie 2020/09/18

リンク

[macOS] SSHログインしたときだけターミナルの背景色を変えたい (iTerm2) | DevelopersIO

SSH で他所のサーバに接続したとき、ターミナルの背景色を変えたくなりませんか？ぼくはなります。正道（よくある方法） iTerm2 にはプロファイルという機能があって、予め作成しておくと、背景色以外にもいろいろと変更できます。今回は扱いません。邪道（趣味の領域）そもそも何故こういうことをしたいと思ったかというと、自分の手元だと思ってコマンド打ったら SSH でログインしたお客さまの環境だった、という事故を起こしたくないからです。「お客さまの環境へログインする場合はこう」、と作業手順を変えるのが本来の姿ですが、結局のところ思い違いによるミスは防げませんし、結果として両方の環境を整備しなくてはならなくなり、手間が増え、設定のミスマッチによる事故を起こしたり、そもそも（あきっぽい自分の性格的に）きっと整備しなくなる・・・という恐れもありました。 ssh サーバ名と実行したら、

canadie 2017/11/14

リンク

【登壇資料】目的別、サーバーレスアーキテクチャの教科書！これのときはこう！【アーキテクチャ20連発】 #cm_osaka | DevelopersIO

大阪でサーバーレスの話をしてきましたクラスメソッドの開発を知る！大阪勉強会第7回これから始めるサーバーレス！〜最新サービス使いこなし術〜でスピーカーとして登壇しました。参加率が非常に高く、多くの方にご参加いただきました。誠にありがとうございました！本記事では、勉強会でお話しした「目的別、サーバーレスアーキテクチャの教科書！これのときはこう！」の発表資料を公開します。発表資料内容本セッションでは、これからサーバーレスを始める人向けに、サーバーレスとは何か？という話から、具体的にどのようなアーキテクチャを構築するのか？というお話しをさせていただきました。サーバーレスアーキテクチャパターン本セッションでは、サーバーレスアーキテクチャのパターンを20種類ご紹介しました。サーバーレスと言えるアーキテクチャは20種類では語りきれないほど沢山ありますが、今回は独断と偏見で選んでみまし

canadie 2017/06/27

リンク

[AWS]マネージメントコンソールにIP制限をしつつ、一部利用できない機能も利用できるようにする | DevelopersIO

コンニチハ、千葉です。 AWSマネジメントコンソール利用時に、コンプライアンス要件によりIP制限をしたい場合があります。しかし、マネジメントコンソールにIP制限すると、思わぬエラーが発生し操作できなくなる場合があります。こちらのドキュメントにも記載があります。 aws:SourceIp 条件キーは、リクエストの送信元である IP アドレスに解決します。リクエストが Amazon EC2 インスタンスから送信された場合、aws:SourceIp はインスタンスのパブリック IP アドレスに評価されます。引用元つまり、APIリクエストの種類は2種類ありユーザー側からのリクエスト AWSがユーザーの変わりにリクエスト 2はCloudFromationのようなAWS環境を自動構成するようなサービスで、ユーザーが作成した定義に従ってCloudFormationサービスがEC2のようなサービ

canadie 2017/02/16

aws

リンク

EC2やRDS、ELBの停止忘れ、削除し忘れを防ぐ！LambdaScheduleイベント #reinvent | DevelopersIO

この記事は古いのでこちらを御覧ください！！コンニチハ。千葉です。突然ですが、開発環境などで使っているEC2やRDS、ELBを停止し忘れた、消し忘れた！という経験をお持ちの方へ。私、よくパソコン抱っこしながら寝落ちするのですが、ELBを作成しっぱなし、課金発生してた！ということがあります。無駄にお金を払わないように、インスタンス停止や不要なリソースの削除はコマメに行いたいところです。そんな中、新しくLambdaScheduleイベントがリリースされました。これは使うしかない！ということで、リソースの状況を教えてくれるツールを作ってみました。構成 Lambdaで１日１回スケジュールをトリガーに発火させます。そこで、EC2、RDS、ELBの起動状況を取得、SNS経由からメールで通知してくれます。リソースが起動している場合は、こんな感じでメールがきます。逆にリソースが起動していない