はてなブックマーク

本記事は「KDDIアジャイル開発センター（KAG） Advent Calendar 2023」、11日目の記事です。 はじめに こんにちは、KDDIアジャイル開発センターのはしもと（仮名）です。 LLM大好き！LLM大好き！ LLMのマルチモーダル対応 LLMの開発競争は凄まじく、流暢に多言語を話したかと思えば、最近では画像や動画、音声などの入力に対応した マルチモーダルモデル が続々と発表されています。 トップランナーOpenAIの「GPT-4 Vision」だけでなく、最近ではGoogleが「Gemini」を発表し、その高い性能と汎用性にワクワクした記憶も新しいです。 （内容についてはSNSなどでも色々語られていますが、一個人としては純粋にその将来性に期待したいと感じました） マルチモーダルRAG LLM の代表的なユースケースのひとつにチャットボットがあります。 更にその高度化で、モ

はじめに こんにちは、KDDIアジャイル開発センターのはしもと（仮名）です。 LLMで何かしたい勢のみなさま、検索拡張生成こと RAG (Retrieval Augmented Generation)、やってますか？ 自社で持っているデータを使ってエンタープライズサーチを実現したい、それができればきっと無敵。そう考えて色々やろうとしているんじゃないでしょうか。私です。 RAGを使って意図した出力を得られるようにするには、十分なデータセットを準備したりパラメータを変更しながらチューニングをするなど、地道な作業が必要となります。 開発ライフサイクルにおける評価・テストステップで有効な、評価用フレームワーク RAGAS を使ってみましたので、本記事ではそれについてまとめます。 RAGASとは RAGパイプラインを評価/テストするためのフレームワークです。 パイプラインを構築するためのツールは多く

何が嬉しいか 思いつく範囲で、次のような点が挙げられます。 レイテンシーの改善 データセンターが利用者に近い地理的位置にあると、データの送受信にかかる時間が短縮されます。 これにより、Azure OpenAI Service を利用するアプリケーションやサービスのパフォーマンスが向上することが期待できます。 データのプライバシー管理とコンプライアンス準拠 データが日本国内で処理および保存されるため、日本国の法規制や、各企業のセキュリティポリシーに則ったシステム構築の実現可能性が高まります。 企業が自社内で持っているデータを活用するには、データの所在地は考慮すべき事項のひとつです。 システム構成の簡素化 既に国外のリージョンでシステムを運用している場合を除き、これまでは同サービスを利用するために、日本国外のリージョンを併用する必要がありました。 複数のリージョンにシステムがまたがることによる