Difyの活用についてDifyを導入しました 弊社では主にデータ分析やプログラミングの効率化などでLLMを活用しています。 GPT-4が出て4ヶ月後には誰でも利用可能な形でチャット機能をリリースするなど環境整備を行ってきました。 当時はフロントエンドとして以下のOSSを使いLLMはAzure OpenAI Serviceとつなぎ、RAGは自前のサーバーで実現していました。 しかしながら、LLMの進歩も著しく最先端モデルや各種周辺サービスの発展速度に対して、画像チャット機能の導入やClaude3やGeminiの導入などに対して、速度感をもってスタッフに機能を提供することが難しい状況でもありました。 そういった経緯があり、今月Difyをセルフデプロイ版でクラウド上で稼働させて全社向けチャットツール環境を刷新しましたので、どのような形になったのかご紹介いたします。 導入に際しての検討 アカウント管理 Difyはまだま
