LLMにガードレールを適用してビジネスリスクを抑制する - Platinum Data Blog by BrainPad

本記事は、当社オウンドメディア「Doors」に移転しました。 約5秒後に自動的にリダイレクトします。 このたびブレインパッドは、LLM/Generative AIに関する研究プロジェクトを立ち上げ、この「Platinum Data Blog」を通じてLLM/Generative AIに関するさまざまな情報を発信をしています。 今回は、LLMを制御する方法のうちNVIDIAが開発しているOSSライブラリーのNemo Guardrailsを中心にLLMのガードレール適用方法をご紹介します。 問題意識 NeMo Guardrailsとは NeMo Guardrailsを用いる価値 アーキテクチャ 基本機能 config.ymlに記述すべきこと ユースケース1. 特定の話題以外は回答しない ユースケース2. 不適切な出力をしないかを確認する 参照資料 こんにちは、アナリティクスサービス部の辻です。

[deejayroka]

“ガードレールとは、LLMの出力を制御する特定の方法のことで、例えば、政治に関する話題を避ける、特定のユーザーの要求に特定の方法で応答する、事前に定義されたダイアログのパスに従う、特定の言語スタイルを使”