こんにちは、株式会社ブレインパッド アナリティクスコンサルティングユニットの小澤、久津見、小牧です。 前回までの記事では、 ・生成AIをビジネス活用するための鍵となるドメイン特化 ・LLMの信頼性評価で押さえておくべき8つの評価観点 ・生成AIの評価指標とベンチマーク ・生成AIによる自動評価 (LLM-as-a-Judge) についてご紹介してきました。 LLMによる自動評価技術 (LLM-as-a-judge) の研究が進み、LLMがビジネス活用される流れがより強くなってきています。LLMをはじめとする生成AIの技術が急速に進む一方で、ハッキングの技術もより巧妙になってきており、そのリスクは顕在化してきています。 言い方を変えれば、LLMの普及によりセキュリティを突破するハードルが下がってきていると言えるでしょう。 ハッキングはプロンプトおよび学習データの漏洩、悪意ある行動の生成、有害