エージェンティックアプリケーションの品質と安全性のための新たな評価指標｜daka | Microsoft | AI

はじめにAzure AI Foundry において、エージェンティックアプリケーションの品質と安全性を評価するための新たな評価指標が提供開始された この新機能は、エージェントのワークフローにおけるパフォーマンスを可視化し、タスクの遵守状況やツールの適切な使用、コードの脆弱性、根拠のない情報の生成といったさまざまな面から、より高い透明性と信頼性のあるAI開発を支援する 評価指標の背景エージェンティックアプリケーションとは自律的にプランを立て、アクションを実行し、人間または他のエージェントと連携可能なAIアプリケーション 複雑なビジネスワークフローの構築に貢献可能 例: ユーザーが「明日の天気は？」と尋ねた際、 エージェントは意図を推論し 必要なツールを呼び出し Retrieval-Augmented Generation を使って回答を生成する 開発上の課題各ステップと最終的な出力の品質と安