生成AIリスク探索のオープンフレー厶ワーク「PyRIT」、Microsoftがリリース

Microsoftは2024年2月22日（米国時間）、セキュリティ専門家と機械学習エンジニアが生成AIシステムのリスクを発見するためのオープンな自動化フレームワーク「PyRIT」（Python Risk Identification Toolkit for Generative AI）をリリースした。 PyRITを開発した背景には、MicrosoftがAIシステムのセキュリティを評価し、改善することを目的に運営する「AI Red Team」の存在がある。このチームは、セキュリティ、敵対的機械学習、責任あるAIといった分野の専門家で構成され、Microsoft全体のリソースを活用している。 Microsoftは、顧客にリリースする前に幾つかの生成AIシステムとモデルのリスクをレッドチーム（※）で積極的に評価していた。それを通じて、生成AIのレッドチームが、古典的なAIシステムや従来のソフトウ

[misshiki]

“Microsoftは生成AIのリスクを探索する自動化フレームワークPyRIT（生成AIのためのPythonリスク識別ツールキット）の導入を発表した。”