富士通、AIに潜むセキュリティリスクを分析するツールを無償公開 “安全なAI”開発を可能に

富士通は2022年6月29日、AI（人工知能）に潜むセキュリティリスクを分析する「AIリスク問診ツール」を開発し、機械学習工学研究会（MLSE）を通じて無償公開すると発表した。MLSEが2022年6月30日に公開する「機械学習システムセキュリティガイドライン Version 1.0」に同技術を掲載し、AI開発者向けのリスク分析ツールとして無償提供する。 開発者自身がリスクを分析するツール その仕組みは？ 近年、AIの活用分野が広がる一方で、AIを意図的に誤判断させたり、AIから訓練データやモデルの情報を窃取したりするAI特有のサイバー攻撃が懸念されている。これらの攻撃により、自動運転車に搭載されたAIが誤判断をすれば、交通事故が起こる危険性があり、AIを活用したシステムを攻撃者が複製すれば、類似サービスが展開される恐れがある。 関連記事 富士通のDXコンサルティング事業トップが指摘する『イ

[misshiki]

“AI（人工知能）に潜むセキュリティリスクを分析する「AIリスク問診ツール」を開発し、機械学習工学研究会（MLSE）を通じて無償公開すると発表”