AI／機械学習の品質保証が抱える課題に開発者はどう対応すべきか

機械学習／人工知能（AI）の活用領域は広まるばかりだ。期待が高まる一方で、「人の生命に影響を及ぼしかねない事故や不適切な判断につながるのではないか」と議論を呼ぶこともある。 2019年11月19日に開催された「＠IT ソフトウェア品質向上セミナー 2019 冬～不確実性が高まるDX時代のソフトウェアテスト／品質保証はどうあるべきか」の基調講演において、AIプロダクト品質保証コンソーシアム 副運営委員長であり、国立情報学研究所 准教授を務める石川冬樹氏は、「不確実性」をはじめとするAIの特質を踏まえながら、どのように品質を保証していくかについてのヒントを紹介した。 「帰納法」で作られる機械学習システムにまつわる品質保証上の課題 石川氏はソフトウェア工学に関する研究に携わりつつ、機械学習システム開発、運用に関わる工学的手法の確立、体系化に取り組む「日本ソフトウェア科学会 機械学習工学研究会」（

[rteeeeee]

「品質保証の中で、どのようなルールで学習したかという『規則』の妥当性確認も必要」「「100％の精度」という基準の代わりに、クリック率や工場の回転率といった何らかの「上位目標」を測定するしかない」

[daybeforeyesterday]

うーむ

[knok]

Adversarial exampleは庇護になるだろうか