yag_aysのブックマーク - はてなブックマーク

機械学習で嘘をつく話

第２回ザッピングセミナー【タイトル】機械学習で嘘をつく話【アブストラクト】「機械学習モデルはブラックボックスで説明ができない」とよく言われます。このようなモデルのブラックボックス性の問題を解消するために、ここ数年では機械学習モデルの“説明法”の研究が活発になされています。本セミナーではこれらの“説明法”を悪用して嘘の説明を作る方法を紹介します。本セミナーで紹介する手法を絶対に悪用しない、と約束できる方のみ参加をお願いします。Read less

yag_ays 2020/08/30

リンク

機械学習モデルの判断根拠の説明（Ver.2）

【第40回AIセミナー】「説明できるAI　〜AIはブラックボックスなのか？〜」 https://www.airc.aist.go.jp/seminar_detail/seminar_040.html 【講演タイトル】機械学習モデルの判断根拠の説明【講演概要】本講演では、機械学習モデルの判断根拠を提示するための説明法について紹介する。高精度な認識・識別が可能な機械学習モデルは一般に非常に複雑な構造をしており、どのような基準で判断が下されているかを人間が窺い知ることは困難である。このようなモデルのブラックボックス性を解消するために、近年様々なモデルの説明法が研究・提案されてきている。本講演ではこれら近年の代表的な説明法について紹介する。Read less