AIは、中身で止める - Linkode.TechBlog

止めすぎない統制のつくり方 シリーズ「AIが作る時代のセキュア設計」第3回 前回までのお話 このシリーズでは、AI が自発的にしてくれるセキュリティ上の注意は揺らぐこと（第1回1）、だから組織の設定で AI の機能を禁止すれば、その機能を使った社外への持ち出し（越境）を個人の注意に頼らず止められること（第2回2）を確かめてきました。ただし、禁止の規則が見ているのは「どの機能か」であって「中身が問題かどうか」ではない。だから機能ごと止めれば、越境と一緒に、非エンジニアがようやく手にした「自分で業務を良くする力」まで巻き添えで消えてしまう。この限界を前に、前回は「AI を安全な囲いの中で走らせる」という別の道にも触れつつ、「禁止で縛る発想とは違うやり方を、考えてみたいと思います」と書いて締めました。その違うやり方について、示したいと考えています。 つまり、危ない中身のときだけ止めて、問題ない使

[nguyen-oi]

機能ごとの一括禁止じゃなくてフックで個人情報検知して止めるアプローチは現実的だな