AIに機密情報を渡してよいか、判断の軸を自分なりに整理してみた - $shibayu36->blog;

社内業務でAIを使うとき、機密情報をAIに渡してよいか判断に迷うことが多い。世の中では「個人情報だからAI禁止」「学習OFFだから安全」のような単純な線引きも見かけるが、これでは安全側に倒しすぎて活用が進まなかったり、逆に思わぬ穴があったりして違和感があった。 そこで自分なりに判断の軸を整理し、「許可していない相手に渡らないか」を目的に置いて、情報分類 × LLM環境 × Tool Callの露出範囲の3軸で判断することにした。同じように迷っている人の1つの参考になれば嬉しい。 守りたいのは「許可していない相手に渡さないこと」 まず何を守りたいかから考えると、「機密情報を、許可していない相手に渡さないこと」だと置いた。「相手」には外部だけでなく、本来アクセスできない社内メンバーも含む。 この目的から考えると、LLMへの入力を防ぐことは手段の1つにすぎない。 例えば、会社が管理するLLM環境

[jaguarsan]

とにかく機密情報をAIに食わせちゃダメの人、当然のようにメールとストレージとOfficeを覗いてくるCopilotをどのように考えてるんだろう

[WildWideWeb]

みんな、走りながら考えようでやってきたが、そろそろ「ヤバいかも」と感じ始めていて「ヨソはどうしてる？」とか「誰か公的にベストプラクティスとしてまとめてくれないか」みたいな感じになってると思う。

[strawberryhunter]

APIキーとか、パスワードとか、秘密鍵はどうだろうか。学習には使わないと宣言されても、(みんなは)論外かな？1Passwordみたいなのも危うい仕組みだと思う。

[misshiki]

AIへの機密情報入力を「学習OFFなら安全」で判断せず、「情報分類×LLM環境×Tool Callの露出範囲」で整理。守るべきはAIに渡さないことではなく、許可していない相手へ情報を渡さないこと。

[MtAsuka]

AIに何を渡していいか悪いかで考えるのではなく、まずそのデータをどう取り扱うべきかを明確にして、それがAIでどう扱われるかで判断すべき。機密情報と一口に言っても、顧客との契約次第で取り扱いは変わるし。

[harumomo2006]

個人情報や著作権絡みは自分が気を付けていても他の誰かが入力したら終わるので本人しか知らないような情報以外はあまり気にしても仕方ない。一度公開されたら全人類供用資産と思った方がいい

[lainof]

顧客に関連する情報は顧客との契約が優先されるんじゃない？

[bxmcr]

“逆に、エージェントが機密ファイルを公開”

[toaruR]

入れない方向に倒すのは目に見えるので、毒抜きプロクシでも作ろうかしら(´・ω・｀)

[masuipeo]

そんなに単純じゃない。機密情報をもっと細かく分類しないと。そもそも個人情報なら収集時に提示した利用目的を超えて使用はできない。

[osidimodes22]

機密情報は渡したらだめだろ。なにを機密とするのかの定義をするのでは

[magi00]

認証情報は渡すメリットに対して一律除外されるほどデメリットが大きすぎるということ。考え方に関しては例えば、第三者の情報（例えばメール）を読ませたときに悪意のある指示が混入するリスクを考える必要がある。

[sakidatsumono]

お偉いさんがchatgpt無料版をバシバシ使っていると子供から聞いて「俺にコンサルさせろ」と絶叫した

[kenzy_n]

渡したらその情報は全て公開されると考えて対応したいところ。

[mcddx30]

https://x.com/shibayu36/status/2093998932850516215

[mayumayu_nimolove]

人間に渡しても漏らすからね

[nguyen-oi]

情報分類とLLM環境とTool Callの3軸整理が実用的でわかりやすい