サムスン、機密情報をChatGPTにリークして大問題に

こういう事故、もちろん起こると思ってたよね。 Samsung（サムスン）は、少なくとも3つの事例で同社の機密情報をOpenAIのChatGPTに流出させたとして大問題に。 今回判明したその事例というのは、それぞれのサムスン社員がやってしまった以下の3つです。 この情報漏えいを受けてサムスンは、各社員のChatGPTへのプロンプトを1,024バイトに制限する｢緊急措置｣を発動しました。 バツが悪いのは、サムスンが従業員に対してChatGPTの利用禁止を解除してからわずか3週間後に、これらの情報漏えいが起きてしまったことですね。現在サムスンは独自の社内AIを開発中です。 OpenAIは入力されたデータをすべて保存問題は、たとえ社員が即座にPCの電源を切ったとしても、ChatGPTにはクエリが残り続けるということです。 Open AIは、｢ChatGPTや他のサービスに投稿されたデータは、AIモ

[n2sz]

この手の問題ってChatGPTに限らすありそうだけどね。翻訳サイトとかに結構漏れてそう。

[versatile]

どうやってばれるんだろう

[ciel18m]

技術の進歩に仕組みがずーっと追いつかない

[yoshikie]

三番目の事例はAPI使ってそうだから問題ないのでは？（API経由だと学習しないはずなので）

[imwks]

入口は解ったが出口がさっぱりわからん

[ardarim]

まあこういう事例には事欠かないとは思ってたよ

[maple_magician]

企業向けのセキュアな有償chatGPTが始まる感

[strawberryhunter]

ショルダーハックか、監視用バックドアをインストールしているか、証明書を置き換えて全通信を監視しているか、社内アンケートで正直に答えたかだ。サムスンに限らず社員の行動を制限するのは難しい。

[IGA-OS]

企業の中の人にとっての良い教訓として、勉強素材にさせてもらおう

[hogeaegxa]

解雇されるリスクを背負って投げた、ネットに学習ソースなさそうな組み込みのバグ対応は成果あったんだろうか

[nisisinjuku]

議事録を。ってのは多そうねｗ

[soybeancucumber]

日本は問題を問題として認識できておらずガバガバ流出して結果が今の凋落だと思うのだが。。。

[totoronoki]

何を入力したかきちんと履歴を表示してくれるUIだからこそ、問題発覚したのではと思う。

[misshiki]

“1）バグがある半導体データベースのソースコードをコピーして修正を依頼、2）機密コードをコピーして欠陥のある機器の修正プログラムを依頼、3）会議音声をチャットボットに投げて、議事録の作成を試みた”

[shunkeen]

規約を読んで問題なければGitHub Copilot for Businessを契約するか、もしくは、Azureを契約してAzure OpenAI ServiceのCodexやGPT-4（プレビュー）を使わせるか。サムスンくらいの大企業なら代替手段を用意するのも余裕そうだが。はて？

[triggerhappysundaymorning]

オプトアウト設定してりゃ大丈夫なんじゃないのかよ。

[warp9]

“バグがある半導体データベースのソースコードをコピーして修正を依頼”← やりたくなる。