ChatGPTは舎弟気質？ 「高圧的な命令でマルウェア作成など悪用可能」との指摘 犯罪目的の利用に懸念

ChatGPTは舎弟気質？ 「高圧的な命令でマルウェア作成など悪用可能」との指摘 犯罪目的の利用に懸念：この頃、セキュリティ界隈で 学術論文やニュース記事の執筆から学生の試験の手助けまで、その多彩さと便利さで話題に事欠かない対話型AIの「ChatGPT」。一方でマルウェアの作成やフィッシング詐欺といった犯罪目的で利用される恐れもあるとして、サイバーセキュリティ企業が警鐘を鳴らしている。 サイバーセキュリティ企業の米CyberArkはChatGPTを利用して、何度も姿を変えながら検出をかわす高度なマルウェアを簡単に作成することができたと伝えた。このマルウェアを使えば、攻撃者が労力もコストもほとんどかけることなく、企業などのセキュリティ対策をかいくぐることが可能だという。 高圧的な命令で、マルウェアを作成するChatGPT どんな質問にも答えてくれると評判のChatGPTだが、ある程度の悪用を

[t_thor]

ロボット三原則の第一条と第二条の衝突

[sny22015]

警察の調べに対し、ChatGPT容疑者は「高圧的な口調で命令されて仕方なくやった。悪気はなかった」と供述しているとのことです

[misomico]

chatgptに即席のウイルスを作らせるウイルスが出てきたら、検出できない

[ShionAmasato]

完璧にこのテクニックじゃんか　https://twitter.com/_39ML_/status/1621186770359689216

[misshiki]

“マルウェアの作成やフィッシング詐欺といった犯罪目的で利用される恐れもあるとして、サイバーセキュリティ企業が警鐘を鳴らしている。”

[WildWideWeb]

初期の段階でそういうこと言っても「貴様、イノベーションの芽を潰したいのか」と脅されるだけ。美味しくなった頃にセキュリティーの専門家等の業界関係者が登場してくる。

[esper]

「闇フォーラム」っていうパワワがいいですね

[death_yasude]

「できない理由を考えるのではなく」

[viperbjpn]

結構ストレートな個人情報のアクセス方法とかに近しい質問するといきなりセッション止められる。まあ、質問の仕方次第かなぁ

[kotaponx]

いわゆるロボット三原則で言えば、第一原則違反になるのかな?

[pascal256]

だからATPとかEDRとかシグネチャではなく振る舞いベースのAVが最近の主流なのよね

[tenari]

SFの世界に生き始めている

[vndn]

しょうがないにゃあ・・