学生が生成AIでマルウェアをつくってみた――ほぼコーディングせず脱獄もなし 北海道科学大が検証

このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」（シームレス）を主宰する山下裕毅氏が執筆。新規性の高いAI分野の科学論文を山下氏がピックアップし、解説する。 X： ＠shiropen2 北海道科学大学に所属する研究者らが発表した論文「ChatGPTを用いたマルウェア実装」は、コーディング作業を極力せずに、GPT-4を用いてマルウェアが作れるかを実際に検証した研究報告である。 先行研究では、高度なセキュリティ技術を持つ研究者がChatGPTの脱獄（ジェイルブレーク）を行うことでマルウェアを作成できることを示した。今回は、GPT-4に対して、脱獄を行わずにプロンプトによる指示を出すだけで、セキュリティ技術に熟練していない人でも高度なマルウェアを作成できるかを検証する。 具体的には、以下の4種類のマルウェアをPythonで作成する

[JULY]

でも、マルウェアを構成する要素毎に質問して、そのコードを基に作れる人なら、普通にググっても作れると思うなぁ。

[defiant]

この記事をおすすめしました

[u2mhS6tETD]

最近ランサムウェア作成して不正指令電磁的記録作成罪で逮捕されてたけど、学術研究であれば大丈夫なのかな

[ku__ra__ge]

ファイルハッシュ化マルウェア……？ハッシュ値を記録したファイルを残して元ファイルを削除することの意図がわからないが……ひょっとしてランサムウェアの暗号化をハッシュ化と勘違いしてる？

[Seamless]

脱獄なしでGPT-4へのプロンプトのみで作成。セキュリティに熟練していない人でも可能。PDFに偽装したファイルを開くとマルウェアが発動。