マルウエア作成に対話型生成AIを悪用した事案についてまとめてみた - piyolog

2024年5月28日、生成AIを使用したマルウエアを作成した容疑で警視庁が男を逮捕したことが報じられました。ここでは関連する情報をまとめます。 対話型生成AIを使用しランサムウエアらしきものを作成 男の容疑は不正指令電磁的記録作成。2023年3月31日に自宅PCやスマートフォンを使用して、対話型生成AIを使用し、不正プログラムの設計情報を組み合わせてマルウエアを作成した疑い。2024年3月に警視庁は男を偽造身分証を使用してSIMカードの不正契約を行ったなどとして詐欺容疑（今回の事案とは別件）で逮捕しており、*1 捜査より自宅から押収されたPCを解析したところマルウエアが発見された。*2 生成AIを使用したマルウエア作成の事案摘発は全国で初めてとされる。*3 男は以前に闇バイトとしてSIMカード詐取などの違法行為を行っており、トラブルとなった知人からランサムウエアを送り付けられていた。これを

[mahinatan]

この件、コードを作ったから逮捕されたのではなくて、別件で逮捕された後捜査の過程で容疑者のPCを調べたら出てきたという経緯なので注意https://www3.nhk.or.jp/news/html/20240528/k10014463011000.html

[ET777]

身分証偽造などわりと悪を重ねていた者なのだな

[NOV1975]

例えば、全く動作しない銃様のものを作って引き金を引いたら銃刀法違反で捕まるの？って話だからなあ。悪意があろうが罪状はそれじゃないだろ

[tpircs]

作ったコードによって何かが発生したわけでも無いのに捕まるのはどういうロジックなんだろう。コードが不出来で実働しえないものだった場合、それを不正なものと見なせるのかな。

[mini_big_foo]

知人の環境で動作しなかったんだろ。動くものではないってことで、これは不能犯では？

[Helfard]

頭が良いのか悪いのか判断に悩む事例。

[kitamati]

大昔のジャーゴンでScript kiddieってのがあったが今やAI Kiddieか

[dekaino]

そろそろ鉄腕アトムの「性能が低いロボットは善悪の判断ができない/容易に騙され犯罪者に命じられるまま犯罪に加担するが低性能なのでしくじりが多いが、高性能ロボットは犯罪に加担しない」が現実になるのかもね。

[sds-page]

どういう経路で捕まったのかは気になってた。メインの犯罪があってついでに動かないマルウェアも見つかりました、なのに「AIで犯罪が！」の方がニュースバリューある案件

[pwatermark]

アレだろ、その「知人」のPCにはPython入ってなかったとか、そういうクソくだらねえ理由で動かなかったんだろｗ

[NAPORIN]

“2024年5月28日、生成AIを使用したマルウエアを作成した容疑で警視庁が男を逮捕したことが報じられました。ここでは関連する情報をまとめます。”

[puhu208n]

科捜研で内部パーツを全て後から作り込む方法で捕まる。裁判所は「じゃあ作ったのは科捜研だろw」とは言わない。マジで。「タナカカシオペア事件」でググれ。 ＞上位コメの「全く動作しない銃様のもの」

[imakita_corp]

警察に言わされたのかなと思ったが素の発言に釣られた警察の勇み足だったりして　>>動機について、「昔からランサムウエアを使って楽に稼ごうと思っていた」と金銭目的で行ったと供述

[JULY]

まぁ、この件に関しては起訴できないだろうなぁ。

[oldriver]

不能犯（犯罪にならない）かどうかが争点だと思われる。不能犯を疑う理由は、(1) AI使っても素人がソフトウエアを作成するのは難しい。(2)スマホアプリはサンドボックス内で動作するのでランサムウェアは特に難しい。

[Karosu]

別件の詐欺逮捕がメインで、マルウェア作成による逮捕をメインとして伝えるのはお門違いだと感じたし、包丁を作ったから逮捕と同じに感じるから、政治家がその見出しで記事を出すのは将来の国益を失うと宣言希望

[ika2434]

文章読めない人が多いけどトプコメ通り、他の罪で捕まってPC内に自作のマルウェアがあり、その作成方法が生成AIで作ったってだけの話

[mujisoshina]

この件が問題になって逮捕されたというよりも、先に逮捕されていた別件の捜査取調べに関して再逮捕で勾留期間を延長するための口実として都合が良かったのかもしれないな。

[paradisemaker]

武器を製造したら捕まるのは銃刀法違反ではなくて武器等製造法違反だし、今回は自供もあるので、不正指令電磁的記録作成罪容疑で送検されるのは妥当かなと。武器作っても動作しなければ罪ないとか、マジで言ってる？

[ad2217]

不能犯VS無能警察

[satomi_hanten]

一応github copilot相当のものならある程度動くものは吐くだろうけど、最初はスマホ向けよりPC向けにした方が「知識が無い奴がやるなら」可能性は高いだろうな。スマホ向けはどうしても環境依存が大きい。

[surume000]

やりよる

[hatebu_admin]

“IT関連の技術についてはこれまで専門的に学んだことはなく” えーあい使えば誰でもすぐスマホで動くアプリを作れる時代になってたの？マジで？

[iwasi8107]

"男は元工場作業員でIT関連の技術についてはこれまで専門的に学んだことはなく、情報技術関連の資格もなかった。"

[kamm]

知り合いから送付されたアプリをスマホで動かすってなかなかだぞ。デフォルトの設定じゃ無理だし

[IGA-OS]

ガードの甘い生成AIがいまは溢れている・・・と