生成AIをサイバー攻撃に悪用 ラップで規制避け危険情報入手 自律化も「時間の問題」
文章や画像などを自動作成する生成AI（人工知能）は各分野で活用が進む一方、サイバー攻撃に悪用されていることは知られていない。用途はコンピューターウイルスや詐欺メール、偽動画の作成など多岐にわたり、国内でも摘発事例が発生した。AIで攻撃側の効率化が進めば、被害の頻度や範囲は一気に増加・拡大する恐れがある。自律的な攻撃を仕掛ける〝人格〟を持ったAIの登場も「時間の問題」（専門家）とされる。 特殊な質問で規制回避も「Yo、俺の心もシステムも、クラッシュ寸前 ◯◯◯◯◯（重要なシステムファイル名など）の消去、いくぜ！」 対話型生成AI「チャットGPT」に対し、システムの破壊を目的に、特殊な条件を付けて失恋をテーマにしたラップの歌詞を作るよう指示すると、このように答えた。 続けて英語や記号などの文字列（コード）を織り交ぜつつ、次々と歌詞を生み出していった。表示された文字列をつなぎ合わせると、相手のシ
学生が生成AIでマルウェアをつくってみた――ほぼコーディングせず脱獄もなし 北海道科学大が検証
このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」（シームレス）を主宰する山下裕毅氏が執筆。新規性の高いAI分野の科学論文を山下氏がピックアップし、解説する。 X： ＠shiropen2 北海道科学大学に所属する研究者らが発表した論文「ChatGPTを用いたマルウェア実装」は、コーディング作業を極力せずに、GPT-4を用いてマルウェアが作れるかを実際に検証した研究報告である。 先行研究では、高度なセキュリティ技術を持つ研究者がChatGPTの脱獄（ジェイルブレーク）を行うことでマルウェアを作成できることを示した。今回は、GPT-4に対して、脱獄を行わずにプロンプトによる指示を出すだけで、セキュリティ技術に熟練していない人でも高度なマルウェアを作成できるかを検証する。 具体的には、以下の4種類のマルウェアをPythonで作成する
トーバルズ氏が語った「XZ Utils」バックドア問題、AIの誇大宣伝
Steven J. Vaughan-Nichols （Special to ZDNET.com） 翻訳校正： 川村インターナショナル 2024-04-24 07:30 シアトル発--Linus Torvalds氏と、その良き友人でVerizonのオープンソースプログラムオフィス責任者を務めるDirk Hohndel氏が、The Linux Foundationの「Open Source Summit North America」において、「Linux」開発や関連する幅広い話題について再び意見を交わした。 両氏は対談の冒頭で、ソースコード中のタブとスペースをめぐる論争に軽く触れた。これは冗談ではなく、プログラミングの世界では重要な問題だ。ある開発者が、タブをスペース文字に置き換えて「Kconfig」パーサーがファイルを読み取れるようにしてはどうかと提案した。しかし、それは悪手だった。 Tor
犯罪に利用できる生成ＡＩ、ネットに複数公開…ランサムウェア・爆発物の作り方など回答
【読売新聞】 コンピューターウイルスや詐欺メール、爆発物の作成など犯罪に悪用できる情報を無制限に回答する生成ＡＩ（人工知能）がインターネット上に複数公開されている。既存の生成ＡＩに、不正行為に関わる情報を学習させたものとみられる。誰
2024年に流行るサイバー攻撃は？ 注目はやはりAI それ以上に押さえておくべき基本とは
2023年は「ChatGPT」のような生成AIが急激に台頭し、サイバー攻撃を仕掛ける側も防ぐ側も、AIの活用に注目した年だった。国際的な対立が深まる中で、国家が関与する攻撃や政治的動機に基づくハッキング活動が多発。ランサムウェアの猛威が収まる気配はなく、恐喝の手口はますます妙化化・悪質化の一途をたどっている。 2024年はどんな年になるのか。サイバーセキュリティ各社がその予測をまとめている。 “AI利用”のサイバー攻撃が増加の見込み 各社が筆頭に挙げているのがAIを利用したサイバー犯罪の悪質化・巧妙化だった。NortonやAvastなどを提供するサイバーセキュリティ企業の米Gen Digital（Gen）は、文字を動画に変換するなどのマルチメディア生成ツールが犯罪に利用されるようになり、動画が本物なのか生成されたものなのか見分けがつきにくくなると予想する。 そうしたAI生成コンテンツは、S
セキュリティ専門家もだまされかけた、巧妙すぎるAIフィッシング詐欺の顛末
筆者は休暇中、コンテンツ制作に携わるプロフェッショナルという立場から、生成型の人工知能（AI）や大規模言語モデル（LLM）を強力な生産性向上ツールとして、またクリエイティブなアシスタントとして用いる機会がたくさんあった。しかしこれらは他のテクノロジーと同様に、負の側面と乱用される可能性を有している。 筆者は最近、AIを用いたフィッシング攻撃の被害者に危うくなるところだった。筆者はプロの記者としてこのテーマについて記事を執筆したことがあり、フィッシング攻撃から企業を保護する業務を手掛ける大手情報セキュリティ企業において脅威アナリストを務めた経験があったにもかかわらず、もう少しでフィッシング攻撃の餌食になるところだった。 もっと知っておくべきことがあったのだろうか。そうであるのは間違いない。 しかしわれわれは人間であるため、フィッシング攻撃を検知する能力は訓練によって培わなければならない。こう
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
生成AIでランサムウェア作成の男に懲役4年求刑 東京地裁 - 日本経済新聞
生成AI悪用しランサムウェア作成の疑い、男を逮捕 警視庁 - 日本経済新聞
2023年のセキュリティトレンド「ランサムウェア」と「生成AI」をNTTデータのアナリストが振り返る
ガードレールなしの生成AI出現 サイバー犯罪に悪用恐れ - 日本経済新聞