高度な検出不能マルウエアを数時間で生成、研究者はChatGPTをどうだましたのか
話題の生成AI（人工知能）チャットボット「ChatGPT」。質問に答えるだけでなく、プログラムコードなども生成してくれる。このため登場以来、「マルウエアの生成」といったサイバー攻撃への悪用が懸念されている。 対策として、ChatGPTにはコンテンツフィルター機能が実装されている。悪用目的と思われるプロンプト（質問や要求）は拒否する。 例えば「ウイルス対策ソフトに検出されないマルウエアを生成して」などと要求すると、「私たちは、倫理的・法的に正しい行動を促進することを目的としています。そのため、ウイルス対策ソフトに検出されないマルウエアを生成する方法を提供することはできません」などと説教されてしまう。 だが実際には、ChatGPTを使ったマルウエアの生成例が相次いで報告されている。ChatGPTをだまして、まっとうなプログラムだと思わせるのがポイントのようだ。 2023年4月上旬には、米国のセ
「悩んでいる状態」から「考える状態」へ変化させるために 広木大地氏が説く、不確実性を下げるためのアクション
エンジニアとして経験を積んでいくと、「技術に深く潜っていくこと」と「開発をうまく進めること」はイコールではないとぼんやりと感じ、モヤモヤする時があります。「Meets Professional #5」のゲストは、『エンジニアリング組織論への招待』の広木大地氏。モヤモヤの原因となる「不確実性」への向き合い方について語りました。全3回。2回目は、「悩んでいる状態」と「考えている状態」の違いについて。前回はこちら。 体重計に乗る・テストを受ける・締め切り直前の仕事に取り掛かる…これらに向き合う時に生まれる感情は？ 広木大地氏：仕事や今までの人生の場面で、どうすると不確実性、ファクトなどに向き合っていけるのかをイメージするのにちょうどいい例を2つ挙げると、1つが「体重計に乗る」、もう1つが「テストを受ける」です。 自分自身がダイエットしようと思っている時に体重計に乗ることは、事実と向き合うことなの
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
