会議相手はフェイク動画、40億円被害が示す詐欺AIの進化 - 日本経済新聞英エンジニアリング大手のアラップは5月、詐欺グループが仕組んだ偽のテレビ会議にだまされ、2億香港ドル（約40億円）の詐欺被害に遭ったことを明らかにした。本物そっくりの社内会議が人工知能（AI）を使って設定され、参加した経理担当社員は指示されるがまま、詐欺グループの管理口座に大金を振り込んだ。生成AIの進化で詐欺が巧妙化。今後は日本が標的になる頻度が増える見通しだ。「『秘密の取引』について話があ
特殊な訓練を受けたAIモデルがまるで潜伏工作員のように機密情報を漏えいする可能性があることが判明
自然な文章を生成する言語モデルは、通常であればセーフティがかかっていて、人間が不快だと感じることを言わなかったり、不適切な情報を出したりしないように訓練されています。ところが、最初の訓練で悪意を仕込まれた言語モデルは、後のテストで安全であることが確かめられたとしても、将来的に脆弱(ぜいじゃく)性が露呈してくる可能性があることが調査により判明しました。 [2401.05566] Sleeper Agents: Training Deceptive LLMs that Persist Through Safety Training https://arxiv.org/abs/2401.05566 AI Sleeper Agents - by Scott Alexander - Astral Codex Ten https://www.astralcodexten.com/p/ai-sleepe
AmazonのAI「Amazon Q」は重度の幻覚によってAWSデータセンターの場所などの機密データを漏えいしているとの指摘
2023年11月29日に発表されたばかりのAIチャットサービス「Amazon Q」にプライバシーの問題がある可能性が報じられました。一部の従業員によるとAmazon Qはひどい幻覚(ハルシネーション)に襲われることがあり、Amazon Web Services(AWS)のデータセンターの場所などを漏らすことがあるそうです。 Amazon’s Q has ‘severe hallucinations’ and leaks confidential data in public preview, employees warn https://www.platformer.news/p/amazons-q-has-severe-hallucinations Amazon's AI Chatbot, Amazon Q, Faces Criticism and Security Concerns h
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
