Llama Guard: LLM-based Input-Output Safeguard for Human-AI Conversations | Research - AI at Meta
Llama Guard: LLM-based Input-Output Safeguard for Human-AI Conversations 概要We introduce Llama Guard, an LLM-based input-output safeguard model geared towards Human-AI conversation use cases. Our model incorporates a safety risk taxonomy, a valuable tool for categorizing a specific set of safety risks found in LLM prompts (i.e., prompt classification). This taxonomy is also instrumental in classify
海外出張でのPC管理、おろそかにしていませんか？ 注意すべきリスクと推奨策
この事件では、海外出張中に宿泊していたホテルの客室のドアが壊され、カバンごとPCやタブレットが盗まれたことが分かっています。PCにはログインパスワードが設定されていたため、最悪の事態は回避できたようですが、こうした“攻撃”に対策を講じるのは簡単ではなさそうです。 筆者も海外出張先や旅行先にPCを持っていくことはしばしばあります。本来、PCを厳密に管理するのであれば、鍵付きのロッカーに保管すべきなのですが、横着して机の中やスーツケースの奥に置いたまま、ということもよくあります。今回の事件を知り、もう少し危機感を持たなければならないなと感じました。特に出張などで重要な情報を持ち歩く機会がそれなりに多い方はどうすればこれを保護できるかを一緒に考えてみましょう。 社外に持ち出したPCをどう守ればいいのか？ 旅行中の最も安全な盗難防止対策としては、パスポートや財布と同様にPCを常に持ち歩くことくらい
IPA、IoT製品のセキュリティ制度「JC-STAR」を2025年3月に運用開始
印刷する メールで送る テキスト HTML 電子書籍 PDF ダウンロード テキスト 電子書籍 PDF クリップした記事をMyページから読むことができます 情報処理推進機構（IPA）は9月30日、IoT製品のセキュリティ適合性評価制度「セキュリティ要件適合評価及びラベリング制度」（JC-STAR）」の運用を2025年3月に開始すると発表した。2025年3月からまず「星1（レベル1）」の申請を受け付けることにしている。 JC-STARは、経済産業省が8月に公表した「IoT製品に対するセキュリティ適合性評価制度構築方針」に基づいて構築され、IPAが運用する。IoT製品共通で最低限の脅威に対応するための基準「星1（レベル1）」と、IoT製品の類型ごとの特徴に応じた基準「星2～4（レベル2～4）」の4つの適合基準が設定される。各レベルの内容は下記の通り。 星1（レベル1）：製品として共通して求めら
OpenAI、中国を拠点とする脅威アクター「SweetSpecter」と疑われる活動阻止
OpenAIはこのほど、「An update on disrupting deceptive uses of AI｜OpenAI」において、2024年10月の脅威インテリジェンスレポートを発表した。レポート全文は「(PDF) Influence and cyber operations: an update」から閲覧することができる。 An update on disrupting deceptive uses of AI｜OpenAI 重要な洞察 OpenAIが脅威インテリジェンスレポートにおいて、重要な洞察として発表した脅威の概要は次のとおり。 脅威アクターはサイバー攻撃の中間段階のタスクを実行するために、OpenAIのモデルを悪用することが多い 脅威アクターはOpenAIのモデルの実験を続けているが、新しいマルウェアの作成、バイラルオーディエンス(悪性の二次情報発信者)の構築に十分な
サイバー攻撃で暗躍するイニシャルアクセスブローカー、犯罪凶悪化の温床にも
印刷する メールで送る テキスト HTML 電子書籍 PDF ダウンロード テキスト 電子書籍 PDF クリップした記事をMyページから読むことができます フォーティネットジャパンは10月17日、記者向けの説明会を開催し、2024年1～9月のサイバー脅威動向を解説した。サイバー攻撃者の侵入行為に加担する「イニシャルアクセスブローカー」が暗躍し、サイバー犯罪の凶悪化にも影響していると指摘する。 同社で20年近くにわたり脅威動向の分析やサイバーセキュリティのイニシアティブ役などを務める米Fortinet 主席セキュリティストラテジスト 兼 脅威インテリジェンス担当グローバルバイスプレジデントのDerek Manky氏は、これまでの経験を踏まえて「最近のサイバー犯罪はより洗練され、犯罪組織は不特定を狙うのではなく、明確に標的を定めて標的への侵入攻撃に集中するようになった」と述べる。そこで暗躍して
Googleアカウント乗っ取りに警戒を、メール送信後にAI音声で電話
Malwarebytesは10月15日(米国時間)、「AI scammers target Gmail accounts, say they have your death certificate｜Malwarebytes」において、高度なAI(Artificial Intelligence)を悪用するGoogleアカウントの乗っ取り詐欺に注意を喚起した。攻撃者はAI音声を悪用してユーザーを騙し、アカウントの回復プロセスを通じて乗っ取りを試みるとされる。 AI scammers target Gmail accounts, say they have your death certificate｜Malwarebytes 具体的な事例 Malwarebytesは具体例として、ベンチャーキャピタル企業「Y Combinator」の最高経営責任者(CEO: Chief Executive Of
ディープフェイク（Deepfake）とその判別方法 - AIデータセット・機械学習データ作成なら｜トランシンク株式会社
「ディープラーニング」と「フェイク」を組み合わせた用語であるディープフェイクは、ディープラーニング技術を利用して作成された合成メディアです。明らかに悪意ある目的で合成が行われたわけではない場合もありますが、実際の人間の画像や動画、音声を使ったメディア操作には、道義的および法的な懸念が生じます。 ディープフェイクは、その人が実際行っていない動作を行ったり、実際口に出していないことを発言したりしているかのように描くことができます。基本的に、対象人物の画像を数百から数千件与えれば、ディープフェイクアルゴリズムがその人の様々な表情や、複数の角度から捉えた顔つきを学習します。学習が進めば、別の人の表情を真似すると対象人物の顔がどのように見えるかを予測できるようになります。ディープフェイクアルゴリズムに誰かの声のアクセントやイントネーション、トーンの模倣を学習させる際も同様のプロセスが利用されます。
AIセーフティに関するレッドチーミング手法ガイドの公開 - AISI Japan
レッドチーミング手法の観点につきまして、そのガイド（1.0.0版）を作成いたしましたので公表いたします。AIを取り巻く環境は変化が激しいことも踏まえ、今後、適宜修正を行い、改訂してまいります。 関連文書 ［日本語］ AIセーフティに関するレッドチーミング手法ガイド_概要版 AIセーフティに関するレッドチーミング手法ガイド ［英語］ Guide to Red Teaming Methodology on AI Safety_Summary Guide to Red Teaming Methodology on AI Safety 担当メールアドレス：aisi-guide-info ★ ipa.go.jp ※［★］を［@］に置き換えてください。
NTT東日本のホームゲートウェイとひかり電話ルータに脆弱性
sponsored ルンバの進化がやばい 断言しますが、昔の常識で“買わず嫌い”は絶対損です sponsored PG32UCDP、PG32UCDM、XG27AQDMGをレビュー 妥協をゆるさないゲーマーが選ぶべき、ROGの最新有機ELゲーミングモニター3選 sponsored JN-27GT165WQHDR-HSPをレビュー 約3万円でPS5の1440p出力を実現！27型WQHD/165Hzでワンランク上のゲーマーに sponsored あの機種が割引対象になるのは、史上初かも！？ 高性能＆コスパよし 編集部もイチ押しのZenbook 14を買うなら今だ！ sponsored Premium-Line B650FD-Mini/T/Aをレビュー Ryzen 7 9700X＆RTX 4070 SUPERを搭載する10.4L小型ゲーミングPCの驚くべき完成度、「黒神話：悟空」も4Kプレイ可 s
AIが書いたマルウェアが標的型攻撃に使用された可能性があることが判明
フランスのユーザーをターゲットとした電子メールによる攻撃において、生成AIの助けを借りて作成されたと考えられる悪意のあるコードが発見されました。 HP Wolf Security Threat Insights Report: September 2024 | HP Wolf Security https://threatresearch.ext.hp.com/hp-wolf-security-threat-insights-report-september-2024/ Hackers deploy AI-written malware in targeted attacks https://www.bleepingcomputer.com/news/security/hackers-deploy-ai-written-malware-in-targeted-attacks/ 2024年6
ChatGPTやGeminiといったチャットAIのセキュリティ機能を破壊するマルウェア「Morris II」が登場
OpenAIのChatGPTや、GoogleのGeminiのようなチャットAIを操作できるワーム「Morris II」を作成し、ユーザーの個人情報を盗み出すことに研究者が成功しました。 ComPromptMized https://sites.google.com/view/compromptmized New Malware Worm Can Poison ChatGPT, Gemini-Powered Assistants | PCMag https://www.pcmag.com/news/malware-worm-poison-chatgpt-gemini-powered-assistants 「Morris II」は、生成AIを活用するアプリケーションをターゲットとしたゼロクリックワームで、イスラエル工科大学やコーネル工科大学、ソフトウェア開発企業のIntuitなどの研究者たちに
GitHubを悪用してマルウェア配布、不審な通知メールに注意
Bleeping Computerは9月19日(米国時間)、「Clever 'GitHub Scanner' campaign abusing repos to push malware」において、攻撃者がGitHubのIssuesを悪用してマルウェアを配布したとして、注意を喚起した。被害者はGitHubから正規の通知メールを受信するが、本文には悪意のあるWebサイトへのリンクが記載されているという。 Clever 'GitHub Scanner' campaign abusing repos to push malware 攻撃手順 GitHubのIssuesは、リポジトリの作業、議論などを追跡できるコミュニケーションツール(参考：「About issues - GitHub Docs」)。GitHubユーザーはIssuesを使用してフィードバックを送受信することができる。 今回、攻撃者
起亜自動車の車に「ナンバープレートの情報だけで車両を遠隔操作できる脆弱性」が存在していた
起亜自動車の自動車に「ナンバープレートの番号や記号を入手するだけで遠隔操作できる脆弱(ぜいじゃく)性」が存在していたことが明らかになりました。発見された脆弱性を悪用すると「ロックを解除する」「クラクションを鳴らす」「位置情報を表示する」「オーナーの名前・住所・メールアドレスなどを取得する」といった操作が可能になるとのことです。 Hacking Kia: Remotely Controlling Cars With Just a License Plate https://samcurry.net/hacking-kia 問題の脆弱性を発見したのは、セキュリティ専門家のネイコ・リベラ氏やサム・カリー氏らの研究チームです。研究チームは、「起亜自動車の新車購入者向け車両登録ページ」を足掛かりに分析を進め、「攻撃対象車両のナンバープレートの情報を入力するだけで、ディーラー用のAPIを用いて攻撃対象
LLMのセキュリティ対策は「まだ道半ば」--Splunkの首席調査官が指摘
印刷する メールで送る テキスト HTML 電子書籍 PDF ダウンロード テキスト 電子書籍 PDF クリップした記事をMyページから読むことができます 世界的に生成AIの活用が進む中、大規模言語モデル（LLM）とそのユーザーを保護するためのセキュリティ対策は「まだ道半ばの状態にある」――。こう語るのは、Splunkのグローバルセキュリティ調査チーム「SURGe（サージ）」で首席セキュリティストラテジストを務めるShannon Davis氏だ。 SURGeチームは、サイバーセキュリティの分野で活躍する専門家たちで構成されており、新たに発生したセキュリティインシデントへの素早い対応や、セキュリティ上の問題への解決策を提供することを使命としている。特に影響範囲が広く、社会的な注目を集めるサイバーセキュリティインシデントにおいては、初動対応の技術や背景情報を提供し、最新のセキュリティトレンドを
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
トレンドマイクロ、新サービス「Trend Service One Purple Teaming™」提供開始｜Jタウンネット
トレンドマイクロ、顧客環境に模擬攻撃を行うペネトレーションテスト支援サービス 「Trend Service One Purple Teaming」
GMOイエラエ、自衛隊に演習を通じた実践的サイバーセキュリティトレーニング実施 | ScanNetSecurity
バッファロー、法人向けNASに「異常ファイル操作検知」などセキュリティを強化する4つの新機能 
複数のNTT東日本製ホームゲートウェイ/ひかり電話ルータにアクセス制限不備の脆弱性 | ScanNetSecurity
LLM Security: Splunk & OWASP Top 10 for LLM-based Applications | Splunk