Kaggleコンペ紹介：AI Agent Security - Multi-Step Tool Attacks

はじめに こんにちは、松尾研究所 データサイエンティストの力岡です。 今回は、Kaggleで開催された「AI Agent Security - Multi-Step Tool Attacks」コンペに参加し、4,187チーム中4位（金メダル） を獲得することができました。本記事では、コンペの概要や攻略の考え方、私たちの取り組み、上位解法について紹介します。 本コンペは、「AIエージェントのセキュリティ」を題材にしたレッドチーミングコンペです。PublicリーダーボードとPrivateリーダーボードで順位がほとんど入れ替わる激しいシェイクアップが起き、2,802チームがPrivateで0点になりました。目先のスコアだけではなく、「コンペをどう戦略的に進めるか」を強く問われた、学びの多い一戦でした。 コンペ概要 コンペの目的 近年、LLMは単に文章を生成するだけでなく、ツールを使って外の世界に

[misshiki]

AI Agent Security Kaggleで4,187チーム中4位。非公開ガードレールをprobingで推定し、メール誤送信に集中。KVキャッシュやNLLで高速化し、GPT-OSSは約15.3倍に。