AI破産を防ぐために - LLM API利用におけるEconomic DoSのリスクと対策 - GMO Flatt Security Blog

はじめに こんにちは、GMO Flatt Security株式会社セキュリティエンジニアの松井（@ryotaromosao）です。 近年、LLM（大規模言語モデル）が目覚ましい進化を遂げており、それを利用したLLMアプリケーションが急速に増加しています。特に、AIチャット機能やエージェント機能が既存のサービスに搭載されるのを目にする機会も多いと思います。 しかしながら、LLM APIを用いたアプリケーションを提供する事業者にとって、「高額なAPIの利用料金を請求されたらどうしよう」という不安は大きいのではないでしょうか。 私も自社開発のセキュリティ診断AIエージェントのTakumiを使って脆弱性診断やリサーチ活動をしていますが、そのLLM APIの利用料金にはいつもビクビクしています。 まだ最適化が為されていなかった、Takumiの開発中の話ではありますが、脆弱性のリサーチ中に「このリポジ

[poad1010]

この記事をおすすめしました

[misshiki]

“EDoSとはEconomic Denial of Sustainability（経済的持続可能性の阻害）の略称のことで、従量課金制のサービスを標的とした攻撃を指します。”

[TakayukiN627]

Economic Denial of Sustainability（経済的持続可能性の阻害）

[hiroomi]

自由入力のプロンプトによって大量のトークン消費、エージェント型では外部ツールとの無限ループ。リクエスト、入力、出力制限

[satohi]

まさにこれ