AIセキュリティ何から勉強すりゃええの？ - Qiita

Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? AIセキュリティ何から勉強すりゃええの？ 目次 はじめに 軽く自己紹介 調べたソース・用語 直近の学習計画 1. 論文の読み込み（一次ソースの収集） 2. 検証環境の構築 3. ブログ・技術記事によるアウトプット 理想の学習サイクル さいごに はじめに 「AI活用で業務効率化！」「AI駆動開発で爆速コーディング！」 最近SNSでも社内でもそんな話ばかりで正直少しお腹いっぱいです。 自分はかなりひねくれた性格をしているので、 「AIが便利なのは分かったけど、クラウド黎明期がそうであったように、AIも導入が先行し後からセキュリティの重要性が

[kaputte]

MITRE ATLASも、EU AI Actも、NIST AI RMFもないじゃん。てか、論文漁りよりOWASPとATLAS漁ってる方がいいよ。一応、Adversarial AIうんちゃらっていう英語の本はおすすめ。

[kitchenkabu]

まず、攻撃者になってみるといいと思う。例えばGarakというOSSはすぐ使える。何から何をどうやって守るのかある程度見えてくる。そして、増田が書いてる情報にまた戻ってみると、Garakではできない攻撃とかにも気付く。

[kojikoji75]

AIセキュリティ、何から学べばいいのか分かりにくい分野だけど、論文を読む→実際に攻撃を試す→対策を考える、という流れはかなり実践的。特にRAG×間接プロンプトインジェクションは、実際に手を動かすと面白そう。

[mayumayu_nimolove]

失敗から勉強するんだよ

[richmikan]

そんなのAIに聞けばよろし。

[isabro1326]

これはAIセキュリティではなく、AIでよく攻撃される脆弱性の基礎なのでは？それをどう守るべきかまでがセキュリティやで？