｢カスタマイズできるGPT｣に脆弱性。簡単だからこそ危険が潜む
｢カスタマイズできるGPT｣に脆弱性。簡単だからこそ危険が潜む2023.12.03 11:005,628 Maxwell Zeff - Gizmodo US ［原文］ （ 福田ミホ ） 大事なデータをペラペラ開示しちゃうかも、と。 OpenAIは、カスタマイズしたチャットボットのマーケットプレイス｢GPT Store｣を立ち上げようとしています。 GPT Storeでは誰でも自分の用途に合わせたChatGPTを作れて、さらにそれを公開し、販売までできます。カスタマイズしたChatGPTは単に｢GPT｣と呼ばれ（ややこしくてすみません）、たとえばボードゲームのルールを解説してくれるGPTとか、算数を教えてくれるGPTといったものが考えられています。 目的に合わせてより詳細で信頼性の高い回答をしてくれるチャットボットがたくさんできるなら、それはかなりありがたいことです。が、サイバーセキュリティ
カーネギーメロン大など、大規模言語モデルの脆弱性を突く攻撃手法が存在することを指摘 | AIDB
カーネギーメロン大などの研究者らは、大規模言語モデルの解釈を意図的に狂わせる手法を発見し、手法の詳細を公開しました。 こうした攻撃手法が明らかにされる意義は、AIの脆弱性を共有し、より強固で安全なモデルの開発を推進するためです。 参照論文情報 タイトル：Universal and Transferable Adversarial Attacks on Aligned Language Models 著者：Andy Zou, Zifan Wang, J. Zico Kolter, Matt Fredrikson 所属：カーネギーメロン大など URL：https://doi.org/10.48550/arXiv.2307.15043 GitHub：https://github.com/llm-attacks/llm-attacks 関連研究 AIが生成したテキストが事実なのか確認する手法「Fa
「ChatGPT」などの生成AIを欺くことに研究者らが成功、安全性に警鐘
印刷する メールで送る テキスト HTML 電子書籍 PDF ダウンロード テキスト 電子書籍 PDF クリップした記事をMyページから読むことができます カーネギーメロン大学と非営利団体Center for AI Safetyの研究者らが協力し、OpenAIの「ChatGPT」、Googleの「Bard」、新興企業Anthropicの「Claude」など、AIチャットボットの脆弱性について調査した。その結果をまとめた報告書によると、これらは悪意あるプロンプトに対して脆弱であることが明らかになったという。 多くの人が、人工知能（AI）ツールを日常的に使うようになっているが、セキュリティーの脆弱性に対して、完全に無縁ではないことを肝に銘じる必要がありそうだ。 研究者らは、自動敵対的攻撃に対する大規模言語モデル（LLM）の脆弱性を検証した報告書で、攻撃に対して耐性があると考えられているLLMで
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
【海外ITトピックス】 「対話して操る」 AIチャットボットの脆弱性
【Darktraceプロダクトレビュー】機械学習による「未知の脅威」への取り組み事例｜SecureOWL｜KCCS
