復活した「Fable 5」 米政府からのオーダーに対して、Anthropicはどう対策したのか

全世界で再び利用できるようになった、米Anthropicの生成AIモデル「Claude Fable 5」。一部制限を緩和した特定ユーザー向けの「Claude Mythos 5」とともに復活を果たしたが、どういった経緯と対策を行ったのか。Anthropicがモデル再開にあわせて詳細を公開した。 Fableは現在、有料プランのPro、Max、Team、一部のEnterpriseで利用できる。サブスクリプション内で利用できるのは7月7日まで（ただし週間利用枠の50%まで）。それ以降は従量課金に移る。 停止の経緯と復活までの道のり 今回の規制のきっかけは、一部で報道された通りAmazonのセキュリティチームがFable 5の安全対策をすり抜け、ソフトウェアの脆弱性を特定させる手口を米政府に報告したことだった。Fable 5にはもともと、危険なやり取りを検知して止める「分類器」と呼ぶ仕組みを軸にした

[misshiki]

Claude Fable 5が復活。Amazon報告のジェイルブレイクを受け全停止したが、Anthropicは改良版分類器と安全マージン拡大で99%以上を遮断。7月7日以降は従量課金へ。

[kei_1010]

前期fable5でも無害なプロンプトですぐにopus4.8に切替わってた。それがもっと酷くなる、という事だから。。。

[nguyen-oi]

安全マージン広げて無害なプロンプトまで弾かれるの、実用上かなり不便そう

[IGA-OS]

軟着陸には成功してた

[deep_one]

「ジェイルブレイクの深刻度を客観的に評価する共通基準が存在しないこと」そもそも基準が作れるのか、というところから。