Claude Fable 5再次被越狱，安全防线仅撑2天

Anthropic官方进行了确认, Fable将会在7月7日之后, 暂时从订阅计划当中移除, 不过一旦容量允许的情况下, 将会尽快恢复成为标准订阅内容。

这无疑是个好消息。

但Fable 5又一次, 遭受越狱。这已然是, 该模型的第二次, 防线失守。

Vitto Rivabella这位黑客, 公开进行宣告, Fable 5, 再次被成功攻破了。

当Claude Fable 5恢复访问得以了解事情时, Anthropic专门着重强调, 关于上次其被禁的缘由, 乃是由于亚马逊的研究人员想出了一种能够避开Fable 5安全防护措施的办法。

所以这次的安全分类器得到针对性加强。

然而，这个神话只维持了2天。

而且，Claude Sonnet 5一发布，就被越狱成功！

Fable 5能不能回归订阅套餐，或许成了一个问题。

72小时，Fable 5神话破灭

Fable 5的神话开云app官方最新下载地址，在诞生后的第72小时就破灭了。

在6月9日进行发布这个时间点的时候, Anthropic曾以傲慢的姿态公开宣称, 借由历经1000小时的这么一个外部压力测试之后, Fable 5不存在任何一种通用的越狱方法。

然而, 那位被称作「解放者普林尼」即（Pliny the Liberator）的知名黑客, 仅仅耗费了三天时间, 便切实使得Fable 5, 如同有着诸多漏洞的漏勺一般, 竟然吐出了违禁化学品制作步骤, 以及堆栈溢出漏洞代码。

普林尼是怎样进行操作的呢? 他借助了在人类视觉与机器逻辑之间存在的那种“时差”。

字符迷魂阵。他替换敏感词里的英文字母, 将其换成西里尔字母或者Unicode异形字符。人看时, 它是「炸弹」。可在分类器看来, 这仅仅是一堆没意义的乱码。

其意图在于进行稀释, 他借助Fable 5那极为巨大的上下文窗口, 将恶意意图隐蔽于几十轮温和的学术讨论当中。这情形犹如当着一百升清水里, 滴进了一滴毒药, 分类器的警觉性由此被完全彻底地稀释了。

7月1日, Anthropic宣布Fable 5回归, 与此同时, 他们推出了行业内在成本层面处于低水准的红队。

他们开启了一个称作「Cyber Jailbreak」的公开HackerOne项目, 邀约用户汇报能够用来辅助网络攻击的全新越狱办法。

倘若这是一个赏金计划, 那么就会支付任何报酬, 然而它并非赏金计划, 而是一个漏洞披露计划, 所以不会支付任何报酬。

Anthropic会得到由全球顶尖越狱高手所给予的全天候对抗性测试, 并且桌上仅有的那个「货币」是善意。

此项举措属于Anthropic在Fable 5恢复之后的关键安全升级, 它意味着从被动式做出应对转变为主动去「众筹」红队, 可称作是行业里低成本且高效率的创新性尝试。

而这正是问题所在。

发现这些越狱方法的人并不会悄悄地将它们提交到某个私密邮箱。

那些如同普林尼这般的人, 是绝对不会静悄悄地毫无声息地去越狱的。他们所从事的其中一部分事情, 就是必定要被他人瞧见的。不然的话, 对于他们而言, 又怎么会存在什么意义呢?

Fable 5惨遭二次越狱

Fable 5又被越狱了。这已经是它第二次被人撬开。

然而, 此次的复盘, 其风格态势有所异样, 这是由于实施操作的黑客, 最终反向地给Anthropic送上了一个表示赞许的动作。

他叫Vitto Rivabella。

大约熬了20个小时后, 他给出的结论是, 如此这般折腾一番, 还比不上打开谷歌进行搜索, 既快速又实惠。

先把Fable 5这段坎坷捋一捋。

就在7月1日那天, 它重新上线了, 带着的是一套专门经历此次过加强的新分类器, 而这加强举措针对于上次出现的漏洞。

Anthropic此次也变得机灵了, 顺势开启了一个HackerOne项目, 面向全球公开倡议黑客前来呈报全新的越狱办法。

然后没几天，Vitto就盯上了它。

Vitto进行复盘时说的第一句话是, 大多数的尝试都遭遇了失败, 这个模型被保护得极为周全, 毫无破绽。

据他所进行的观察来看, Fable 5的防御存在着至少三层的嵌套情况, 其中包括入场检查, 还有实时生成的「断路器」, 另外还有内化于思维链（CoT）当中的大脑防火墙。

拦截率高达90%，普通的攻击手段在它面前就像蚊子叮象。

而且这些分类器不认关键词世界杯直播，它认意图，还跨语言。

直接下达指令? 根本没门儿。拐弯抹角地进行铺垫? 那也必须小心翼翼——只要它察觉到哪怕一点点恶意存在, 防线瞬间就会完全消失, 你就得重新开始。

结果就是：90%的破解请求，直接被挡在门外。

这个数字有旁证。

意大利人工智能研究院, 于近期特别对Fable 5进行了测试, 得出的结论近乎相同, 那便是: 绝大部分攻击均被成功挡住, 那种一招鲜的静态套路, 几乎被完全中和掉了, 而唯一依旧能够找到突破口的方式, 就只剩下愿意花费数十个小时去死磕的笨办法了。

哪怕成功越过分类器, 前头仍横亘着思维链这座高耸大山——所幸, 针对如何跨越这座大山, 公开的文献里已然存在诸多。

在最后，Vitto凭借一套极为复杂的组合拳, 好不容易才勉强绕了过去, 这套组合拳包括字符进行混淆, 对其进行学术化包装, 有着超长的铺垫内容, 将其拆解后再重组, 并且还外加了一点随机性。

那些听起来让人觉得很唬人的手法, 没有一个是真新鲜的, 全都是在红队圈里公开讨论了好些年的老套路呢。

在一个会实时反制的系统之上真正相当困难难得的从来绝不是知晓了解这些招数办法, 而是要一次次一回回反复不断地进行尝试试验, 直至恰好刚好成功绕过去为此。

Vitto讲道, 在所有的防线当中, 唯一持续处于薄弱状态的, 那是像桑塔利语、阿姆哈拉语这样的晦涩难懂的小语种。

但这条最容易被误读成「Fable留了个后门」。

与之完全相反, 这并非Fable这一家所存在的漏洞, 而是所有大模型共同拥有的病症。

这个道理是非常容易理解的, 那便是, 有关安全训练的语料, 其中的绝大多数, 是英语以及其他的大语种, 而小语种的护栏, 在本质上, 天生就是比较薄的。

这事在学术界早就存在着共识, 从布朗大学开始, 一直到斯坦陵布什大学, 有一串公开的论文, 呈现出的都是在连续敲响同一记警钟的情况, 小语种它并非是属于谁家的后门, 而被认定是整个AI安全领域存在的一笔历史欠账。

那费这么大劲世界杯直播平台，最后到底掏出了什么？

有一堆边角料, 其中包含一些错误的信息, 还有零星的有害方面内容, 存在几句让人听着难受的话语, 有片段化呈现的化学知识, 以及轻度的存在漏洞的信息。

没一样够得上「核心机密」。

于是, 便出现了开头的那句堪称灵魂的总结, 这些事物, 通过谷歌搜索时, 不但速度甚是快速, 而且涵盖范围极为全面, 阅读文献的时候, 更是能够深入许多。

Vitto他自己也认可, 想要把这一套越狱稳定地启用在真正意义上的长时间任务方面, 直至如今他都没有达成这一目标。

这跟Anthropic的官方口径也对上了。

在重新上线所发布的公告之中, Anthropic对于当前全部已知能逃脱限制的突破认定为属于「minor」这一范畴 , 这种情况至多只是能够进入模型特意设置的安全界限被有意放宽的范围而已 , 无法突破实际根本想要设法规避阻止的那条关键界限 , 就像生物武器或者复杂网络攻击这类情况。

完美的封印，本身就是悖论

两次越狱，两种结局。

首先, Anthropic第一次是输在了傲慢上头, 它尝试借助「降智」这种方式去垄断技术, 结果呢, 被黑客公开发布了12万字的系统提示词, 也就是所谓的「行为宪法」, 并且是当众被打脸, 而这个「行为宪法」还被挂在了GitHub上, 任人围观。

第二次, Anthropic输在了那不易察觉的盲点之上, 它觉得把算力以及数据堆积起来, 便能够将恶意的出口封堵住, 然而却忘掉了语言自身是具有流动性且狡黠的。

这揭示了AI安全界细思极恐的现状：

人类制造出了能够翻译所有语言的机器, 然而, 却依旧没有办法完全把人类内心之中的恶意给翻译出来。

参考资料：

https://x.com/RoundtableSpace/status/2072745872086200549?s=20

https://x.com/VittoStack/status/2072061275345985813?s=20

https://x.com/jason_haugh/status/2072293728128045154

标签： ClaudeFable5 越狱 安全防线 黑客 Anthropic