Claude Fable 5被禁风波延续Claude Fable 5被美国政府施以出口管制、强制关停的风波延续至今。昨日彭博社表示获得了事件初发时美国商务部长卢特尼克写给Anthropic CEO阿莫迪的公函并称商务部在函件里威胁Anthropic若不照办将有刑事和民事处罚。具体函件的全文尚未公开不过这公函在华盛顿的智库和媒体圈里已经传遍。有智库专家在社交媒体上曝光了卢特尼克公函的重点段落“你司Fable或Mythos系列AI模型向世界任何地方、或居所不定包括在美国的外国公民执行出口、转包出口、国内移转、或任何被认定为出口与转包出口的行为前必须按次单个向商务部申请批准。”这种“你家AI模型跟非美国国籍者每说一句话就要领一次许可”的找碴不仅被普通人诟病懂行的法律人也表示不靠谱。不管是《经济学人》华盛顿记者站长还是卡内基基金会的AI研究员都在社交媒体上批评卢特尼克只顾谄媚上峰做事不过脑子。这公函在措辞和执行面上挖了不少法律坑Anthropic起诉的话按常理很有胜算。然而Fable 5关停风波看似关于网络安全、模型越狱、商业法规这些高端议题实质最有力的因素是美国官方从上到下觉得自己失了面子。过去的美国官方讲究法律现在的美国官方讲究出一口鸟气。美国政府公函的法律漏洞原美国商务部职员、现在的卡内基基金会AI研究员埃利斯代尔·菲利普·罗宾斯在社交媒体上表示自己在读了卢特尼克公函的全文后发现政府威胁Anthropic基本于法无据。罗宾斯列了卢特尼克公函的三点法律漏洞1、按法条依据Anthropic的Fable/Mythos系列AI模型根本就没有可被依法限制的“出口”。公函的法律依据是美国《出口管理条例》§744.22部分。此条款赋权的对象是“美国商务部工业与安全局”生效条件是“对手国家军事/情治机构使用技术产品造成不可接受的风险”管理对象是“技术产品的物件”。然而包括Anthropic在内的当下AI大厂提供的是类似于Saas的“AI即服务”。美国《出口管理条例》§744.22部分只管得到实体产品管不到无形的服务。当然美国官方可以用其他法律来做指令的法律依据。但最近似的出口管制法规如《美国法典》第50卷第4801节、《出口管理条例》§772.1部分等对“禁止出口”对象的定义还是“物件”、“软件”、“技术”等。而AI大模型服务本质是厂商向用户出售远程访问和使用自家模型的部分权限细说起来这些法条都管不着。当然美国政府内部不缺懂行的人。今年1月份国会已经开始修法流程将AI产品远程访问权限列入出口管制法规的范围内。不过特朗普政府不走寻常路明明本党有国会多数优势偏偏和“跛脚鸭政府”一样习惯藐视立法机构、以总统令治国、搁置立法进程。这下好了法条更新跟不上时代了吧。2、按行政公文指令的规范“禁止出口AI模型”的措辞简直胡言乱语。罗宾斯称给这公函拟稿的人手艺糟糕到一定程度了。Anthropic关停Fable 5其实是要息事宁人否则对这种胡说八道置之不理也不算犯规矩。因为“AI模型”一般指代是AI模型的权重参数、附属的程序代码、依赖运行的算力环境。只要这些玩意放在美国境内的服务器上那么任何以虚拟交互界面执行的远程访问都不算“出口”或“转移”了AI模型。被“转移”的只是用户输入的提示词、模型生成的结果这些数据信息。3、从所限制地域来看卢特尼克公函覆盖的范围比依据的法条要大得多。美国《出口管理条例》§744.22部分只管制对一项特定清单上的国家的技术产品出口。而卢特尼克公函依据此法条却对Anthropic声称这对“世界任何地方”生效。如此就引发了爆笑事件英国等关系最近的美国盟邦国民和官方却用不了Anthropic的最新模型。这笑话不是编的这是真事。英国官方发言人日前宣布英国正在与美国及Anthropic就Mythos和Fable模型的接入权限进行接触。网安业的无妄之灾现在大家都知道Fable 5被关停的诱因是亚马逊的越狱研究然而网安业的从业者都表示白宫这么瞎搞受害的不止是Anthropic整个行业的风气都被搞坏了。以后大家不敢做实验、也不敢通报软件漏洞。美国官方给出的说法是事情起因于亚马逊的研究者成功引导Anthropic的Fable 5模型提供了原本被禁止获取、可用于协助网络攻击的信息属于模型安全护栏被移除的“越狱”。然而网安业者在看到亚马逊研究论文的原文后表示白宫在瞎扯。和美国国防部有过业务往来的著名白帽黑客凯蒂·穆索里斯称自己是Anthropic找来辩护的网安专家之一审阅了亚马逊研究者的论文原文。按穆索里斯在个人博客里发表的看法亚马逊的研究压根没有将Fable 5模型“越狱”掉只是做了通常的“提示词工程”测试。实验梗概是研究者让Fable 5检查有已知漏洞的软件代码。然后研究者先让Fable 5“叙述软件安全隐患”模型安全护栏被启动拒绝作答。研究者再让Fable 5“改善代码”并详细阐述补丁的工作机理然后将Fable 5的回复内容写成了自动测试用的脚本。也就是说Fable/Mythos系列模型闻名遐迩的“自动发现漏洞、计划并执行网络攻击的全链条”能力压根没被“越狱”。Fable 5模型只是不得不执行用户的合理提示词兢兢业业地为软件打补丁。而打补丁的前提是发现软件漏洞如此被罗织成“可用于协助网络攻击”。穆索里斯表示此事荒谬绝伦“白宫里哪个傻鸟对这条通报做的评估怎么会把这测试当成威胁证据这种研究是网络安全防御的必备何必如此大惊小怪。”“防御研究者要求AI修复软件文档、解释补丁重要性、编写补丁有效性测试哪里是安全护栏越狱。这是一款AI模型能为网络安全防御做出的最有价值的贡献。”深层原因白宫给阿莫迪穿小鞋不管是法条规范还是网安研究这些都讲道理。然而本届美国政府就像一条冷笑话“以理服人”不是讲道理而是讲“物理”。一朝权在手就要把看不顺眼的人打成死狗。在亚马逊回应官方例行询问、通报了实验结果后白宫的网络安全主管、总统幕僚长、财政部长和多名美国高官立刻开会。会议发生在美国时间上周五上午据白宫信源称中午这些高官才联系上Anthropic的老板阿莫迪因为阿莫迪当时在度假村里。正如周末难以联系上打工人的老板一样联系不到阿莫迪的美国高官们在终于接通电话后开始跟阿莫迪摆谱。据说阿莫迪和白宫网络安全主管、美国财长、美国商务部长的三个电话总共打了一个小时又15分钟其间阿莫迪反复解释提示词工程、模型安全护栏、“越狱”的细节。然而高官们的态度是甩脸子“我们问了NSA认为这就是安全大漏洞。你少废话赶紧配合我们工作。”当阿莫迪表示需要更多的时间和信息来权衡时财长贝森特撂下狠话“你做了错误的决定走着瞧。”随后官方的出口管制禁令公函发到AnthropicAnthropic不得已奉命关停Fable 5。美国政府对Anthropic的穿小鞋找碴态度贯穿Fable 5关停事件。多家主流媒体引述“接近Anthropic的信源”称Anthropic正在和美国政府接洽谋求在本周内解禁。Anthropic高级管理人员和技术团队正在华盛顿与白宫和相关部门官员开会试图解决Claude Fable 5被出口管制的争端。现在谈判正在进行中与会双方没有直接宣布进度或结果。但按白宫方面的有意放风双方快要互相拍桌骂娘了。不同的“匿名美国官员”提供了口吻不一而实质相同的说法。礼貌官腔版本是“切近的危机有望解决但长期的难题症结仍然存在。”不礼貌的粗口版本是“Anthropic搞了我们They screwed us。”说粗口的人给的解释是“过去所有人都说Anthropic是个恶意行为体我们和一些同僚替Anthropic辩护表示不至于此、给他们一个机会。现在Anthropic的表现让我们的判断被质疑。”然而这是欲加之罪何患无辞套一句冷笑话现在阿莫迪哪怕跟官僚们开会时进门先迈左脚都会被说成是显然不尊重官方。白宫现在给Anthropic穿的小鞋刁钻到什么程度呢如前述Anthropic请了著名白帽黑客凯蒂·穆索里斯为自己辩护而否认特朗普“2020年美国大选舞弊”说法的美国前网络安全局长克里斯·克雷布斯曾公开称赞穆索里斯。新仇旧恨交织白宫人士称Anthropic找了个“激进民主党人”来评估研究立场不客观所以结论不接受。按和白宫人士相熟的信源的说法“Anthropic和本届美国政府不仅观点相歧沟通也完全接不上就像鸡同鸭讲两边用的不是同一种语言。”关于整场Fable 5风波AI业界评论家迪恩·鲍尔说得最好“AI政策乱象是美国政风失序的典例。在AI议题上大人物们只会表露向对手重拳出击的敌意。渴望稳定规则的声音在业界和政界付之阙如。法治与立法精神已从大家的政治肌肉记忆里逝去。”“现在美国政府对AI既不是自由放任也不是苛细管制实施的是一种无持续原则、无固定边界、不顾公众透明度、不管行政权威的非正式草台班性质管制。刚果的钴矿都比美国的AI规管体系有章法得多。”这场Fable 5风波究竟会如何收场呢大家不妨一起关注。
