突发Anthropic指控阿里巴巴欺诈提取模型能力美国人工智能公司Anthropic指控阿里巴巴使用近2.5万个欺诈账户从其Claude人工智能模型中提取能力Anthropic称这是该公司已知的规模最大的此类攻击。据路透社报道根据Anthropic在6月10日致美国参议院银行委员会高级成员的一封信这场发生在4月22日至6月5日期间的攻击行动与Claude产生了超过2880万次交互。Anthropic表示此次攻击涉及“蒸馏”技术即让能力较弱的AI模型基于更先进系统的输出进行训练这可能使竞争对手以较低成本复制其部分能力。报道称该公司表示此次攻击由与阿里巴巴及其AI实验室阿里云通义相关的运营者实施。这一指控正值企业在各个业务环节采用生成式AI工具之际这给供应商带来了压力要求他们证明自己能够检测到滥用行为同时保证企业客户的服务可用性。另外这一争端也发生在AI发展与中美科技紧张关系日益紧密的背景下。Anthropic称此次被指控的攻击行动可能有助于加速中国达到其先进的Mythos Preview模型的能力水平而美国官员因担心先进AI系统可能被相关国家的军事或情报部门利用已加强了对这些系统的审查。今年2月Anthropic称已发现DeepSeek、Moonshot AI和MiniMax有类似从Claude提取能力的行为被指控的交互次数从DeepSeek的15万多次到MiniMax的1300多万次不等。阿里巴巴未立即回应置评请求。新的供应链风险TechInsights的AI分析师Anand Joshi表示如果Anthropic的指控属实此次被指控的攻击行动可能使阿里巴巴在短时间内构建出类似的模型并以更低的成本提供服务。分析师称此次被指控的攻击行动也反映出这两家公司之外更广泛的问题。结合Anthropic之前提到的事件来看模型提取似乎正在升级而不再是孤立的风险。Greyhound Research首席分析师Sanchit Vir Gogia表示“企业供应链不再局限于软件、API和云区域现在还包括租赁的智能而租赁的智能可以在其诞生的安全控制范围之外被复制和重新部署。”Gogia认为模型蒸馏应引起企业董事会的关注因为基于强大模型训练的较弱模型可以继承其能力而无需遵循原始系统的治理和控制。对于企业而言这些指控指向了比传统知识产权盗窃更严重的潜在风险大规模逆向工程。如果指控被证实这意味着AI模型可以被系统地复制从而使模型提取成为一种新的AI供应链风险。Pareekh Consulting首席执行官Pareekh Jain表示“如果竞争对手能够克隆你公司所依赖的AI的‘大脑’他们可以轻易找到其盲点攻击你的自动化系统或者导致AI供应商恐慌并关闭你公司日常运营所需的服务。”降低风险这一指控引发了关于AI供应商现有控制措施以及客户如何保护自己的问题。Jain表示“供应商应提供经过验证的账户、智能速率限制、滥用检测、使用监控、禁止模型蒸馏的合同条款、事件披露和审计权。企业应询问供应商如何检测和阻止大规模模型提取并要求签订合同以保证在AI服务受到攻击或突然关闭时提供备用计划和经济退款。”Joshi称企业客户还应要求供应商在模型开发和保障措施方面提高透明度。“企业买家应询问使用了哪些训练数据、如何进行训练、存在哪些防护措施以及如何进行审计等问题。”Joshi表示“模型发布者还需在模型及其响应中采用水印技术这样如果模型‘技能’被盗他们应该能够找到盗窃者。”
