美国政府相关部门据传正考虑禁止本国企业使用来自特定国家的开源 AI 模型。对此,Anthropic 联合创始人兼 CEO 达里奥·阿莫代伊公开发布声明,并明确表态:禁止开源模型从来不是Anthropic 提议或主张的政策。
围绕封杀开源模型的讨论近期在行业内引起强烈反响,多家科技企业通过联名公开信支持开源模式,还有观点质疑 Anthropic 想借助行政禁令压制竞争对手、维护自身商业利益。阿莫代伊对此解释称,只要不具备危险能力,开源模型就是价值很高的公共产品,其成本低廉,并能为科研人员、开发者和企业提供显著助力。带有保护主义色彩的禁令无法化解真正的国家安全关切,却可能成为行业垄断工具,这既不是 Anthropic 的立场,也不是其目标。
文章将阿莫代伊对 AI 技术安全和国家安全的实际忧虑分为两层。第一层风险在于,威权政体可能借助强于美方的 AI 系统获得永久性军事优势,或进一步强化内部监控。他认为,面对这类风险,模型是否公开开源权重、美国本土企业是否采用这些模型均非关键;真正危险的往往是秘密研发且仅供军方或情报部门使用的模型。第二层风险是强大 AI 模型遭到恶意滥用,被用于大规模网络攻击或生物武器开发。开源模型缺少持续安全防护和监控手段,发布后又无法收回,确实给安全治理带来更大挑战;但仅仅禁止合规本土企业使用开源模型,无法阻止恶意违规参与者,对削弱此类威胁没有实质作用。
针对上述风险,Anthropic 给出了三项可以执行的政策建议和监管主张。第一项是严控关键算力流向潜在威胁方,通过继续限制高性能芯片与制程设备出口,严厉查处绕过禁令的非法代工和走私,从源头切断训练高风险模型所需的算力基础。第二项是治理跨国界的大规模"模型蒸馏"(Distill)行为。部分机构正在通过蒸馏等低成本方式批量吸收前沿闭源模型能力,显著缩短研发周期;对于借滥用条款规避算力封锁的行为,需要设立更加明确的法律惩戒与商业惩戒机制。第三项是实施全面、强制的发布前(pre-release)安全测试。无论采用开源还是闭源架构,所有能力强度较高的模型在提供给公众或特定机构前,都必须接受覆盖生物安全、网络安全和对齐风险的严格测试评估。判断模型是否安全,应以客观且严谨的实证检验为依据,而不能依赖主观先验假设。
文章结尾,阿莫代伊强调行业不该继续陷入"开源与闭源"之间无止境的内耗,而应把注意力重新集中到关键算力管控、违规蒸馏治理和全球统一安全测试标准的建设上,使人工智能能够在安全、可控的条件下持续发展。