美国政府近日批准人工智能公司Anthropic向特定“可信合作伙伴”发布其最新AI模型Mythos,这一决定标志着美国在AI监管与产业发展之间寻求平衡的最新尝试。据悉,该许可由美国商务部工业安全局(BIS)依据出口管制法规作出,旨在确保先进AI技术的安全传播。
Anthropic作为一家专注于AI安全研究的公司,此前已开发出Claude系列模型。此次获批的Mythos模型据称在推理能力与安全机制方面均有显著提升。根据Anthropic官方声明,Mythos模型将首先提供给经过严格筛选的研究机构、学术合作伙伴以及部分政府机构,这些机构需承诺遵守特定的使用协议与安全规范。
美国商务部在审批过程中重点考量了Mythos模型的潜在风险与收益平衡。一位不愿具名的商务部官员表示:“我们必须在推动技术创新与防范技术滥用之间找到精确的平衡点。Mythos模型的发布将受到密切监控,所有合作伙伴均需定期提交使用报告。”
分析人士指出,此次批准反映了拜登政府对于AI治理的务实态度。与欧盟正在推进的《人工智能法案》相比,美国更倾向于建立基于信任与合作的行业自律体系,而非采取一刀切的强硬监管措施。这一策略既有利于保持美国在AI领域的全球竞争优势,又能在一定程度上防范技术风险。
值得注意的是,“可信合作伙伴”这一概念在美国AI政策中尚属首次明确提出。Anthropic CEO达里奥·阿莫迪在内部邮件中强调:“我们不会将Mythos模型直接面向普通消费者开放,而是首先与那些与我们共享安全理念、具备强大技术防护能力的机构合作。”这一策略与OpenAI、Google等公司此前大规模发布模型的做法形成鲜明对比。
技术专家认为,Mythos模型在对抗性测试中表现出色,特别是在检测和减少有害输出方面有了新突破。不过,也有批评者指出,仅依赖合作伙伴的自我约束可能不足以防范所有风险,特别是在国防与情报领域可能存在的误用情况。
全球范围内,先进AI模型的出口管制已成为各国政府关注的焦点。美国商务部曾于去年修改出口管理条例,将特定AI模型纳入出口管制范畴。此次批准Anthropic向可信合作伙伴发布Mythos模型,实质上是对新规的一次具体应用实践。
Anthropic公司方面表示,首批合作伙伴预计将在未来两个月内获得Mythos模型的访问权限,公司将在该阶段收集反馈并持续优化模型安全性能。若合作项目进展顺利,Anthropic计划在未来六个月内适度扩大合作伙伴范围。
此次Mythos模型的有限度发布,有望为全球AI治理提供一种新的参考模式:在确保安全可控的前提下,推动前沿AI技术赋能关键领域的科学研究与社会创新。随着各国对AI安全与伦理议题的重视程度不断提高,类似基于信任的发布模式或将成为行业主流。