外电报道:“神话”模型测试发现美政府机密系统漏洞
据美联社6月23日报道,一名美国官员周二对美联社记者说,Anthropic公司的一款人工智能(AI)模型在一次测试中发现了高度敏感且高度安全的美国政府计算机系统的漏洞。
这名不愿透露姓名的官员表示,Anthropic公司与美国情报机构合作,使用其“神话”模型(Mythos)进行了测试。这名官员表示,这款AI模型在数小时内就发现了若干漏洞,但这并不意味着该模型能够在同等时间内利用这些漏洞发起攻击。
这名官员表示,测试是通过Anthropic公司的“玻璃翼计划”完成的,该计划汇集了多家科技巨头和其他公司,希望保护世界上的关键软件免受“神话”模型可能对公共安全、国家安全和经济造成的“严重”影响。
在6月11日举行的参议院银行、住房和城市事务委员会听证会上,来自弗吉尼亚州的民主党参议员马克·沃纳简要提到了这场测试。沃纳当时表示:“这个工具不用几周,而是仅仅花费几小时就侵入了我们几乎所有的机密系统。”他表示这些信息来自美国国家安全局局长兼网络司令部负责人乔舒亚·拉德。
尽管Anthropic公司最近与美国情报机构合作测试漏洞,但这家公司与特朗普政府之间的紧张关系一直在加剧。Anthropic公司对于美国军方将如何使用其AI模型表达了担忧,而美国政府则限制了Anthropic公司一些模型的访问权限。
美国政府本月早些时候发布了一项指令,要求Anthropic公司禁止外国人使用其最新的AI模型,即“寓言5”模型和“神话5”模型。Anthropic公司本月早些时候大范围发布了“寓言”模型。该模型是更为先进的“神话”模型的受限版本。出于对网络安全的担忧,该公司对“神话”模型的使用范围进行了严格限制。
发布该指令的10天前,美国总统特朗普签署了一项行政令,要求建立一个框架,允许联邦政府在最先进的AI系统公开发布前对其进行最长达一个月的国家安全风险审查。该行政令称,AI模型开发者参与该审查流程遵循自愿原则。
Anthropic公司表示,为了遵守政府的指令,已禁止所有客户使用这些模型。这家AI巨头表示,它不认为政府有关潜在安全问题的担忧证明政府有必要采取这些措施。
一些公司的网络安全高管也要求特朗普政府取消这一指令,称此举对美国对手的利好远大于其能给对手造成的打击。奥多比和英伟达等公司的100多名网络安全专家和高管在一封致美国政府的信中说,Anthropic公司的“神话”模型在发现软件缺陷和利用漏洞发起攻击方面“相当出色”,但这款模型“在执行这些任务上并非独一无二地出色”。
这封信的许多署名者表示,他们经常使用其他基础模型和开源模型进行安全审查和培训。这封信指出,在美国的对手迅速发展之际,“没有充分理由”就剥夺美国最好的网络防御能力是危险的。(编译/胡雪)