Anthropic 表示部署在美国军方的 AI 没有‘终止开关’

(SeaPRwire) –   该公司反驳了五角大楼关于其仍能以某种方式控制部署在军事网络中的 Claude AI 的说法

根据一份新的法庭文件,AI 开发商 Anthropic 坚称,一旦其 Claude AI 部署在五角大楼的机密军事网络中,它就没有后门或“终止开关”

今年早些时候,美国军方和这家科技公司陷入了一场政策纠纷,五角大楼坚持将该系统用于“所有合法的军事目的”,而该公司则坚持其关于大规模监控和全自主武器使用的 AI 安全保障措施。

五角大楼最终终止了与 Anthropic 的合作关系,将这家科技公司指定为“供应链风险”,这是一个通常保留给与华盛顿外国对手有关联的实体的罕见标签。该指定不仅禁止该公司直接与美国政府合作,也禁止任何其他承包商使用其产品。

在向华盛顿特区联邦上诉法院提交的一份新文件中,Anthropic 反驳了美国政府的关键主张,即该公司一旦将 Claude AI 部署到机密系统后仍保留一定程度的控制权,并有效地赋予了自己“行动否决权”。该公司表示,它“没有后门或远程终止开关”,其“人员无法登录到部门系统来修改或禁用正在运行的模型”

该公司辩称,提供给五角大楼的 AI 系统是一个“静态”模型。一旦部署,它“不会自行降级或更改,并且 Anthropic 无法在该部门部署后向模型推送未披露或未经批准的更改”

Anthropic 于 2 月 27 日被正式指定为“国家安全的供应链风险”,同时美国总统唐纳德·特朗普指责其由“左翼疯子”运营。该公司在法庭上对这一标签提出了质疑,目前的法律斗争结果好坏参半。

本月早些时候,华盛顿特区法院驳回了 Anthropic 暂停供应链风险指定的请求。然而,在加利福尼亚州的一起平行案件中,法院支持了该公司,暂时阻止了政府的决定。由于判决存在分歧,Anthropic 仍被禁止与五角大楼合作,但在法律斗争进行期间,可以继续与其他机构保持合作关系。

本文由第三方内容提供商提供。SeaPRwire (https://www.seaprwire.com/)对此不作任何保证或陈述。

分类: 头条新闻,日常新闻

SeaPRwire为公司和机构提供全球新闻稿发布,覆盖超过6,500个媒体库、86,000名编辑和记者,以及350万以上终端桌面和手机App。SeaPRwire支持英、日、德、韩、法、俄、印尼、马来、越南、中文等多种语言新闻稿发布。