五角大楼希望部署无保障措施的致命人工智能——路透社

(SeaPRwire) –   据报道，美国国防部与承包商Anthropic就其技术内置的伦理限制发生了冲突

美国国防部与人工智能开发商Anthropic陷入了一场争执，焦点在于限制军方部署人工智能系统的相关规定，包括自主武器瞄准和国内监控用途。

据路透社援引六位知情人士的消息，这一分歧导致一份价值高达2亿美元的合同陷入停滞，因为军方官员反对这家总部位于旧金山的公司对其技术使用施加的他们认为过于严格的限制。

消息人士向路透社透露，Anthropic担心其人工智能工具可能被用于在缺乏足够人工监督的情况下执行致命行动，或用于监控美国人。

然而，五角大楼官员辩称，只要符合美国法律，商业人工智能系统应可用于军事目的，无论公司内部的使用政策如何。

Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）多次警告不受约束地使用人工智能的危险，尤其是在大规模监控和完全自主武器系统领域。在最近的一篇文章中，他主张人工智能应支持国防“以一切方式，除了那些会让我们变得更像我们的专制对手的方式”。

这一僵局对Anthropic构成了风险，该公司已投入大量资源争取政府和国家安全领域的客户，并正在为可能的公开募股做准备。去年，该公司与OpenAI、谷歌（Google）和埃隆·马斯克（Elon Musk）的xAI等多家主要人工智能开发商一道，获得了五角大楼的合同。