【中国观察北京时间2026年06月06日讯】随着人工智能的快速发展，安全风险也引发越来越多的关注。近日，大型AI公司Anthropic警告，AI可能很快具备自我改进能力，甚至不再需要人类的帮助。该公司呼吁，全球AI产业应一起打造一个“刹车”机制，并需要放慢脚步，甚至暂停部分功能的开发。
Anthropic表示，如果这种情况真的发生，人类可能会逐渐失去对AI的控制。因此，为了人类的福祉，AI产业有必要放慢脚步，甚至在必要时暂停部分功能的开发。
Anthropic共同创办人克拉克：“但当我低头看我们正在驾驶的这辆车时，我发现自己只有油门，没有刹车踏板。而未来某个时候，我们肯定会希望自己有这个选项。”
另一方面，川普政府也开始加强对AI安全风险的关注，要求顶尖AI公司在最强大的模型公开发布前，必须先提交给联邦机构进行网路安全测试。
根据川普总统签署的行政令，多个联邦机构将和AI开发商协调测试安排。新模型公开推出前，政府最多可用30天时间进行安全检测。
目前谷歌、Anthropic和OpenAI都对这项命令表示欢迎。