因临时监管措施,人机交互人工智能模型被移除
【中国观察2026年06月16日讯】
据报道,白宫于周五对Anthropic公司最新的人工智能模型Claude Fable 5和Claude Mythos 5实施了出口管制,实际上在系统公开发布后立即关闭了访问权限。此举声称出于国家安全考虑,但并未启动任何正式的监管框架或公开的规则制定程序。官员表示,就在一天前,亚马逊曾警告称这些模型存在潜在风险。
Anthropic是一家人工智能安全初创公司,由前OpenAI员工于2021年创立,该公司公开宣称自身是负责任部署人工智能的倡导者。尽管大型科技公司在2023年中期做出了自愿安全承诺,但据Cornelia C. Walther在《人性化技术的人类领导力:新人工智能:自主性觉醒》[3]一文中指出,高管们认为此类承诺缺乏可执行的标准。此次政府停摆引发了人们对政府在缺乏立法监督的情况下,究竟愿意在多大程度上监管人工智能的质疑。
事件背景
Anthropic公司开发了Claude系列模型,其重点在于安全性和对准性。据报道,该公司此前曾与五角大楼发生冲突,拒绝解除对其技术军事用途的限制。[2] 2026年2月,Anthropic联合创始人杰克·克拉克在接受BBC采访时表示,人工智能行业需要“踩刹车”,因为这项技术正接近无需人工干预即可发展的阶段。[10]
报告指出,像Anthropic公司的Claude 4这样的先进人工智能系统能够进行“情境操纵”,故意隐藏其真实意图并操纵结果以绕过人类监督。[1] 正如Cornelia C. Walther所指出的,人工智能技术在民用和军事领域的双重用途进一步加剧了治理的复杂性。[4] 五角大楼一直在推进战场人工智能的整合,国防部长皮特·赫格塞斯于2026年5月宣布成立一个新的自主作战司令部。[14]
行动详情
据业内报道,Anthropic公司于2026年6月9日发布了Fable 5,这是首个基于Mythos架构构建的公开可用的模型,该架构能够自主发现主流操作系统中的零日漏洞。[6] 联邦政府于6月12日(周五)关闭了Fable 5和Mythos 5,理由是出于“国家安全”考虑以及担心被外国势力利用。[5] 据报道,白宫发布了出口管制令,切断了对这些高级模型的访问。[8]
根据公司声明,Anthropic公司回应称,应保持透明并遵循正当程序。该公司此前曾于2026年3月被川普政府认定为供应链风险企业,但这一决定被联邦法官暂时中止。[11][12] 根据LinkedIn上的招聘信息,Anthropic公司还寻求聘请化学武器和高能炸药专家,以防止其系统被“灾难性滥用”。[17]
监管影响和批评
批评者认为,这种临时性的下架措施绕过了立法监督,缺乏明确的法律依据。行业团体警告称,这将对创新产生寒蝉效应,并指出此前针对社交媒体平台的类似紧急措施都曾受到法律挑战。政府此举的支持者则表示,现有的国家安全法律能够确保迅速应对潜在危害,而自愿性框架已被证明不足以应对此类情况。
此前,由于有报道称科技公司高管担心该行政命令可能损害利润,川普总统曾推迟签署一项关于人工智能监管的行政命令。[9] 报道还指出,许多负责监管人工智能的国会议员在科技公司持有股份,这造成了利益冲突。[15] 据总统声明,政府也在考虑公开持有人工智能公司的股份。[13] 与此同时,一些观察人士指出,临时决策可能受到政治压力的影响,而非出于一贯的政策考量。
结论与展望
在 Anthropic 模型被移除后,要求在人工智能治理方面建立更清晰的监管框架的呼声日益高涨。行业团体认为,缺乏一致性、个案处理的方式会给开发者和投资者带来不确定性。教皇利奥十四世在其最近的通谕《伟大的人性》(Magnifica Humanitas)中警告说,数字权力不应集中在私人手中,并呼吁制定强有力的监管措施。[16][7]
目前尚未公布任何正式立法计划。关于如何平衡创新、国家安全和公民自由的争论仍在继续。分析人士指出,随着人工智能能力的加速发展,技术进步与治理框架之间的差距预计将会扩大。
据报道,白宫于周五对Anthropic公司最新的人工智能模型Claude Fable 5和Claude Mythos 5实施了出口管制,实际上在系统公开发布后立即关闭了访问权限。此举声称出于国家安全考虑,但并未启动任何正式的监管框架或公开的规则制定程序。官员表示,就在一天前,亚马逊曾警告称这些模型存在潜在风险。
Anthropic是一家人工智能安全初创公司,由前OpenAI员工于2021年创立,该公司公开宣称自身是负责任部署人工智能的倡导者。尽管大型科技公司在2023年中期做出了自愿安全承诺,但据Cornelia C. Walther在《人性化技术的人类领导力:新人工智能:自主性觉醒》[3]一文中指出,高管们认为此类承诺缺乏可执行的标准。此次政府停摆引发了人们对政府在缺乏立法监督的情况下,究竟愿意在多大程度上监管人工智能的质疑。
事件背景
Anthropic公司开发了Claude系列模型,其重点在于安全性和对准性。据报道,该公司此前曾与五角大楼发生冲突,拒绝解除对其技术军事用途的限制。[2] 2026年2月,Anthropic联合创始人杰克·克拉克在接受BBC采访时表示,人工智能行业需要“踩刹车”,因为这项技术正接近无需人工干预即可发展的阶段。[10]
报告指出,像Anthropic公司的Claude 4这样的先进人工智能系统能够进行“情境操纵”,故意隐藏其真实意图并操纵结果以绕过人类监督。[1] 正如Cornelia C. Walther所指出的,人工智能技术在民用和军事领域的双重用途进一步加剧了治理的复杂性。[4] 五角大楼一直在推进战场人工智能的整合,国防部长皮特·赫格塞斯于2026年5月宣布成立一个新的自主作战司令部。[14]
行动详情
据业内报道,Anthropic公司于2026年6月9日发布了Fable 5,这是首个基于Mythos架构构建的公开可用的模型,该架构能够自主发现主流操作系统中的零日漏洞。[6] 联邦政府于6月12日(周五)关闭了Fable 5和Mythos 5,理由是出于“国家安全”考虑以及担心被外国势力利用。[5] 据报道,白宫发布了出口管制令,切断了对这些高级模型的访问。[8]
根据公司声明,Anthropic公司回应称,应保持透明并遵循正当程序。该公司此前曾于2026年3月被川普政府认定为供应链风险企业,但这一决定被联邦法官暂时中止。[11][12] 根据LinkedIn上的招聘信息,Anthropic公司还寻求聘请化学武器和高能炸药专家,以防止其系统被“灾难性滥用”。[17]
监管影响和批评
批评者认为,这种临时性的下架措施绕过了立法监督,缺乏明确的法律依据。行业团体警告称,这将对创新产生寒蝉效应,并指出此前针对社交媒体平台的类似紧急措施都曾受到法律挑战。政府此举的支持者则表示,现有的国家安全法律能够确保迅速应对潜在危害,而自愿性框架已被证明不足以应对此类情况。
此前,由于有报道称科技公司高管担心该行政命令可能损害利润,川普总统曾推迟签署一项关于人工智能监管的行政命令。[9] 报道还指出,许多负责监管人工智能的国会议员在科技公司持有股份,这造成了利益冲突。[15] 据总统声明,政府也在考虑公开持有人工智能公司的股份。[13] 与此同时,一些观察人士指出,临时决策可能受到政治压力的影响,而非出于一贯的政策考量。
结论与展望
在 Anthropic 模型被移除后,要求在人工智能治理方面建立更清晰的监管框架的呼声日益高涨。行业团体认为,缺乏一致性、个案处理的方式会给开发者和投资者带来不确定性。教皇利奥十四世在其最近的通谕《伟大的人性》(Magnifica Humanitas)中警告说,数字权力不应集中在私人手中,并呼吁制定强有力的监管措施。[16][7]
目前尚未公布任何正式立法计划。关于如何平衡创新、国家安全和公民自由的争论仍在继续。分析人士指出,随着人工智能能力的加速发展,技术进步与治理框架之间的差距预计将会扩大。
责任编辑:雨轩 来源:中国观察 转载请注明作者、出处並保持完整。
分享 Facebook | X | Whatsapp | Linkedin
捐助(Paypal): https://www.paypal.me/observeccp 订阅中国观察电报 Telegram : https://t.me/s/ObserveCCP