调查:顶尖AI企业安全表现不佳 榜首Anthropic评级仅C+

(纽约法新电)最新调查报告显示,全球顶尖人工智能(AI)企业普遍在安全方面表现不佳,未能有效应对AI行业面临的生存威胁。

根据美国AI安全智库生命未来研究所(Future of Life Institute)星期二(7月7日)发布的半年度AI安全指数排名,美国的Anthropic高居榜首,但整体评级仅为C+。

专家小组评估了九家领先的AI企业在六个方面的表现,包括风险评估、当前危害、安全框架、生存安全、治理和问责制,以及信息共享。在所有评估类别中,都没有企业获得A评级。

OpenAI与谷歌DeepMind的整体评级均为C,Meta得到D+,中国的Z.ai和阿里云则获得D-评级。美国的xAI、中国的DeepSeek,以及首次纳入调查的法国企业Mistral均获得F评级。

未来生命研究所主席泰格马克(Max Tegmark)说,考虑到欧洲在AI安全领域处于领先地位,Mistral排名垫底令人大感失望。

报告说,Anthropic、OpenAI、谷歌DeepMind与Meta此前禁止把它们的技术用于军事领域,但过后逐渐改变立场,和xAI与Mistral一样积极地寻求建立防务伙伴关系。中国顶尖AI企业也被指与军方有关联,但阿里云与Z.ai否认这些指控。

报告也指出,顶尖AI企业在应对生存威胁方面表现不佳,它们正以前所未有的速度开发变革性的技术,却未能制定可靠计划来监控相关风险。

您查看的内容可能不完整,部分内容和推荐被拦截!请对本站关闭广告拦截和阅读模式,或使用自带浏览器后恢复正常。