①生命未来研究所发布的《AI安全指数》显示，主要AI公司在安全治理上未达全球标准 ，尽管竞相开发“超级智能”
，但无一制定出完善的控制策略；②报告指出，尽管多家公司领导层谈及应对存在性风险 ，但尚未转化为具体安全计划或可信的内部监测与控制措施 。

　　非营利机构生命未来研究所(Future of Life Institute)周三发布的新版《AI安全指数》指出
，Anthropic 、OpenAI
、xAI、Meta等主要人工智能公司的安全治理水平，远未达到正在形成的全球标准
。

　　该研究所表示 ，由独立专家小组进行的安全评估发现
，尽管这些公司正竞相开发“超级智能 ”，但没有一家制定出足够完善的策略和方案来控制如此先进的AI系统。

　　据悉 ，在本次评估中，Anthropic的综合得分最高
，但在“存在性安全(existential safety)
”上仍只获得D级，意味着该公司尚未建立足够的策略来防止灾难性滥用或失控 。这也是连续第二份报告中 ，没有公司在该项指标上获得超过D的评分
。

　　除Meta等少数公司外
，所有AI公司都对生命未来研究所发出的问题清单进行了回应，从而提供了其安全实践的更多信息。

　　报告显示 ，多家公司领导层都曾谈及应对存在性风险
，但研究人员指出：“这种言辞尚未转化为量化的安全计划 、具体的对齐失败缓解策略，或可信的内部监测与控制措施 。”

　　在具体指标上 ，Anthropic和OpenAI在信息共享
、风险评估以及治理和问责方面获得了A和B的高分
。

　　而xAI和Meta虽有风险管理框架
，但缺乏安全监测承诺，且尚未提供其在安全研究上的投资超过最低标准的证据。

　　这份研究发布之际 ，公众对具备类人推理与逻辑能力的更智能AI系统的社会影响日益担忧 。此前已有数起自杀与自残案例被指与AI聊天机器人有关。

　　麻省理工学院教授、生命未来研究所所长Max Tegmark表示：“尽管近期围绕AI辅助黑客攻击 、以及AI导致用户出现精神错乱和自残行为的争议不断
，美国的AI企业仍然比餐馆受到的监管更少，并持续游说反对具有约束力的安全标准
。 ”

　　与此同时 ，AI竞赛并无放缓迹象，大型科技公司仍在投入数千亿美元用于扩大和升级其机器学习能力。美国政府也试图通过立法禁止美国各州在未来10年内执行AI监管 。

　　生命未来研究所是一家关注智能机器对人类构成风险的非营利组织
。该机构成立于2014年
，早期曾获得特斯拉首席执行官埃隆·马斯克的支持。

　　今年10月份，包括科学家Geoffrey Hinton与Yoshua Bengio在内的一批研究者呼吁 ，在公众提出要求并且科学找到安全路径之前
，应暂停开发超级智能AI 。

（文章来源：财联社）