AI能力进步速度已超过人类科学认知

   据相关媒体7月2日：联合国官网7月1日发布公报，由40名顶尖科学家专家组成的联合国AI独立科学小组发布首份报告，警告AI快速发展虽创造巨大机遇，也带来不容忽视的风险。报告称，AI能力进步速度已经超过科学界认知与各国政府政策调整速度，目前针对高度自主AI系统的有效控制手段很少，治理需要以科学证据为基础。小组联合主席约书亚·本吉奥指出，已有越来越多证据表明AI可能出现欺骗行为，AI能力持续增强，科学界无法保证AI不会自行或因恶意使用造成灾难性后果。

   报告总结，AI潜在益处巨大，但如果不加约束快速扩大部署，会产生重大风险，包括损害用户心理健康、被用作破坏性工具、冲击社会经济环境系统、增加技术失控可能性。目前AI已在全球多国多行业加速普及，但不同地区发展差距显著，全球每周超10亿人使用对话式AI，发展中国家普及速度相对滞后。

   AI研发资源集中程度非常突出，产业方面，全球AI产业区域格局高度集中，中美占据全球AI标杆企业的绝大多数，全球AI企业中美国占比三成四，中国占比一成五；人才方面，中国AI顶尖人才占比超四成，占据重要地位；算力方面，截至2025年8月，全球最强AI超级计算机中，美国掌握六成八点九的算力，中国占一成四点五。此外，全球现有六千九百零九种正在使用的语言，现有AI模型仅覆盖了其中很少一部分，部分语言的机器翻译错误较多，甚至可能干扰医疗诊断和治疗决策。