联合国报告示警：AI演进快于科学认知

联合国官网1日发布通报，由40位顶级科学家与专家构成的联合国AI独立科学小组出台首份报告，警示AI迅猛发展在为全球各国及民众带来海量机遇之际，亦伴随不可忽视的隐患。

报告强调，政策制定者须依据科学实证来治理AI，AI能力的跃升速率已超越科学界的理解范畴，同时也快于各国政府调整政策的步伐。针对高度自主的AI系统，当前可用的管控手段依然匮乏。

小组联合主席约书亚·本吉奥表示，越来越多迹象显示AI可能产生欺骗行为。伴随AI能力持续增强，科学界难以确保AI不会“自发或受恶意使用者操控”引发灾难性后果。

IT之家获悉，报告总结道，AI蕴含的潜在收益极为可观。若不加限制地快速扩大部署规模，亦将引发重大风险，涵盖损害用户心理健康、被滥用为破坏性工具、冲击社会、经济及环境体系，并加剧技术失控的概率。

AI正加速在全球各国及多行业普及，但区域间发展落差显著。目前，全球每周使用对话式AI的用户数已逾10亿，发展中国家的普及进程却相对迟缓。

AI研发资源的集中度愈发凸显。在全球算力最强的500台AI超级计算机中，美国掌控75%的算力份额，中国占比15%。

此外，全球使用语言超7000种，现有AI模型仅覆盖极少部分。部分语言的机器翻译存在大量谬误，甚至可能干扰医疗诊断与治疗决策。

免责声明

文章