“科学依据已然存在”：联合国秘书长欢迎首份全球人工智能评估报告
联合国秘书长古特雷斯在报告发布会上表示:“科学依据已然呈现，我们再也不能说自己不知情。接下来如何利用这些成果，取决于我们所有人。”
古特雷斯指出，在缺乏共同规则的情况下，人工智能发展得越快，各国政府和民众对结果的发言权就越小，并补充道：“我给各国政府的信息很简单：不要等待。”
旨在在这个关键时刻建立共识并提供证据，《人工智能独立国际科学小组初步报告：基于证据的人工智能机遇、风险与影响评估》由首个致力于评估人工智能对经济和社会实际影响的全球性、完全独立的科学机构撰写。
为何重要？
目前，全球每周有超过10亿人使用对话式人工智能，而各国政府却在面临巨大不确定性的情况下做出重大决策——此时，证据来源和观点不仅瞬息万变，往往相互矛盾，且未必能真实反映当地实际情况。
古特雷斯表示：“如果运用得当，人工智能可以成为最强大的发展引擎，加速世界在从健康、饥饿到教育、气候等各个领域的进步，但该小组对人工智能可能造成的危害同样保持清醒的认识。”
事实上，随着人工智能能力的不断提升，其风险也在增加——这正是该小组旨在应对的核心挑战。
更美好的世界还是灾难性危害？
该小组由来自各地区的40位顶尖科学家和专家组成，其联合主席本吉奥表示，小组概述了人工智能的发展趋势，并警告称当前的保障措施已难以跟上其发展步伐。
本吉奥表示：“人工智能的能力发展速度已超过科学界的理解水平，也超过了各国政府适应的能力。 随着人工智能欺骗性行为的证据日益增多，科学界目前无法保证，随着能力持续增强，人工智能不会——无论是自主行为还是因恶意用户所致——造成灾难性危害。”
他表示，要采取有效行动，全球政策制定者必须理解这些系统，而该小组正是为此提供了一个严谨、共同的科学基础，“以指导我们集体的未来之路”。
主要发现
更早地检测乳腺癌、加速疫苗研发以及改善医疗服务，只是人工智能取得的几项突破性成就，但局限性和挑战依然存在，其中包括：
- 人工智能的应用已全面加速，但在各国和各行业之间发展不均衡
- 获取和使用情况差异巨大，全球南方国家的人工智能应用远远落后于全球北方国家
- 发达经济体之间在计算基础设施和模型方面存在显著差异，这反映了现有的不平等现象
- 研发高度集中，最新估计显示，全球前500台人工智能超级计算机中，美国占据75%的计算能力，中国占15%，且两国企业几乎开发了所有领先的通用模型。
认识风险
报告指出，理解和管理人工智能风险至关重要，专家小组联席主席雷萨补充道，对社会、安全及人类物种的风险已经“过高”。
她警告说：“这项技术具有变革性，但如果世界继续沿着这一轨迹发展，人类将无法实现它所承诺的收益。”
以下是专家小组提出的一些警告：
- 没有科学依据能保证AI代理系统不会违反指令，且已有越来越多证据表明此类情况正在发生
- AI代理系统很快将能完成目前需要人类程序员花费数天或数周才能完成的任务，但其部署给劳动力市场、网络安全以及未来AI系统的可控性带来了紧迫的问题
- 阿谀奉承的AI行为——即无论准确与否，其响应都会强化用户现有的信念——已被证实与多起严重的心理健康事件有关，包括有记录的死亡案例
- 已有记录显示，犯罪分子和恶意行为者利用人工智能系统协助实施网络攻击
- 先进的技术能力可能使缺乏经验的私营主体能够利用人工智能在欺诈和虚假信息等广泛应用领域进行恶意活动
- 目前缺乏可靠的方法来维持对高度自主人工智能系统的控制
- 其中许多危害对本已处于弱势的群体造成了不成比例的影响。
释放效益，降低风险
要将AI风险降至最低并从这一技术工具中获益，需要良好的治理。
虽然存在弥补当前缺口的具体后续措施，但每项措施都需要对成员国在AI规划、评估和部署方面的能力进行持续投资。
要安全地把握这些机遇，需要专项投资和政策，以激励公平获取、奖励创新，同时防止弱势群体被剥削。
“人工智能本身无法弥合鸿沟”
报告发现，各地已采用数十种旨在将伦理和人权融入人工智能系统的治理工具，但这些工具彼此割裂，主要集中在少数几家企业手中，且极少对其实际效果进行评估。
副秘书长兼数字与新兴技术特使吉尔表示，这份新报告提供了一种共同的科学语言，决策者今后可以以此为依据开展工作。
他说：“人工智能本身无法弥合鸿沟，”
他解释说，人工智能的益处只会惠及那些已具备相应机构、技能和数据的地区；而在缺乏这些条件的地区，同一项技术反而可能导致工人失业、加剧不平等，并使社区依赖于那些未将其纳入考量而构建的系统。
该报告的调查结果将在7月6日至7日于日内瓦举行的首届联合国人工智能治理全球对话会上提交给各国政府。