警惕人工智能“灾难性危害” 全球治理竞跑加速
各国政府、科技企业、学术界及民间社会将利用两天时间，在首届联合国人工智能治理全球对话会上竭力商讨如何监管这一技术——而其发展速度，早已超越旨在约束它的规则框架。
人工智能若被负责任地运用，可为世界各地民众带来变革性福祉；但人们也担忧，这项革命性技术正在制造新的风险。在它以闪电之势持续演进的同时，所需的监管保障措施却难以跟上其步伐。
峰会召开前夕，《联合国新闻》对四位与会者进行了专访，其中包括本次对话的两位联合主席，以及联合国人工智能独立国际科学小组的两位联合主席，该小组刚刚发布了一份关于人工智能机遇与风险的报告。
在采访中，他们既谈到了人工智能所带来的诸多益处，也坦言与之相伴的风险，并强调各方亟需就某种形式的、能够被普遍接受的全球性护栏措施达成共识。
约书亚·本吉奥（科学小组联合主席）：人工智能在诸多领域正接近甚至超越人类能力。其发展速度已超出科学认知的范畴，也超越了各国政府的适应能力。这一技术已取得令人瞩目的进步，正在深刻改变世界，而且似乎没有停歇的迹象。
爱沙尼亚大使赖因·塔姆萨尔（全球对话联合主席）：对世界上许多国家而言，人工智能有望成为一套绝佳的均衡器。它能够支撑经济发展、提升竞争力，并为科学研究和医疗体系提供助力。总体而言，机器学习有望提高生产力——这便是它的潜力所在。
萨尔瓦多大使埃格里塞尔达·洛佩斯（全球对话联合主席）：人工智能可以成为各国政府优化工作、提升公共服务水平的有力工具。
塔姆萨尔：全球有不计其数的人可以从人工智能这项工具当中受益。但与此同时，倘若落入不法分子手中，它也可能被用于胁迫性目的，侵蚀公众对政府的信任，削弱民主体制，并被滥用于宣传造势、破坏信息完整性。
玛丽亚·雷萨（科学小组联合主席）：第一代人工智能被应用于社交媒体，而它让谎言传播得更快。一旦与恐惧、愤怒和仇恨交织，信息便会像病毒般蔓延。信息完整性正是这场博弈的核心。如果人们无法辨别事实与虚构，民主便无从谈起。
这就是我们所面临的困境，也正是我称之为“信息末日”的原因所在。
本吉奥：随着越来越多证据表明人工智能存在欺骗性行为，目前的科学尚无法保证，在能力持续提升的情况下，人工智能不会造成灾难性危害——无论是出于自身行为，还是被恶意使用者所利用。
塔姆萨尔：前沿开发者基本集中在两个国家（美国和中国）。这让其他国家产生了诸多疑虑。
尤其是发展中国家，它们担忧在最糟糕的情况下，人工智能鸿沟将使其被远远甩在身后。这一技术的发展速度如此之快，以至于它们可能再也无法复苏和赶超。
洛佩斯：人工智能鸿沟是真实存在的。一些国家拥有非常强大的基础设施、扎实的技能和研究能力，而另一些国家却仍在为互联互通和公共基础设施等问题苦苦挣扎。
雷萨：世界无法治理它所不能理解的事物。科学小组的报告提供了来自各个地区的独立科学依据，可供各国政府参考。其传递的信息十分明确：潜力巨大，风险真实，而等待的代价正在与日俱增。
本吉奥：我希望世界各国的政府都能更深入地理解人工智能未来发展的各种可能图景。我们目前既缺乏健全的国家层面乃至国际层面的治理工具，也缺乏有效引导其惠益、使之得以被所有人共享的路径。要想采取有效行动，全球政策制定者必须理解这些系统。
洛佩斯：全球对话是联合国首个讨论人工智能治理的平台。它也为各会员国提供了一个齐聚一堂、开展包容性对话的机会；但参与方不仅限于政府，同时也汇聚了各方利益相关者。
雷萨：没有任何一个国家能够独自应对这项技术，我们需要一个多边解决方案。而具备能力承担这一使命的机构，就是联合国。现在的问题在于，各会员国是否会行动起来？
联合国与人工智能治理
联合国人工智能独立国际科学小组由来自全球各个地区的四十名专家组成，他们均以个人身份任职。该小组已于7月1日发布其首份报告。
该小组的研究成果将提交给于7月6日至7日在日内瓦召开的人工智能治理全球对话。届时，国际社会将就这一技术的国际治理路径展开讨论。