人工智能存在失控风险 专家呼吁“踩刹车”

欣顿表示，如果人工智能是一辆“没有方向盘的高速汽车”，那么监管就必须为其配备方向盘，“如果你开着一辆没有刹车的车，下坡的时候肯定会遇到麻烦。但如果没有方向盘，情况就更糟了。”

2026年数字世界大会

本次数字世界大会由联合国社会发展研究所和世界数字技术学院联合主办，围绕人工智能与数据治理、社会保障、绿色转型、教育与培训、文化与艺术等话题设置多场全体会议，探讨人工智能在医疗、教育、就业等领域的应用前景及其治理路径，同时强调了保护弱势群体以及确保技术变革带来的益处能够更公平分享的重要性，反映了国际社会为确保所有国家都能从人工智能中受益并对其进行监管而作出的努力。

根据联合国贸易和发展会议发布的《2025年技术与创新报告》，全球人工智能市场预计将从2023年的1890亿美元增长到2033年的4.8万亿美元，其规模超过日本的经济规模，而这一切仅仅用了十年时间。

人工智能发展或加剧全球不平等

然而，贸发会议代理秘书长莫雷诺在本周举行的科技促进发展委员会会议上警告说，打造和塑造人工智能的能力仍然掌握在少数几个经济体和企业手中，这种集中化有可能加剧全球不平等。国际电信联盟秘书长博格丹-马丁指出，实现工业化的“全球北方”国家采用生成式人工智能的速度几乎是发展中的“全球南方”国家的两倍。如果不加以应对，将形成第二次重大分化，进一步拉大主导人工智能发展的国家与仅仅使用人工智能的国家之间的差距。基础设施、投资和能力方面的差距无法仅靠任何一个国家或组织单独弥合。

尽管科学技术促进发展委员会的重点是全球层面的数字政策制定，但在“人工智能促进社会发展”会议上的讨论强调了建立透明、负责且以权利为基础的人工智能治理体系的必要性，以应对偏见、算法不透明以及大量数据集中在少数特权大型企业手中等风险。

“人工智能独立国际科学小组”与“人工智能治理全球对话机制”

本周三，联合国“人工智能独立国际科学小组”在西班牙马德里召开了首次线下会议。该小组根据联合国大会2025年8月通过的决议设立，今年2月12日，联大根据秘书长古特雷斯提交的名单，任命了40名成员，任期3年。

开幕式上，小组联合主席、诺贝尔和平奖得主玛丽亚·雷萨阐述了该小组的任务，即对人工智能的机遇、风险和影响进行独立公正的评估。雷萨警告说，日益强大的人工智能工具正在加速破坏民主制度，包括利用“叙事战”大规模制造和放大谎言等手段，削弱媒体和法院等机构。而一旦问责机制瓦解，就会滋生战略性腐败。

雷萨表示，小组的评估结果将为“人工智能治理全球对话机制”提供评估，该对话将于7月在日内瓦召开，并将汇集了联合国全部193个成员国以及私营部门、民间社会、学术界和科技界代表，旨在分享最佳实践，并构建人工智能治理的共同方法。

对此，联合国副秘书长、秘书长数字和新兴技术特使吉尔表示，这场政策对话将以科学与实证为基础，汇聚来自世界各地、涵盖多学科视角的科学观点。吉尔强调，这正是政策讨论应有的模式，而联合国对此深感自豪，能够促成在这一日新月异的新兴技术领域中，科学与政策之间首次实现大规模的交融。