安理会就人工智能与维护国际和平与安全议题举行高级别公开辩论

古特雷斯：呼吁全球合作

古特雷斯在讲话中强调，人工智能正以惊人速度改变全球社会、经济和信息空间。他指出，关键问题不在于人工智能是否会影响和平与安全，而在于人类将如何塑造这种影响。

他强调，负责任地运用人工智能可以提升预防和保护能力。然而，如果缺乏防护机制，人工智能可能被武器化，近期冲突已成为人工智能驱动精准打击和自主作战的试验场。网络攻击、虚假信息和能源资源竞争等问题正加剧全球紧张局势。

古特雷斯在发言中提出四项优先事项：确保人类对武力使用的控制权；建立协调一致的全球监管框架；保护信息完整性；以及弥合人工智能能力差距。

古特雷斯指出，生死攸关的决策必须始终掌握在人类手中。他呼吁禁止不受人类控制的致命自主武器系统，并确保军事人工智能的使用完全符合国际法和《联合国宪章》。

他表示，从设计、部署到退役，人工智能系统必须符合法律要求并建立强有力的人类问责机制。他强调，透明度和国际合作是降低人工智能风险的关键，尤其在冲突地区。

古特雷斯呼吁各国政府、媒体、平台和民间社会共同应对人工智能驱动的虚假信息和深度伪造技术，防止其破坏和平进程、人道主义准入以及选举。

他表示，人工智能能够加速可持续发展和促进和平，但各国必须有平等机会参与塑造未来。他介绍了联合国创新自愿融资方案，以支持发展中国家提升人工智能能力，并呼吁国际社会提供必要资源。

古特雷斯指出，上月联合国大会成立了人工智能独立国际科学小组，并启动全球AI治理对话机制，旨在连接科学、政策与实践，为所有国家提供参与平台，减少政策碎片化。他呼吁各会员国提名多元性专家，确保科学小组具备专业性、独立性和区域平衡。

古特雷斯强调：“塑造人工智能未来的窗口正在关闭——为和平、为正义、为人类。我们必须立即行动。”

斯坦福大学教授：人工智能未来取决于全球参与

斯坦福大学计算机科学教授、以人为本人工智能研究所高级研究员崔叡珍表示：“我们正处在非凡的转折点。”她指出，人工智能正在加速科学发现，从推动医学进步到探索自然世界，拓展着人类知识的边界。

她指出，近年来人工智能开发主要依赖海量数据和强大算力，虽取得了显著成果，但最先进的模型主要由少数国家的企业主导研发。她警告：“这种少数人掌控的局面，既限制了科学发展的广度，也排除了多数人参与塑造未来的机会。”她呼吁探索适应性更强、更具韧性和全球普惠性的人工智能发展路径，并强调：“若要让人工智能造福人类，普惠性必须成为我们的北极星。”

蒙特利尔大学教授：可信赖的人工智能是防范滥用的关键

“零危法则”（LawZero）是一家非营利组织，致力于推动人工智能在设计与应用中的安全、可靠和合乎伦理的发展。该组织汇集科学家、政策制定者与行业专家，强调通过“零风险”理念确保人工智能遵循人权与人类尊严的基本原则，防止技术被滥用，同时促进国际合作与规则制定，帮助各国建立负责任、普惠性的人工智能治理体系。

该机构联合主席兼科学主任、蒙特利尔大学教授本吉奥在安理会发言中指出，未来五到十年，人工智能将在大多数认知任务中超越人类能力。尽管已投入数万亿美元研发，“科学家仍不了解如何设计出不会危害人类、始终遵循指令、尊重人权与尊严的人工智能。”他表示，人工智能的进步虽有助于应对社会重大挑战，但同时可能对国际和平与安全构成严重风险。

他警告说：“如果我们不学会构建可信赖的人工智能，人类将面临恶意行为者滥用人工智能，或人工智能系统与社会规范和法律脱节的威胁。”  

他进一步指出，在安理会讨论的风险中，尤为突出的是：人类控制权丧失；人工智能被用于生物武器、网络攻击和虚假信息；以及少数主体掌握市场和权力，可能导致经济、政治或军事力量的过度集中。

美国：人工智能应在自由与对责任的履行中发展

美国总统助理兼白宫科技政策办公室主任克拉西奥斯在会上发言时强调，美国致力于打造和保护全球最具创新力的人工智能生态系统，认为人工智能将决定未来的经济增长、国家安全与全球竞争力。

他表示，美国将继续开发和部署尖端人工智能，以应对国家安全风险并推动国际和平与繁荣。

克拉西奥斯表示，人工智能将在军事和政治决策支持方面带来革命性影响，但若被滥用，可能削弱威慑、制造动荡，并加强政治控制与社会工程。他强调，美国在国家安全应用中的人工智能技术，将始终遵循最高标准的隐私保护、公民自由、透明度与安全防护要求。

他指出，美国企业正引领人工智能可靠性和实用性的进步，反对国际组织集中管控人工智能。

他警告说，过度监管会导致集中化趋势，抑制创新，并增加人工智能被滥用为压迫工具的风险。他强调，美国将推动其人工智能成为全球“黄金标准”，并支持盟友和伙伴建立安全、自主的人工智能生态系统。