跳转到主要内容

继人工智能之后,教科文组织着手为神经技术制定伦理框架

联合国教科文组织执行局成员日前批准了总干事提议,于今年7月13日在教科文组织巴黎总部举行为神经技术行业制定伦理框架的全球对话。该组织强调,神经技术行业发展迅猛且基本未得到监管,可能对人权和基本自由构成威胁。

教科文组织表示,此次对话将探索神经技术在解决难治性神经系统和精神障碍问题上的巨大潜力,并应对它给人权和基本自由构成的威胁。来自世界各地的高级官员、决策者、民间社会组织、学者和私营部门代表将参与对话。

对话将得到教科文组织国际生物伦理委员会(IBC)支持,该委员会于2021年发布了《神经技术伦理问题》报告。教科文组织开展的研究还首次全面概括了神经技术领域全貌、创新、全球主要参与者和主要趋势。

遵循先例

教科文组织总干事阿祖莱强调,“神经技术可以帮助人类解决许多健康问题,但它也可能触及并操控大脑结构,生成与我们的身份、情感相关的信息。它可能威胁到我们的人格尊严权、思想自由权、隐私权。我们急需在全球层面为神经技术行业建立共同的伦理框架,教科文组织已经在人工智能领域完成了这项工作。”

生成式人工智能的最新发展、人工智能技术的普及和其对人类、民主与就业构成的风险,这些都证实了教科文组织制定的人工智能伦理全球标准的有效性和及时性。 神经数据与人工智能的融合将带来更为严峻的挑战,教科文组织的人工智能标准业已指出这一问题。

为此,教科文组织领导这一对话的最终目标是促进更好地理解与神经技术治理相关的伦理问题,为制定伦理框架做准备。该框架将由193个会员国审议并投票表决,有关程序将遵循类似于教科文组织为人类基因组(1997年)、人类基因数据(2003年)和人工智能(2021年)建立全球伦理框架的方法。

神经技术可减轻疾病负担

神经技术涵盖任何用于“访问、监测、调查、评估、操纵和/或模拟动物或人类神经系统的结构和功能”的设备与程序。神经技术设备包括“可穿戴设备”,如智能手表和手环,以及非侵入式脑机接口,如机械肢体,及目前正在开发的用于治疗瘫痪等残障的脑植入物。

全球每8人中就有1个患有精神或神经障碍,相关治疗费用占到发达国家总医疗支出的三分之一,在中低收入国家也成为日益沉重的负担。到2050年,60岁以上人口预计将翻番,达到21亿(世界卫生组织,2022年),这一支出亦将持续增长。神经技术有降低癫痫、阿尔茨海默病、帕金森病和中风等神经系统障碍导致的死亡和残障的巨大潜力。

个体风险随之而来

但如果没有伦理“护栏”,这些技术可能会带来严重风险,因为大脑信息可以被访问和操纵,而这些是人类身份、思想自由、隐私、记忆等概念的核心。

神经数据,即捕捉个体反应和基本情绪的数据,在消费市场上需求旺盛。与社交媒体平台收集的数据不同,大部分神经数据是在无意识状态下生成,因此人们无法许可其使用。如果敏感数据被提取,然后落入坏人之手,个体将承受其有害后果。

此外,在儿童或青少年仍处于神经发育重要阶段时植入脑机接口可能会干扰大脑的“正常”发育。它可能会改变年轻人的思维,影响人格塑造,并产生长期甚至永久的影响。

而记忆修改技术则使科学家能够改变记忆内容,重塑过去的事件。目前,这项技术主要依赖药物,但未来可能发展到将芯片植入大脑。虽然受过创伤的人可能从中受益,但该技术也可能扭曲个体的自我认知。

制造新的不平等

目前,50%的神经技术公司位于美国,35%位于欧洲和英国。由于神经技术可能引领新一代的“超级人类”,这将进一步扩大国家之间在教育、技能和财富方面的差距,使拥有最先进技术的人获得不公平的优势。