负责任的创新推动科技新时代

一台3D打印机。                                                                                                                                                                      PIXABAY图片

 

如今,我们正迎来一个前所未有的技术变革时代。在这个有人称为“第四次工业革命”的历史性时期,人们逐渐达成共识:最近的科技发展具有独一无二的本质,几乎会影响到我们日常生活的各个方面。

从机器人技术和人工智能到材料科学和生命科学等领域,在未来几十年,创新将帮助我们促进和平、保护我们的地球,并解决全世界苦难的根源。我们通过网络空间进行互动的能力显著提升,对保持和促进广泛的技术进步大有裨益,也大大增加了我们在日益网络化的世界中分享信息、积累知识的机会。

正如联合国秘书长安东尼奥•古特雷斯所言,这些技术可以加速实现2030年可持续发展议程,推广《联合国宪章》和《世界人权宣言》所载的价值观。但是,独特的风险与独特的机遇相伴而生。要化解风险,我们必须制定新规划、开展新协作。

当今的革命与以往的跨越式进步相比,有三个根本的区别,这些变化对我们未来的和平与安全有重大影响。

首先,技术普及程度无可比拟,开发和获取新技术的手段民主化了。其次,随着不同创新的结合以史无前例的速度进一步推动进步和发展,技术变革正在加速。最后,在这场革命中,人类做出了无比广泛的求索,促使生物学、计算机科学和材料技术等学科不断取得突破。

通过这些发展改善人类状况的可能性极大。以医药领域为例,我们的合成生物学知识不断增长,将有助于医生根据患者的个人需求定制异常精准的治疗方案。同样,我们也日益了解外层空间,我们已经掌握了必要的技术,可以眺望外层空间中更遥远的世界,而地球上的通信和交通基础设施将我们更紧密地联系在一起。与此同时,通过增材制造(又称3D打印)按需生产定制零件和设备,有望清除工程和工业中的其他障碍,进一步加快发展。

但是,这些新的特点也产生了独特的威胁,这与以往任何一次革命一样。历史上不乏旨在造福全人类却被用于不那么善意的企图的技术创新。

生物改性与合成的新工具旨在帮助科学家更好地了解疾病,却可能被滥用以提高可用作武器的传染因子的效力。在外层空间,本应为轨道卫星加注燃料或提供维修的机器人系统很有可能被用以发动攻击,对其他航天器造成损害。3D打印已被用于制造军用飞机和导弹的部件以及生产手枪,引起对国家和非国家行为体间武器扩散的严重关切。网络空间中的漏洞,也可能对银行系统、医院、电网和其他联网的关键基础设施构成威胁。

在这些领域,科技突破的武器化可能会产生意料之外、意想不到的危险后果。此外,大数据和人工智能的进步引发了关切:不用人为控制,机器就能夺走人的性命。

致命自主武器系统,俗称“杀手机器人”,可能对国际和地区稳定构成新的威胁。例如,它们可能造成各种敌对行为难以归咎;制造冲突意外升级的新风险;以及通过零伤亡战争的承诺,降低政府使用武力的门槛。恐怖团体和跨国犯罪网络等非国家行为体可以利用相关技术实现各自的企图。

就这个问题,秘书长表达了坚定的立场,他指出,不用人为参与就能杀人的自主武器,“在政治上是不可接受的,在道德上是令人反感的”,应予以禁止。

关键问题是我们如何在不扼杀当前蓬勃发展的技术创造力和进步的同时减少上述种种风险。对于政策制定者而言,特别是负责多边条约和国际标准谈判的政策制定者,关键的第一步是与科学家、工程师和医生等技术专家建立持久的伙伴关系。这些截然不同的行为体必须学会如何相互交谈。

要了解这些群体作为倡导者的重要性,可以冷战后的裁军为例。核物理学家通过新组织和已设机构,帮助政策制定者和更广大公众了解核武器的灾难性后果,例如核战争可能导致“核冬天”。将此类建议和游说活动带进决策者的“帐篷”,对于当今的军事技术创新尤为重要,而军事技术往往源自私营部门。

在讨论各个专业领域出现的威胁时,科学家、工程师和企业家可以说是一言九鼎。我们已经目睹了这一点,他们中已有许多人开始大声呼吁要警惕人工智能武器化的潜在危险。

通过与这些行为体建立广泛而持久的对话,政策制定者能够就他们希望管理的技术提高必要的技能和见解。秘书长古特雷斯已承诺提供帮助,吸引科学家、工程师和业界的参与并与他们开展合作,以鼓励负责任的创新和知识传播。

另一方面,创新者应该更加重视各自的创新带来的社会和安全影响,要“在编码前三思”。和平与安全考虑必须在科学论述中占据首要位置,包括课堂教学和关于新技术开发的早期讨论。

确保我们的安全和保障当今的革命性创新,并非两个不能兼容的优先事项。事实上,两个方面同时考虑,可以帮助我们实现两者兼得。例如,技术进步有助于促使各国政府履行各自的裁军和军备控制承诺;X射线技术的进步有助于核武器材料的检测;世界各国均可获取卫星技术,某些核查程序就可以采用众包模式。

只有在会员国和这些团体之间建立持久的伙伴关系,我们才能为负责任的技术革新和管理奠定必要的基础。协同应对科技发展对国际和平与安全的影响,可以进一步支持创新者和政策制定者帮助为所有人建立一个更安全和更有保障的世界。