多边主义如何立足于人工智能时代?

Two women look up at security cameras in Toronto, Canada. ©UNSPLASH/Matthew Henry

在加拿大多伦多,两名女性抬头望着监控摄像机。 UNSPLASH图片/MATTHEW HENRY​​

 

人工智能正在与生物技术、基因组学、神经技术、机器人技术、网络技术和制造系统等其他众多技术融合。这些技术变得越来越分散,脱离了国家的控制,逐渐可供世界各地广泛的行为体使用。虽然这些趋势可能为人类带来巨大的潜力,但人工智能和新技术的融合,也给全球安全带来了前所未有的风险,特别是给国家间的多边体系和联合国带来了挑战。

人工智能有潜力实时、经济、高效地应对各种人类发展和安全问题,对管理弱势群体所面临的复杂风险、避免危机爆发和增强抵御社会内部冲击能力可起到重要作用。与其他技术融合的人工智能涉及联合国工作的各个支柱,在预防议程中至关重要。

然而,作为一把双刃剑,人工智能技术能赋予人们权能,也可能会剥夺人们的权能。人工智能能够介入并可能控制个人行为,这对联合国的预防和人权议程有直接的影响。事实上,新形式的社会和生物控制可能要求我们重新构想监督和执行《世界人权宣言》的现有框架。安全风险不断演化,必然要求多边体系预测并更好了解迅速崛起的人工智能融合领域。

因此,在预防议程及其与新技术的交叉中,有必要在重新关注《联合国宪章》的基础上,利用包容性预见和规范性指导,影响人工智能系统的创建、部署和治理。

人工智能融合的积极前景

我们已经进入了技术融合的时代,我们的物质、数字和生物生活都将融合。计算机科学家正在开发深度学习算法,算法将以超人的效率识别大量数据中的模式,并且越来越无需监督。同时,遗传学家和神经科学家正在破译与我们的基因组和大脑功能相关的数据,深入了解人类的健康、福祉和认知。

结果呢?以前难以想象的避免危机的能力现在已经成为现实,精准医疗、粮食安全和冲突预防方面的努力也得到升级。例如,深度学习算法正为生活在眼科医生短缺的印度农村的视网膜病变1患者进行诊断。这种算法也可以识别大量人类基因组数据中的恶性生物标记,便于设计针对各种癌症的血液检测。2飞索3等公司利用搭载人工智能技术的自动无人机,向非洲农村医院提供疫苗等关键医疗用品。

人工智能也可能成为联合国推进国际发展的有力工具。世界银行与联合国和其他全球伙伴合作,正在建立一个饥荒行动机制4。该机制利用微软、谷歌和亚马逊开发的深度学习系统,检测粮食危机何时会演变为饥荒。这种深度学习系统还能使灵活融资与导致粮食不安全的原因直接匹配。联合国全球脉动正在领导一项倡议5,利用机器学习监测极端主义暴力对网上仇恨言论的影响。

生物识别技术、基因组学和行为数据的组合优化催生了“情感计算”,即能够成功分析、影响我们并与我们进行沟通的算法。这种情感分析将改善应用中的人机交互,在精准医疗6和针对性的教育7方面为得不到充分服务的人口赋能。

在情感计算的推动下,人工智能系统还将能够观察、记录和评估我们的行为,将有一个又一个越来越强大的算法对我们的行为进行预测。进入人工智能融合的世界,其实就是踏进了一个无处不在而且精确的监视网络。

精准监督与社会控制

有了人脸识别功能,算法将能够获得更精准的认知理解,不仅包括我们的生物识别特征,还包括我们的情感和行为。这种侵入个人生活的新形式计算,对自决和隐私具有重大的影响,尤其是儿童的隐私。

例如,“我的朋友凯拉”智能玩偶8将与其一起玩耍的儿童的声音和情感数据发送至云端,因此被美国联邦贸易委员会控告9,更被德国禁售。在美国,情感分析已用于在法庭上检测证词视频中的懊悔情绪10。很快,情感分析将可能用于求职面试中11,以评估求职者的回答以及他们是否适合相应的工作。

脸书正在完善一个人工智能伙伴,它能通过对话和情感分析识别自杀的念头12。初创公司神经织网和科诺核心正在开发读取人们心理过程和影响大脑决策机制的脑机交互界面13。一家公司已经利用无线传感器来分析员工的脑电波14,并监测他们的情绪健康状况。

科技巨头阿里巴巴正在多个城市部署数百万台具有人脸识别功能的摄像头。15政府支持的面部、基因组、财务和个人信息数据库正在创建中,匹配公民的信用等级、工作和忠诚度,这些数据库还与DNA分类样本相关联,可以找到相关的家庭成员。最近,5000名在校学生16在未知情同意的情况下被收集了照片和唾液样本,为面部和基因组数据库提供了数据。此外,人脸识别软件公司云从科技17正在开发人工智能技术,跟踪个人的行踪和行为,以评估犯罪的可能性。

人工智能影响和控制个人行为并影响自决的能力,可能会日益限制联合国监测和防止侵犯人权行为的能力。当私营部门拥有并几乎垄断了所需数据,掌握了解和设计算法的更先进专门知识时,联合国的这种能力进一步受到限制。

真实和信任的衰退

人工智能强大的双重影响也日渐难以预测、遏制和减缓。利用行为分析和情感分析,人工智能使针对性的宣传在社交媒体生态系统中更有效、更广泛地传播。

以深度换脸18为例,这个先进的人工智能程序现在可以操控声音、图像和视频,生成通常无法与原始面孔区分开来的合成面孔。深度学习算法能以惊人的准确度读取人的唇语,合成语音,并在一定程度上模拟面部表情。

一旦流传到实验室之外,这种虚假图像很容易被滥用,带来令人担忧的影响(事实上,这已经在低层面发生)。在选举前夕,深度换脸视频可能会造假公职人员参与洗钱活动的场景,或者伪造子虚乌有的流行病或网络攻击视频,向公众传播恐慌。这些伪造事件可能会升级为国际事件。

一系列行为体利用误导性伪造信息影响公众舆论的能力,会对联合国维持和平与安全的努力产生重大而长远的影响。真正的假新闻削弱了公民与国家之间以及国家与国家之间的信任感和人们的真相判断力,可能会严重腐蚀我们的全球情报和治理系统。

网络殖民化和新的安全风险

人工智能技术能够影响大量人口,这极有可能导致未来发生网络竞赛。强大的国家和大型技术平台可能公开争夺集体数据,以期成为经济、医疗和安全领域的最强者。各种形式的“网络殖民化”越来越接近现实,因为强大的国家能够利用人工智能和生物技术了解并可能控制其他国家的人口和生态系统。

这种形式的生物智能是国家安全武库的一项战略优势,将促进医学手段和军事研究前沿领域的进一步发展。

然而,在不断演化的安全环境中,伴随人工智能系统而来的道德责任,不再仅仅落在国家层面,而是越来越多地分散于开发人员、用户和黑客之间。这种形式的“分散责任”导致多边体系面临一系列相关挑战。

多边体系可以发挥什么作用?

在政治、法律和道德层面,我们的社会并没有为人工智能的部署和技术融合做好充分准备。联合国是在这场技术革命发生的几十年前成立的。目前,联合国是否有足够的能力实施负责任的治理,利用人工智能的潜力应对现有和新兴风险,从而促进集体安全与福祉呢?

民族主义议程在全球范围内的复兴表明:多边体系在人工智能全球治理中发挥重要作用的能力正在逐渐减弱。大公司可能认为,采用多边方法管理他们心目中利润丰厚的专有技术的价值不大。当涉及到网络技术,强大的会员国可能更愿意主张自己的竞争优势和规则。他们可能会抵制联合国参与人工智能全球治理,尤其是事关军事应用之时。

但是,联合国可以采取一些创新方式帮助建立透明的协作网络,应对我们的“信任赤字障碍”。首先,联合国应加强与推动人工智能创新的大型技术平台的接触,在平台、国家行为体和民间社会之间搭建论坛,促进真正有意义的合作。对于人工智能合作,联合国需要协调不同国家间的利益,成为技术领导者和技术使用者之间的桥梁。

在居间活动中,联合国系统内的一系列实体可以发挥国际层面迫切需要的作用: 1) 实现技术前瞻,包括不同国家所面临的挑战; 2) 协商有效的规范性框架;以及 3) 制定监测和协调标准、执行监督。

在促进和保护人权方面,包容性前瞻与规范性监测和协调尤其重要。鉴于人工智能可能对自决、隐私和其他个人自由产生强大甚至具有破坏性的影响,联合国各实体需要合作开展监测,保证国家、区域和个人行为体在推动多项规范性工作方面保持一致。

最后,落实联合国预防议程,要求有清晰和包容性的视野以预测新兴安全风险的性质和范围。这些风险不仅威胁到国家,也威胁到个人和弱势群体。随着人工智能与脱离国家控制的其他技术融合,并且更易为世界各地的广泛行为体所利用,前瞻将变得越来越重要。

根据《联合国秘书长的新技术战略》赋予联合国大学的权利,联合国大学政策研究中心创建了“人工智能与全球治理”平台,为研究人员、政策参与者以及企业和思想领袖预测和探索人工智能带来的全球政策挑战提供了包容性空间。根据该领域全球领导者的建议,“人工智能与全球治理”平台旨在形成独特的跨学科见解,结合在实地工作中汲取的经验教训,从多边主义的角度,为现有辩论提供信息资源。这些见解将有助于联合国会员国、多边基金、机构、方案和其他利益攸关方考虑各自和集体在制定人工智能治理过程中的作用。

在这方面,联合国面临的最重要挑战也许在于保持相关性,必须重建人们对多边体系的信任感。上述分析告诉我们:人工智能技术对任何个人和国家都是一个问题。如果没有集体协作的治理,人工智能技术就真有破坏全球稳定的风险。

 

注释

1. 丁树伟 (Daniel Shu Wei Ting) 等,“利用多种族糖尿病人群的视网膜图像开发和验证治疗糖尿病视网膜病变和相关眼疾的深度学习系统”,《美国医学会杂志》,第318卷第22期(2017-12-12),第2211-2223页.https://www.ncbi.nlm.nih.gov/pmc/articles/PMC5820739/.

2. 克莱尔•阿舍 (Claire Asher),“人工智能促进液体活检”,《科学家》,2018-06-26.https://www.the-scientist.com/newsopinion/artificial-intelligence-to-boo....

3. 欲了解更多信息,请访问飞索国际网站http://www. flyzipline.com/.

4. 世界银行,饥荒行动机制.http:// www.worldbank.org/en/programs/famine-early-action-mechanism(2018-12-04).

5. 亚历山德拉•奥尔泰亚努 (Alexandra Olteanu) 等,“极端主义暴力对网上仇恨言论的影响”,人工智能促进协会,2018-04-16.https://www.unglobalpulse.org/sites/default/files/The%20effects%20of%20e... lence%20on%20hateful%20speech%20online.pdf.

6. 麻省理工学院媒体实验室,“从生理机能、手机、行动和行为数据预测学生的健康”.https://www.media.mit.edu/projects/predicting-students-wellbeing-from-ph...(2018-12-04).

7. 麻省理工学院媒体实验室,“情感学习伙伴:探索情感在促进科学、数学、工程和技术学习过程中的作用”.https://affect.media.mit.edu/projectpages/lc/nsf1.html(2018-12-04).

8. 欲了解更多智能玩偶“凯拉”的信息,请访问官方网站https://www.myfriendcayla.com/.

9. 联邦贸易委员会,“控告和请求调查、禁令和其他救济”,2016-12-06.https://epic. org/privacy/kids/EPIC-IPR-FTC-Genesis-Complaint.pdf.

10. 欲了解更多法律证词视频管理平台MediaRebel的信息,请访问人工情感智能公司Affectiva的网站https://www.affectiva.com/success-story/mediarebel/.

11. 明达•泽特林 (Minda Zetlin),“人工智能正在分析视频面试中求职者的面部表情”,《公司》,2018-02-28.https:// www.inc.com/minda-zetlin/ai-is-now-analyzing-candidates-facial-expressio....

12. 乔丹•诺韦,“脸书正在利用人工智能帮助预测用户的自杀倾向”,美国全国广播公司财经频道,2018-02-21.https://www.cnbc.com/2018/02/21/how-facebook-uses-ai-for-suicide-prevent....

13. 拉斐尔•尤斯特 (Rafael Yuste) 等,“神经技术和人工智能的四个道德优先事项”,《自然》,第551卷第7679号(2017-11-08).https://www.nature.com/news/four-ethical-priorities-for-neurotech- nologies-and-ai-1.22960.

14. 史蒂芬•陈 (Stephen Chen),“别再想脸书泄密事件:中国正规模化地直接从工人大脑中挖掘数据”,《南华早报》,2018-04-29.https://www.scmp.com/news/china/society/article/2143899/forget-facebook-... directly-workers-brains.

15. 华先胜,“城市大脑与城市综合认知”,阿里云,博客,2017-09-30.https://www. alibabacloud.com/blog/interview-with-idst-deputy-managing-director-hua-xiansheng-city-brain--comprehensive-urban-cognition_221544.

16. 范文鑫、娜塔莎汗 (Natasha Khan) 和林丽莎,“中国窃取无罪者和犯罪者信息,建造世界最大DNA数据库”,《华尔街日报》,2017-12-26.https://www.wsj.com/articles/china-snares-innocent-and-guilty-alike-to-b....

17. 欲了解更多云从科技的信息,请访问公司网站http://www.cloudwalk.cn/.

18. 希尔克•舍尔曼 (Hilke Schellman),“深度换脸视频越来越真实,这是个问题”,《华尔街日报》,2018-10-15.https://www. wsj.com/articles/deepfake-videos-are-ruining-lives-is-democracy-next-1539595787.