L’innovation responsable pour une nouvelle ère scientifique et technologique

Une imprimante en 3D. © pixabay

 

Nous sommes aujourd’hui à la veille de changements technologiques sans précédent. Face à ce moment historique, que l’on qualifie parfois de quatrième révolution industrielle, on s’accorde de plus en plus à reconnaître que les derniers développements dans les domaines scientifique et technologique sont d’une nature unique et risquent d’avoir une incidence sur tous les aspects de notre vie quotidienne.

Dans des domaines allant de la robotique et de l’intelligence artificielle (IA) aux sciences des matériaux et de la vie, les prochaines décennies sont porteuses d’innovations qui peuvent contribuer à promouvoir la paix, à protéger notre planète et à nous attaquer aux causes profondes de la souffrance dans le monde. Notre plus grande capacité à interagir dans le cyberespace renforce ces vastes avancées technologiques, multiplie nos possibilités de partage de l’information et développe nos connaissances dans notre monde de plus en plus connecté.

Comme l’a déclaré le Secrétaire général des Nations Unies António Guterres, ces technologies peuvent accélérer la réalisation du Programme de développement durable à l’horizon 2030 et promouvoir les valeurs énoncées à la fois dans la Charte des Nations Unies et dans la Déclaration universelle des droits de l’homme. Toutefois, ce potentiel unique s’accompagne aussi de nouveaux risques. Pour les réduire, de nouvelles formes de planification et de collaboration seront nécessaires.

La révolution actuelle est différente des avancées précédentes de trois manières fondamentales avec, à l’avenir, des conséquences importantes pour la paix et la sécurité.

Premièrement, le degré de diffusion technologique est sans précédent, ouvrant la voie à une démocratisation des moyens permettant la création de nouvelles technologies et leur accès. Deuxièmement, l’évolution des technologies est de plus en plus rapide, tandis que les innovations engendrent des progrès et des développements évoluant à un rythme sans précédent. Troisièmement, cette révolution couvre un vaste éventail de questions, apportant des avancées majeures dans des disciplines allant de la biologie à l’informatique en passant par la technologie des matériaux.

Les possibilités d’amélioration de la condition humaine grâce à ces développements sont vastes. Dans le domaine de la médecine, par exemple, la biologie synthétique, en pleine expansion, pourrait permettre aux médecins d’adapter les traitements aux besoins des patients avec une extrême précision. Cette meilleure compréhension se reflète dans l’espace où la technologie nous permet d’entrevoir des mondes éloignés, alors qu’elle nous unit plus que jamais par le biais de nos infrastructures de communications et de transport sur Terre. Parallèlement, la production à la demande de pièces et d’appareils personnalisés au moyen de la fabrication additive, appelée aussi impression 3D, nous permettra d’éliminer davantage d’obstacles dans le secteur de l’ingénierie et de l’industrie, accélérant plus encore les progrès.  

Ces nouvelles caractéristiques constituent, toutefois, des menaces uniques qui font malheureusement partie de notre révolution actuelle, comme de toutes celles qui ont précédé. L’histoire regorge d’innovations technologiques créées pour le bénéfice de l’humanité, mais qui sont utilisées pour des entreprises moins nobles.

Les nouveaux outils facilitant la modification et la synthèse biologiques, conçus pour aider les scientifiques à mieux comprendre les maladies, pourraient être utilisés à mauvais escient pour augmenter la puissance des agents infectieux pouvant être utilisés comme armes. Dans l’espace, il serait possible d’utiliser des systèmes robotiques conçus pour alimenter les satellites en orbite ou les réparer afin de mener des attaques, de causer des dommages aux autres vaisseaux spatiaux. L’impression 3D a déjà permis de fabriquer des composants de vaisseaux spatiaux et de missiles pour l’armée et de produire des armes de poing, suscitant de vives inquiétudes concernant leur prolifération parmi les acteurs étatiques et non étatiques. Les vulnérabilités dans le domaine du cyber-espace peuvent aussi constituer des menaces pour les systèmes bancaires, les hôpitaux, les réseaux électriques ainsi que pour d’autres parties de nos infrastructures liées à Internet.

Dans chacun de ces domaines, les avancées scientifiques et technologiques qui facilitent la production d’armes pourraient avoir des conséquences imprévues et dangereuses. De plus, les progrès en matière de mégadonnées et d’intelligence artificielle ont suscité des inquiétudes concernant l’émergence de machines ayant le pouvoir et la capacité de tuer sans aucun contrôle humain.

Les systèmes d’armes létales autonomes ou, plus familièrement, « les robots tueurs », pourraient créer de nouvelles menaces pour la stabilité internationale et régionale. Ils pourraient, par exemple, rendre difficile l’attribution de la responsabilité de certains actes d’hostilité, créer de nouveaux risques d’escalade involontaire d’un conflit et, en permettant une guerre sans victimes, abaisser, pour les gouvernements, le seuil au-delà duquel l’usage de la force est envisageable. Les acteurs non étatiques, comme les groupes terroristes et les réseaux criminels transnationaux, pourraient exploiter les technologies connexes pour servir leurs propres intérêts.

Le Secrétaire général a adopté une position ferme sur cette question, déclarant que les armes autonomes capables de tuer sans intervention humaine seraient « politiquement inacceptables et moralement révoltantes » et devraient être interdites.

La question essentielle est de savoir comment diminuer ces risques nombreux et différents sans compromettre la créativité et les avancées de notre époque. Il faut en premier lieu que les responsables politiques, en particulier ceux chargés de négocier les traités multilatéraux et les normes internationales, créent des partenariats à long terme avec des experts techniques : des scientifiques, des ingénieurs et des médecins. Ces différents acteurs doivent apprendre à se parler.

Pour comprendre l’importance du rôle de ces communautés en tant que défenseurs considérons les efforts de désarmement pendant la guerre froide. Les physiciens nucléaires, agissant par l’intermédiaire de nouvelles organisations et d’institutions établies, ont contribué à sensibiliser les responsables politiques et le grand public aux conséquences catastrophiques des armes nucléaires, y compris « l’hiver nucléaire » qui pourrait résulter de leur utilisation. Ces conseils et cette forme d’activisme dont ont bénéficié les responsables politiques sont même plus importants pour les innovations actuelles en technologie militaire cette dernière venant, généralement, du secteur privé.

Les scientifiques, les ingénieurs et les entrepreneurs sont dotés d’une autorité exceptionnelle lorsqu’il s’agit de débattre des menaces émergentes dans leur domaine d’expertise. D’ailleurs, un grand nombre d’entre eux se sont déjà élevés contre les dangers potentiels posés par l’utilisation de l’IA à des fins militaires.

En engageant un dialogue vaste et constant avec ces acteurs, les responsables politiques peuvent affiner leurs compétences et leurs connaissances essentielles sur les technologies qu’ils espèrent gérer. Le Secrétaire général s’est engagé à aider les scientifiques, les ingénieurs et l’industrie et à collaborer avec eux afin d’encourager l’innovation responsable et la diffusion des connaissances.

De leur côté, les innovateurs devraient se concentrer sur les conséquences que leurs travaux ont sur la stabilité sociale et la sécurité, « de réfléchir avant de coder ». Les considérations de paix et de sécurité doivent figurer au premier plan du discours scientifique, y compris dans les classes et avant de développer de nouvelles technologies.

La garantie de notre sécurité et la protection des innovations révolutionnaires actuelles ne sont pas incompatibles. Le fait de les envisager ensemble devrait, en fait, nous aider à réussir sur ces deux plans. Par exemple, grâce aux avancées technologiques, nous pourrions demander aux gouvernements de rendre compte de leurs engagements en matière de désarmement et de maîtrise des armements. Les progrès réalisés dans la technologie des rayons X pourraient être utiles, par exemple, pour détecter les matériaux d’armes nucléaires et certains processus de vérification par externalisation pourraient être facilités par l’accès mondialisé à la technologie des satellites.  

Ce n’est qu’en formant des partenariats à long terme entre les États Membres et ces groupes que nous pourrons créer les bases nécessaires à la genèse et à la gestion responsables des révolutions technologiques. En cherchant ensemble à évaluer les conséquences des développements scientifiques et technologiques sur la paix et la sécurité internationales, nous pourrons mieux aider les innovateurs et les responsables politiques à créer un monde plus sûr pour tous.