Vers une éthique de l’intelligence artificielle

Robot ©MAXPIXEL

Nous sommes au seuil d’une nouvelle ère. La révolution technologique transforme notre vie à une vitesse vertigineuse, modifiant profondément les façons dont nous travaillons, apprenons et même vivons ensemble. Avec l’utilisation de plus en plus sophistiquée des mégadonnées, l’intelligence artificielle (IA) connaît une croissance exponentielle et trouve de nouvelles applications dans un nombre toujours croissant de secteurs, y compris la sécurité, l’environnement, la recherche et l’éducation, la santé, la culture et le commerce. 

L’IA est la nouvelle frontière de l’humanité. Une fois que celle-ci sera franchie, une nouvelle forme de civilisation humaine verra le jour. Le principe directeur de l’IA n’est pas de devenir autonome ni de remplacer l’intelligence humaine. Mais nous devons nous assurer qu’elle est développée selon une approche humaniste, fondée sur des valeurs et les droits de l’homme. Nous faisons face à une question cruciale, à savoir quel type de société nous voulons pour demain. La révolution de l’IA ouvre de nouvelles perspectives passionnantes, mais les bouleversements anthropologiques et sociaux qu’elle engendre méritent une réflexion approfondie. 

UNE IMMENSE OPPORTUNITÉ POUR LE DÉVELOPPEMENT DURABLE 

Les transformations résultant de la révolution technologique et, en particulier, des développements de l’IA, touchent tous les aspects du domaine d’expertise de l’Organisation des Nations Unies pour l’éducation, la science et la culture (UNESCO). L’éducation est déjà transformée en profondeur par l’IA. Bientôt, les outils d’enseignement – les manière d’apprendre, d’accéder aux connaissances et de former les enseignants – seront différents. Désormais, l’acquisition des compétences numériques est au centre de nos programmes éducatifs. Nous devons aussi « apprendre à apprendre », car le rythme des innovations transforme rapidement le marché du travail. Aujourd’hui, plus que jamais, les humanités – histoire, philosophie, littérature – sont cruciales à notre capacité à agir dans notre monde en rapide mutation. Dans le domaine de la culture, l’IA est très sollicitée, par exemple, dans l’imagerie utilisée pour la reconstruction du patrimoine, dans les sciences, notamment dans nos programmes environnementaux ainsi que dans notre recherche subaquatique. La communication et l’information sont aussi directement tributaires des avancées réalisées dans le domaine de l’IA, en particulier en ce qui concerne la liberté d’expression et l’accès à l’information.  

L’IA pourrait offrir d’immenses opportunités en vue de la réalisation des objectifs de développement durable (ODD) établis par les Nations Unies dans le Programme de développement durable à l’horizon 2030. Ses applications permettent des solutions innovantes, une meilleure évaluation des risques, une meilleure planification et un partage plus rapide des connaissances.  

S’ATTAQUER AUX DÉFIS DE L’INTELLIGENCE ARTIFICIELLE 

Si l’IA représente un atout pour le développement responsable de nos sociétés, elle pose aussi des questions éthiques importantes. Comment pouvons-nous nous assurer que les algorithmes n’empiètent pas sur les droits de l’homme fondamentaux – allant de la vie privée à la confidentialité des données en passant par la liberté de choix et la liberté de conscience ? La liberté d’action peut-elle être garantie lorsque nos désirs sont anticipés et guidés ? Comment pouvons-nous nous assurer que les stéréotypes sociaux et culturels ne sont pas reproduits dans les programmations en intelligence artificielle, notamment en ce qui concerne la discrimination fondée sur le genre ? Ces circuits peuvent-ils être reproduits ? Les valeurs peuvent-elles être programmées, et par qui ? Qui porte la responsabilité lorsque les décisions et les actions sont entièrement automatisées ? Comment pouvons-nous être sûrs que personne, où que ce soit dans le monde, n’est privé des bénéfices de ces technologies ? Comment veiller à ce que l’IA soit développée de manière transparente, de sorte que les citoyens du monde, dont la vie est affectée, aient leur mot à dire dans son développement ?  

Pour répondre à ces questions, nous devons faire la distinction entre les conséquences immédiates de l’IA sur nos sociétés – que l’on ressent déjà – et leurs ramifications à long terme. Nous devons donc définir des objectifs et un plan d’action stratégiques communs.  

ÉTABLIR UN DIALOGUE MONDIAL SUR L’ÉTHIQUE DE L’INTELLIGENCE ARTIFICIELLE : LE RÔLE DE L’UNESCO 

Nous devons veiller à ce que les nouvelles technologies, en particulier celles fondées sur l’IA, soient utilisées au service de nos sociétés et de leur développement durable. Ses développements et ses applications devraient être réglementés pour qu’ils soient en conformité avec les droits fondamentaux qui encadrent notre horizon démocratique.  

De nombreux acteurs – les entreprises, les centres de recherche, les académies des sciences, les États Membres des Nations Unies, les organisations internationales et les associations de la société civile – demandent la mise en place d’un cadre éthique pour son développement. Alors que ces questions font l’objet d’une compréhension croissante, les initiatives connexes devraient être mieux coordonnées. En tant que question mondiale, tous les débats sur ce sujet doivent avoir lieu au niveau mondial afin d’éviter une approche à l'éthique « au cas par cas ». Une démarche inclusive, mondiale avec la participation des fonds, des institutions et des programmes des Nations Unies est nécessaire si nous voulons trouver les moyens de tirer parti de l’IA au service du développement durable. 

L’UNESCO participe pleinement et activement à ce dialogue mondial. Elle dispose de nombreuses années d’expérience dans le domaine de l’éthique des sciences et de la technologie. Nos organes consultatifs ont déjà produit de nombreux rapports et déclarations, y compris sur la robotique, comme le Rapport de la Commission mondiale d’éthique des connaissances scientifiques et des technologies sur l’éthique de la robotique publié en 2017. Les organes consultatifs ont aussi l’expérience acquise dans l’élaboration d’instruments normatifs, y compris la Déclaration universelle sur le génome humain et les droits de l’homme en 1997 et la Déclaration universelle sur la bioéthique et les droits de l’homme en 2005. 

Les priorités de l’UNESCO doivent aussi guider notre action internationale dans ce domaine. Il est essentiel de veiller à ce que l’Afrique participe activement à la transformation liée à l’IA, non seulement en tant que bénéficiaire, mais aussi en amont, contribuant directement à ses développements. En termes d’égalité du genre, nous devons combattre les préjugés dans nos sociétés afin de garantir qu’ils ne sont pas reproduits dans les applications de l’IA. Enfin, nous devons autonomiser les jeunes en leur offrant les compétences qui leur sont nécessaires tout au long de leur vie pour s’intégrer dans le marché du travail.  

L’UNESCO a aussi un rôle à jouer dans la réduction des inégalités actuelles, qui seront probablement renforcées par l’IA. L’élimination du cloisonnement entre les pays et entre les sexes, mais aussi en termes de ressources et de connaissances, pourrait permettre à davantage de citoyens de contribuer à la transformation numérique en cours. 

De par sa mission humaniste et sa dimension internationale, l’UNESCO, qui réunit des chercheurs, des philosophes, des programmateurs, des responsables politiques ainsi que des représentants du secteur privé et de la société civile, est la tribune idéale pour mener des débats sur ces questions éthiques. À la fin de l’année 2018, elle a organisé des débats sur l’IA dans plusieurs régions auxquels ont participé des spécialistes représentant un vaste horizon de compétences. Le premier débat, qui a eu lieu le 12 décembre 2018 à Marrakech, au Maroc, a été consacré à l’IA et à l’Afrique. Une deuxième conférence internationale sera organisée au siège de l’UNESCO à Paris au cours de la première moitié de 2019. Ce dialogue pourrait déboucher sur un accord des États Membres sur la définition des principes éthiques fondamentaux qui encadreront les développements de l’IA. 

L’UNESCO, en tant que forum universel, où chaque voix est entendue et respectée, fait tout ce qui est en son pouvoir pour s’acquitter de sa mission, éclairant les débats mondiaux sur les grandes transformations de notre temps tout en établissant des principes afin de s’assurer que les avancées technologiques sont utilisées pour servir le bien commun. La promesse de l’IA et ses questions éthiques sous-jacentes sont fascinantes et notre réponse à ces défis transformera le monde que nous connaissons. 

Ensemble, nous devons trouver les meilleures solutions pour veiller à ce que le développement de l’IA soit une opportunité pour l’humanité, car il incombe à notre génération de transmettre à la génération suivante une société plus juste, plus pacifique et plus prospère.