Construire la paix dans l’esprit
des hommes et des femmes

Élaboration d'une Recommandation sur l'éthique de l'intelligence artificielle

L'IA et vous ...

Aujourd'hui, l'intelligence artificielle joue un rôle important dans la vie de milliards de personnes. Parfois inaperçue, mais souvent avec des conséquences profondes, elle transforme nos sociétés et remet en question ce que signifie être humain.

L'IA peut aider des millions d'étudiants à terminer leurs études secondaires, à créer 3,3 millions d'emplois supplémentaires et, plus urgent encore, à lutter contre la propagation et les conséquences de la pandémie COVID-19. Ces technologies présentent de multiples avantages, mais aussi des risques et des défis, découlant d'une utilisation malveillante ou de l'aggravation des inégalités et des clivages.

Nous avons besoin de politiques et de cadres réglementaires internationaux de même que nationaux pour faire en sorte que ces technologies émergentes profitent à l'humanité tout entière.

Nous avons besoin d'une IA centrée sur l'humain, qui servirait l'intérêt supérieur des citoyens, et non pas l'inverse.

L'UNESCO propose l'élaboration d'un instrument normatif mondial visant à doter l'IA d'une base éthique solide, qui non seulement protégera mais aussi promouvra les droits et la dignité humains. Une fois adopté, cet instrument constituera une boussole éthique et une base normative globale permettant de faire respecter l'État de droit dans le monde numérique.

5 choses à savoir sur l'IA

L'IA a prouvé sa valeur dans la lutte contre la pandémie de COVID-19

L’intelligence artificielle contribue à ralentir l'impact économique de la crise à travers les plateformes numériques. Elle aide également les chercheurs à comprimer d'énormes quantités de données dans la course à la découverte d'un vaccin ou d'un traitement. L'IA a participé à la lutte contre la propagation du virus grâce à des technologies de dépistage, de suivi et de traçage. Cependant, à mesure que les utilisateurs donnent accès à leurs données, la pratique de l'IA durant cette pandémie a ravivé les inquiétudes relatives au respect de la vie privée, à la protection des données et à l'utilisation des données au-delà des besoins de la traque du virus.

La croissance économique tirée par l'IA risque de se révéler fortement inégale

L'IA devrait générer près de US$ 4 trillions de valeur ajoutée d'ici 2022. D'ici 2030, les bénéfices économiques devraient être les plus importants en Chine et en Amérique du Nord, représentant 70 % de l'impact économique mondial de l'IA. La dynamique de l'IA, «  le gagnant remporte tout », doit être régulée : la concentration des systèmes d'IA dans les mains de quelques pays à haut revenu est susceptible de laisser les pays en développement loin derrière. Ces derniers ne profiteront pas ou très peu des technologies d'IA et surtout ne s'en approprieront pas.

Seulement 22 % des professionnel.le.s de l’IA sont des femmes

Parce qu'elles sont sous-représentées dans le secteur, les technologies d'IA reproduisent les préjugés et les stéréotypes de genre. Le fait que des assistants personnels virtuels tels que Siri, Alexa ou Cortana soient « féminins » par défaut n'est pas une coïncidence. La servilité et parfois la soumission qu'elles expriment sont un exemple de la façon dont l'IA peut (continuer à) renforcer et répandre les préjugés contre les femmes dans nos sociétés.   

L'IA peut être un outil puissant pour faire face au changement climatique et aux problèmes environnementaux

Alors que la planète continue de se réchauffer, les impacts du changement climatique s'aggravent. En recueillant et en analysant les données, les modèles alimentés par l'IA pourraient, par exemple, contribuer à améliorer la gestion des écosystèmes et la restauration des habitats, essentielles pour diminuer le déclin des populations de poissons et d'animaux sauvages. Ceci dit, l'extraction de données consomme près de 10 % de l'énergie mondiale. Il est donc également essentiel de s'attaquer à la forte consommation d'énergie de l'IA et à l'impact qui en résulte sur les émissions de carbone.  

L'IA ne peut pas être une zone de non-droit

L'intelligence artificielle est déjà présente dans nos vies, orientant nos choix, souvent de manière nuisible. Il y a des vides législatifs dans le secteur qui doivent être comblés rapidement. La première étape consiste à se mettre d'accord sur les valeurs absolues qui doivent être garanties, ainsi que sur les règles qui doivent être appliquées. De nombreux cadres et lignes directrices existent déjà, mais ils ne sont pas mis en œuvre de manière uniforme et aucun n'est véritablement mondial. L'IA est mondiale, c'est pourquoi nous avons besoin d'un instrument global pour la réglementer.

 

La recommandation

L'UNESCO s'est engagée dans un processus de deux ans pour élaborer le premier instrument normatif mondial sur l'éthique de l'intelligence artificielle sous la forme d'une recommandation, suite à la décision de la Conférence générale de l'UNESCO lors de sa 40e session en novembre 2019.

En 2020, l'accent sera mis sur la préparation du projet de texte de la Recommandation avec l'aide d'un Groupe d'experts ad hoc. Cette phase comprendra des consultations inclusives et multidisciplinaires avec un large éventail de parties prenantes. Ces larges consultations sont extrêmement importantes pour garantir que le projet de texte soit aussi inclusif que possible.

Vers la fin de 2020 et en 2021, l'accent sera mis sur un processus intergouvernemental et sur la négociation du projet de texte afin de produire une version finale de la Recommandation en vue de son éventuelle adoption par la Conférence générale de l'UNESCO lors de sa 41e session à la fin de 2021.

Les travaux de l'UNESCO sur la recommandation s'appuient sur l'étude préliminaire de la Commission mondiale d'éthique des connaissances scientifiques et des technologies (COMEST) de l'UNESCO. Cette étude souligne qu'actuellement, aucun instrument mondial ne couvre tous les domaines qui guident le développement et l'application de l'IA dans une approche centrée sur l'être humain.

L'UNESCO tient à remercier les partenaires qui ont contribué et soutenu le processus d'élaboration de la Recommandation sur l'éthique de l'intelligence artificielle.

Révision du projet de Recommandation sur l'éthique de l'intelligence artificielle

Le groupe international de 24 experts nommés par l'UNESCO pour produire un projet de texte de Recommandation sur l'éthique de l'intelligence artificielle a travaillé virtuellement du 31 août au 4 septembre 2020 afin de réviser leur première version du projet de texte, publié en mai dernier.

Après un vaste processus de consultation multipartite au cours des trois derniers mois, de nombreux commentaires et suggestions ont été recueillis sur le premier projet de texte de la Recommandation. À la lumière de ces contributions, le groupe d'experts ad hoc (GEAH) a produit un premier projet révisé de Recommandation révisé sur l'éthique de l'intelligence artificielle, qui a été transmise aux États membres en septembre 2020 pour recueillir leurs commentaires avant le 31 décembre 2020.

Processus de Consultation multipartite

La première version du projet de texte de la Recommandation sur l’éthique de l’intelligence artificielle préparé par le Groupe d'experts ad hoc (GEAH) en mai 2020 a évolué de manière substantielle après un vaste processus de consultation multipartite en ligne de fin juin à début août 2020. Ces consultations ont été cruciales pour l’élaboration d’un projet de texte complet, inclusif et pluraliste qui tiendra compte des intérêts, des préoccupations et des points de vue des différentes parties prenantes impliquées dans l’IA.
 
Des partenaires du monde entier se sont joints à l'UNESCO pour organiser ce processus de consultation basé sur trois composantes :

La diversité des points de vue recueillis lors des consultations sera prise en compte par le GEAH lors de la révision de la première version du projet du 31 août au 4 septembre 2020.

Groupe d'experts ad hoc

24 spécialistes de renom, ayant une expertise multidisciplinaire et pluraliste sur l'éthique de l'intelligence artificielle, ont été nommés par la Directrice générale de l'UNESCO pour former un Groupe d'experts ad hoc (GEAH), en mars 2020.

Ce groupe a été chargé de produire un projet d'instrument normatif mondial, sous la forme d'une Recommandation de l'UNESCO, en tenant dûment compte de diverses dimensions, notamment l'environnement et les besoins du Sud.

 

Travail virtuel du Groupe d'experts ad hoc (de mars à Septembre 2020)

En raison des circonstances exceptionnelles posées par la pandémie du COVID-19, le GEAH a mené la première phase de ses travaux virtuellement de fin mars à début mai 2020.

Un document de travail leur a fourni des informations de base qui ont servi de point de départ à leurs réflexions.

Le GEAH a travaillé virtuellement pendant six semaines au sein de groupes de travail coordonnés par six de ses membres : Robert Kroplewski, Julie Owono Assevini, Golestan (Sally) Radwan, Emma Ruttkamp-Bloem, Peter-Paul Verbeek et Yi Zeng.

Des discussions virtuelles ont également eu lieu du 20 au 24 avril 2020. Plus de 40 observateurs des États membres, des Nations unies et d'autres entités intergouvernementales ont participé à ces discussions et ont fourni des commentaires écrits au GEAH. Ces discussions ont abouti à la première version du projet de texte de la Recommandation préparée par le GEAH en mai 2020, et qui a fait l'objet d'un vaste processus de consultation multipartite de la fin juin au début août 2020.

Le GEAH a commencé à examiner les commentaires reçus au cours du processus de consultation multipartite à partir de la mi-août et s'est réuni virtuellement du 31 août au 4 septembre 2020 pour réviser la première version du projet de texte. Au cours de cette semaine, plus de 100 observateurs de 43 États membres, des Nations unies et d'autres entités intergouvernementales, ainsi que des ONG se sont inscrits pour observer la réunion.

Ces travaux ont abouti à la finalisation d'un avant-projet de Recommandation par le GEAH le 7 septembre 2020.

 

Bureau du GEAH

Le GEAH a également élu son Bureau, en utilisant des procédures en ligne, comme suit :

Présidente : Mme Emma Ruttkamp-Bloem

Rapporteur : M. Sang Wook Yi

Vice-président(e)s :    

  • Mme Constanza Gomez Mont
  • Mme Irena Nesterova
  • Mme Golestan (Sally) Radwan
  • M. Peter-Paul Verbeek

 

Prochaines étapes

Le rapport préliminaire et l’avant-projet de la Recommandation ont été transmis aux États membres en septembre 2020, pour qu'ils fassent part de leurs commentaires écrits avant le 31 décembre 2020. Ces commentaires écrits seront pris en considération par la Directrice générale lors de la préparation de son rapport final sur la Recommandation.

Ce rapport final contiendra un ou plusieurs projets de textes pour la Recommandation. Il sera communiqué aux Etats membres et soumis à un comité spécial d'experts gouvernementaux (catégorie II) qui sera convoqué en 2021 (deux sessions prévues pour avril et juin 2021).

Le comité spécial décidera du projet final de la Recommandation, qui sera ensuite soumis à la Conférence générale de l'UNESCO, fin 2021.