L’AI et l’état de droit : renforcement des capacités pour le système judiciaire

L’utilisation de l’IA dans les systèmes judiciaires est en cours d’étude par les services judiciaires et de poursuite pénale, et autres organismes judiciaires spécifiques dans le monde. Par exemple, dans le domaine de la justice pénale, l’utilisation de l’IA pour aider à mener des enquêtes et dans le cadre de processus automatiques de prise de décision, est déjà en place dans de nombreux systèmes judiciaires. Au vu des développements rapides dans ce domaine, les défis et les opportunités liés à l’utilisation renforcée de l’IA dans les systèmes judiciaires et leurs implications pour les droits de l’homme et l’état de droit, doivent être soumis à la réflexion des parties prenantes de l’écosystème judiciaire. Ainsi, des cours en ligne sous forme de MOOC (Cours en ligne ouvert à tous) ont été développés en coopération avec les centres de catégorie 2 de l’UNESCO le CETIC et l’IEEE, en réponse aux besoins exprimés par les Etats membres de l’UNESCO, les juges et autres parties prenantes.

L'Intelligence artificielle et la transformation numérique

L’intelligence artificielle (IA) possède un énorme potentiel quant à son utilisation pour le bien commun et la réalisation des Objectifs de développement durable (ODD). Même si elle est utilisée pour aider à répondre à de nombreuses questions sociales comptant parmi les plus essentielles pour l’humanité, l’utilisation de l’IA soulève des préoccupations quant au respect des droits de l’homme tels que la liberté d’expression, le droit à la vie privée, la protection des données et la non-discrimination. Les technologies basées sur l’IA offrent de grandes possibilités si elles sont développées dans le respect de normes, de l’éthique et de standards universels, et si elles sont ancrées sur des valeurs respectant les droits de l’homme et le développement durable.

Rôle des acteurs du système judiciaire dans la gouvernance de l’IA

A two-day seminar on “Freedom of Expression and Safety of Journalists for Judges in Africa”, organized by UNESCO and the GIZ in 2019. © UNESCO
Un séminaire de deux jours sur « La liberté d'expression et la sécurité des journalistes pour les juges en Afrique » et organisé par l'UNESCO et la GIZ en 2019. © UNESCO

Alors que l’utilisation des technologies de l’IA progresse, les systèmes judiciaires examinent les questions juridiques concernant les implications de l’IA pour, entre autres, les droits de l’homme, la surveillance et la responsabilité. De plus, les systèmes judiciaires utilisent eux-mêmes l’IA pour les processus de prise de décision juridique, ce qui soulève des inquiétudes quant à l’équité, la responsabilité et la transparence de la prise de décision par des systèmes automatiques ou basés sur l’IA.

Le potentiel de l’IA est déjà étudié par de nombreux systèmes judiciaires dans le monde comme les services juridiques et de poursuites pénales et autres organismes juridiques spécifiques, et ce en particulier dans le domaine de la justice pénale, en aidant à la procédure d’enquête et en automatisant/facilitant les processus de prise de décision.

Néanmoins, l’utilisation de l’IA pose un grand nombre de défis : de la reconnaissance des formes, des décisions biaisées du point de vue éthique prises par des algorithmes, à la transparence et à la responsabilité.

Au vu des développements rapides dans ce domaine, les défis et les opportunités liés à l’utilisation renforcée de l’IA dans le domaine de la justice et à la manière dont l’IA peut aider les acteurs du système judiciaire dans leur rôle au sein de la justice ainsi que dans la résolution de cas où l’IA a des impacts sur les droits de l’homme, doivent être débattus parmi les parties prenantes de l’écosystème judiciaire.

L’Initiative de l’UNESCO pour la formation des juges

UNESCO and Inter-American Court of Human Rights Human (IACHR) signed a Memorandum of Understanding (MoU) to strengthen the protection of freedom of expression, press freedom and safety of journalists in the Latin American and the Caribbean region. © UNESC
L'UNESCO et la Cour interaméricaine des droits de l'homme (CIDH) ont signé un protocole d'accord (MoU) pour renforcer la protection de la liberté d'expression, de la liberté de la presse et de la sécurité des journalistes dans la région d'Amérique latine et des Caraïbes. © UNESCO

Depuis 2014, l’UNESCO et ses partenaires ont formé des juges et des acteurs du système judiciaire sur la liberté d’expression, l’accès publique à l’information et la sécurité des journalistes, principalement par le biais de MOOC. Plus de 17 000 acteurs du système judiciaire ont été formés en Amérique latine, en partenariat avec la Cour interaméricaine des droits de l’homme, ainsi qu’en Afrique où l’UNESCO a établi un partenariat avec le Centre pour les droits de l’homme de l’Université de Prétoria, la Commission africaine des droits de l’homme et des peuples, la Cour africaine des droits de l’homme et des peuples, et la Communauté économique des pays d’Afrique de l’Ouest.

Ces formations favorisent la liberté d’expression, l’accès public à l’information et la sécurité des journalistes en renforçant la capacité des juges et autres acteurs du système judiciaire sur ces questions. Ces cours leur fournissent un aperçu des cadres juridiques existants aux niveaux international et régional ainsi que des nouveaux défis soulevés par l’Internet et autres technologies numériques.

Grâce à une meilleure compréhension et connaissance des standards internationaux et régionaux sur la liberté d’expression et la sécurité des journalistes, les juges et autres membres du système judiciaire peuvent mieux aligner leurs décisions sur ces standards et sur les bonnes pratiques dans ce domaine.

Se basant sur cette expérience, l’UNESCO et ses partenaires sont en train de développer un programme de renforcement des capacités des acteurs du système judiciaire dans le domaine d’utilisation de l’IA dans les tribunaux et par les forces de l’ordre, et visant à examiner les implications de décisions juridiques basées sur l’IA à l’aune des standards internationaux des droits de l’homme.

L’IA et le judiciaire : un cours en ligne ouvert à tous ?

UNESCO rolls out first African MOOC on freedom of expression and safety of journalists in 2017. © UNESCO
L'UNESCO lance le premier MOOC africain sur la liberté d'expression et la sécurité des journalistes en 2017. © UNESCO

La nécessité de sensibiliser les acteurs du système judiciaire aux questions de l’IA a été reconnue lors de la Table ronde d'Athènes sur l'IA et l'état de droit, coorganisée par l’UNESCO, lors des sessions du Forum sur la gouvernance de l’Internet sur l'Etat de droit dans l'écosystème numérique, dans le cadre de l’Enquête d'évaluation des besoins en matière de renforcement des capacités dans le domaine de l’intelligence artificielle en Afrique, et en particulier par les participants à l’Initiative de l’UNESCO pour la formation des juges, qui a mobilisé plus de 17 000 opérateurs judiciaires.

Une formation en ligne sous le format d’un MOOC est en train d’être développée, en coopération avec le CETIC et l’IEEE, en réponse direct aux besoins exprimés par les Etats membres de l’UNESCO en Afrique, des juges et autres parties prenantes.

Objectifs du cours en ligne :

  1. Favoriser un dialogue participatif avec les opérateurs judiciaires sur les innovations liées à l’IA et promouvoir la connaissance des innovations numériques dans le système judiciaire ;
  2. Faciliter l’échange de connaissances et d’expériences parmi les opérateurs judiciaires sur l’IA, les normes et les standards existants (contraignants ou non) dans ce domaine, et les implications pour les droits de l’homme ;
  3. Mettre en avant les cas d’étude existants et les meilleures pratiques qui traduisent les principes éthiques à la fois lors de l’utilisation de l’IA dans les systèmes judiciaires et dans les cas où l’utilisation de l’IA a un impact sur les droits de l’homme.

Liens :