News

L'UNESCO lance une enquête sur l'IA et l'État de droit auprès des instances judiciaires

16/11/2020

L'intelligence artificielle (IA) possède un très grand potentiel d’utilisation pour le bien social et la réalisation des Objectifs de développement durable (ODD). Même si elle est utilisée pour aider à résoudre de nombreux problèmes sociaux majeurs de notre société, son utilisation soulève également des préoccupations quant à la violation des droits de l’homme, comme le droit à la liberté d’expression, le droit à la vie privée, la protection des données et la non-discrimination. Les technologies basées sur l’IA offrent d’importantes possibilités, à condition qu’elles soient développées dans le respect de l’éthique et des standards universels et qu’elles soient ancrées dans des valeurs fondées sur les droits de l’homme et le développement durable.

L’utilisation de l’IA dans le système judiciaire est actuellement examinée par les tribunaux, les services de poursuite et autres organes judiciaires spécifiques à travers le monde. Par exemple, dans le domaine de la justice pénale, l’utilisation de systèmes d’IA visant à fournir une assistance en matière d’enquête et à automatiser les processus décisionnels est déjà en place dans de nombreux organismes judiciaires à travers le monde.

En réponse à l’évolution rapide dans ce domaine ainsi qu’aux défis et opportunités liés à l’exploitation de l’IA dans le système judiciaire et à leurs implications pour les droits de l’homme et l’état de droit, l’UNESCO, en coopération avec son centre de catégorie 2 CETIC.br basé au Centre brésilien d’information sur les réseaux (NIC.br), et l’IEEE, élaborent une stratégie de formation en ligne sous la forme d’un cours en ligne ouvert à tous (MOOC) sur l’IA et l’état de droit.

Ce projet s’inscrit dans le cadre de l’Initiative de l’UNESCO pour la formation des juges, qui a déjà permis de mobiliser plus de 17 000 opérateurs judiciaires issus de plus de 60 pays dans le cadre de cours et de dialogues sur la liberté d’expression, l’accès à l’information et la sécurité des journalistes. L’Initiative de l’UNESCO pour la formation des juges a signé des accords de coopération avec la plupart des tribunaux régionaux des droits de l’homme ainsi que des associations de juges en chef et de procureurs généraux.

Ce cours en ligne stimulera un dialogue participatif avec les opérateurs judiciaires sur les innovations liées à l’IA dans le système judiciaire et favorisera la connaissance de l’innovation numérique, tout en soulignant l’importance de la mesure et de la production de données. Il facilitera également le partage de connaissances entre les opérateurs judiciaires sur l’intelligence artificielle, les normes existantes (droit dur et souple) dans ce domaine, et ses implications pour les droits de l’homme. Il présentera également des études de cas existantes et les meilleures pratiques qui illustrent de façon concrète les principes éthiques, à la fois en termes d’utilisation de l’IA dans le système judiciaire et dans des cas impliquant l’impact de l’IA sur les droits de l’homme. 

Dans l’ensemble, ce MOOC renforcera les capacités des opérateurs judiciaires à traiter les questions liées à l’IA dans leur domaine, veillera à ce qu’ils possèdent les informations et les connaissances nécessaires concernant les systèmes de justice prédictive fondés sur l’IA. Il vise également à garantir que les services de poursuite, dans les affaires liées à l’IA, aient connaissance du droit international relatif aux droits de l’homme dans le cadre de la technologie de l’IA et des risques corrélés.

À cet égard, une enquête visant à comprendre les besoins des acteurs judiciaires du monde entier vient d’être lancée en sept langues. Ses résultats orienteront l’élaboration du cours en ligne qui débutera en 2021. L’enquête est disponible en ligne jusqu’au15.12.2020

URL de l’enquête : https://survey.unesco.org/2020/index.php?r=survey/index&sid=799166&lang=fr

Pour de plus amples informations sur l’IA et le projet sur l’état de droit : https://fr.unesco.org/artificial-intelligence/mooc-judges