Grand angle

Contrer la monopolisation de la recherche

cou_03-18_recherche_01.jpg

Yoshua Bengio : « Nous devons encourager une plus grande diversité dans le monde économique associé à l’IA, et éviter une situation de monopole. »

L’intelligence artificielle (IA) n’en est qu’à ses débuts, « son niveau de raisonnement est très superficiel, il n’est même pas équivalent à celui d’une grenouille », estime Yoshua Bengio, l’une des vedettes mondiales de l’apprentissage profond (deep learning). Néanmoins, elle pose déjà de graves problèmes de monopolisation et de répartition inéquitable, qui ne pourront être résolus qu’à l’échelle mondiale. Une coordination internationale s’impose en matière de développement de l’IA.

Yoshua Bengio répond aux questions de Jasmina Šopova

Depuis environ cinq ans, on assiste à un véritable engouement pour la recherche fondamentale en IA de la part de quelques géants de l’informatique, qui y investissent des sommes considérables. Comment expliquer ce phénomène ?

La réponse est très simple. La science a atteint, dans le domaine de l’IA, un niveau de maturité qui la rend très utile pour les entreprises. L’accumulation des données de masse (big data) et la puissance de calcul accrue facilitent le développement de nouveaux produits de l’IA, qui seront demain encore plus rentables qu’aujourd’hui.

Actuellement, lorsque nous faisons des recherches sur Internet, nous sommes en permanence sollicités par des publicités ciblées ‒ et ce sont elles qui font vivre les compagnies comme Facebook, Amazon, Youtube, etc. Pour l’heure, les produits de l’IA ne constituent qu’une toute petite part du marché, mais les économistes prévoient que d’ici à une dizaine d’années, ils atteindront jusqu’à 15 % de la production totale des biens. C’est énorme.

L’IA permettra donc à ces compagnies de vendre plus, de s’enrichir et d’être capables de rémunérer davantage encore les chercheurs qu’elles recrutent. En augmentant leur clientèle, elles augmentent la quantité de données auxquelles elles ont accès ‒ et ces données sont une véritable mine d’or qui rend le système encore plus performant.

Tout cela crée un cercle vertueux pour ces entreprises, qui est par ailleurs malsain pour la société. Une telle concentration du pouvoir peut avoir un impact négatif à la fois sur la démocratie et sur l’économie. Elle favorise les grandes entreprises et ralentit la capacité des jeunes entreprises à se placer sur le marché, même si elles ont de meilleurs produits à proposer.

Nous devons encourager une plus grande diversité dans le monde économique associé à l’IA et éviter une situation de monopole.

Mais le monopole est déjà en train de s’installer. Comment y remédier ?

Par des lois antimonopoles. L’histoire nous enseigne qu’elles peuvent être efficaces contre l’excès de pouvoir de certaines entreprises. Souvenons-nous de Standard Oil, aux États-Unis, qui achetait ses concurrents pour monopoliser le marché du pétrole, ou d’Hollywood qui détenait, jusqu’au milieu du XXe siècle, 70 % des salles de cinéma et imposait sa loi sur la distribution des films. Les condamnations de ces sociétés et de quelques autres ont contribué à rééquilibrer les marchés.

Je crois que des réglementations judicieuses de la publicité peuvent grandement contribuer à empêcher la mise en place de monopoles dans le domaine de la recherche en IA. Nous sommes tous, en quelque sorte, prisonniers de la publicité et nous oublions souvent que nous pourrions prendre une décision collective pour la réglementer de façon à ce qu’elle ne soit pas néfaste pour la société.

Par ailleurs, les services fournis par les grandes sociétés privées comme Google ou Facebook, pourraient très bien être publics, comme par exemple la télévision qui fournit un service semblable.

Vous avez décidé de ne pas travailler dans le privé, n’est-ce pas ?

Oui, je veux rester neutre. Mon projet est de développer une science accessible à tous et pas seulement à quelques actionnaires. Je tiens à ce que la recherche se développe de manière à viser les applications les plus utiles pour l’humanité et pas nécessairement les plus rentables pour l’économie.

Cela dit, j’ai essayé de créer à l’université de Montréal, où je travaille, un écosystème commun et mutuellement bénéfique à la recherche et à l’industrie. Plusieurs laboratoires privés se sont installés dans la capitale québécoise, qui collaborent avec nous. Des chercheurs de l’industrie sont employés comme professeurs associés à l’université et contribuent à la formation des étudiants. Les entreprises font des dons aux universités en leur laissant l’entière liberté de choisir dans quels domaines de recherche ils vont les investir.

Quelle est la proportion de chercheurs qui travaillent aujourd’hui dans le domaine académique ?

Si je me fie à la population que je rencontre lors des grandes conférences internationales, je dirais que c’est à peu près la moitié. Il y a cinq ans, pratiquement tous les chercheurs en IA travaillaient dans le domaine académique.

Les sociétés privées recrutent des talents du monde entier. Est-ce que cela contribue à la fuite des cerveaux dans les pays moins développés?

Inévitablement. C’est pourquoi nous devons réfléchir collectivement aux moyens de faire bénéficier les pays les plus pauvres des résultats les plus récents de la recherche, mais aussi de créer des centres de recherche au sein de leurs universités. En Afrique, par exemple, de plus en plus d’établissements académiques proposent des formations en IA et l’on organise des universités d’été qui s’avèrent très utiles.

Par ailleurs, il existe un grand nombre de cours, de tutoriels et de codes disponibles en ligne gratuitement. Je rencontre beaucoup de jeunes qui se sont formés grâce à l’Internet. Il faut donc aussi chercher les meilleurs moyens de les aider à se former par eux-mêmes.

Certain pays investissent beaucoup dans la recherche en IA, et notamment le Canada.

En effet, le Canada a décidé de financer non seulement la recherche fondamentale et d’aider la création de start-up, mais aussi d’investir dans la réflexion collective et dans la recherche en sciences humaines, pour permettre d’évaluer l’impact social de l’IA.

À l’initiative de l’université de Montréal, un débat a été ouvert le 3 novembre 2017, en vue d’élaborer la Déclaration de Montréal pour un développement responsable de l'IA. Cette démarche vise essentiellement à établir des orientations éthiques dans le développement de l’IA, à l’échelle nationale. Dans la première phase de ce processus de longue haleine, qui invite le grand public à débattre auprès d’experts et de décideurs politiques, sept valeurs ont été identifiées : bien-être, autonomie, justice, vie privée, connaissance, démocratie et responsabilité.

Où en est cette réflexion à l’échelle internationale ?

À ma connaissance, il n’existe pas de traité international qui régisse la recherche en IA. Pourtant, il s’agit là d’enjeux internationaux et, sans coordination à l’échelle internationale, nous ne parviendrons pas à avancer dans la bonne direction.

Il faudrait avant tout sensibiliser le grand public et les décideurs politiques aux enjeux de l’IA. Dans certaines parties du monde, les chercheurs ont déjà lancé des alertes sur les problèmes majeurs, et les médias et le grand public ont réagi. Ce sont les premières étapes qui devront nous mener vers une concertation politique plus large, mondiale, sur les problèmes que pose cette discipline, notamment en matière d’éthique, d’environnement et de sécurité.

Yoshua Bengio

Chercheur et enseignant à l’université de Montréal, Yoshua Bengio (Canada) est professeur titulaire du Département d'Informatique et Recherche Opérationnelle (DIRO), directeur du MILA, l'Institut d'intelligence artificielle du Québec, co-directeur du programme Learning in Machines and Brains de l'Institut Canadien de Recherches Avancées, et titulaire de la Chaire de Recherche du Canada sur les algorithmes d'apprentissage statistique. Les résultats de ses recherches ont été cités plus de 80000 fois (données de septembre 2017). Yoshua Bengio est arrivé au Québec en 1977, à l’âge de douze ans, avec ses parents d’origine marocaine auparavant établis à Paris. Il est Officier de l'Ordre du Canada et membre de la Société Royale du Canada.