Karl Schroeder consacre son temps à lire, étudier, observer et imaginer des histoires futuristes. Écrivain de science-fiction de renommée internationale, ses œuvres inspirent les experts des nouvelles technologies et de l’intelligence artificielle (IA). Par ailleurs, il met son imagination au service d’entreprises et de gouvernements afin d’anticiper leur transformation technologique, économique et sociale. Pour le romancier et essayiste canadien, l’IA relève davantage d’une révolution culturelle que d’une révolution technologique, qui exige une réflexion sur les questions d’éthique, de gouvernance et de législation.
Karl Schroeder répond aux questions de Marie Christine Pinault Desmoulins (UNESCO)
Outre votre passion pour les innovations numériques et technologiques, quelles sont vos sources d’inspiration ?
Je consacre une partie très conséquente de mon temps à la lecture de grands philosophes. Cela me permet d’avoir une vue d’ensemble, d’envisager les connections possibles entre les technologies et les mouvements sociétaux. Mais, je vous rassure, j’attache autant de soin à l’intrigue pour que mes livres soient distrayants !
Parallèlement, l’Internet est une source infinie d’informations et de distractions. Toute navigation sur le réseau est l’occasion de nouvelles découvertes qui peuvent m’inciter à repenser, voire à changer radicalement, tout ce que je viens d’écrire. L’Internet facilite vraiment mes recherches et je n’en retiens que le meilleur.
Envisagez-vous que l’IA puisse vous remplacer en tant qu’écrivain?
À ce jour, j’assimilerais la contribution de l’IA dans mon domaine à une fonction de randomisation, comparable à un jeu infini de cartes dont chacune pourrait définir un personnage, une scène, etc. Par exemple, l’une d’entre elles pourrait être « le roi des méchants, il se situe dans une tour » et, à partir de là, je pourrais élaborer un personnage, une intrigue.
Je pense que la créativité pourra, à terme, survenir en dehors de l’humain. Je peux donc concevoir que l’IA sera en mesure de créer un livre digne de ce nom, mais certainement pas sous sa forme actuelle. Ce seront d’autres types de machines, qui ne sont pas encore pensées. Les ordinateurs actuels ne produisent pas de sens et l’intervention humaine est toujours nécessaire dans le processus créatif, même si les dispositifs technologiques s’affinent et approchent les capacités humaines.
Dans mon roman Lady of Mazes (2005), il y a une scène où l’IA devient folle et met au point une forme de bombe créative qui propage des romans d’une exceptionnelle qualité en quantité si astronomique qu’il serait impossible de tout lire en cumulant toutes les espérances de vie humaines ! Et alors, que se passe-t-il pour les humains ? Eh bien, ils s’adaptent et continuent leur propre création.
Imaginons que cette bombe créative explose aujourd’hui. Pourquoi cela m’empêcherait-il, moi, de continuer à écrire de nouveaux livres ? Pourquoi devrais-je me penser « moi contre un million de livres » et non « moi et un million de livres » ? Je conçois la créativité, quelle que soit son origine, comme une addition et non une soustraction à notre propre existence.
De fait, la notion de remplacement est inhérente à celle de valeur. On peut considérer que tout peut être remplacé, en fonction d’une valeur donnée. En tant qu’écrivain, je pourrais être remplacé par un ordinateur qui a plus de succès commercial que moi. Mais ce raisonnement ne vaut que si le succès commercial prévaut dans le système de valeur.
Vous ne nourrissez donc aucune appréhension à l’égard de l’IA ?
Déterminer si l’IA est une menace ou un bénéfice ressort totalement de la responsabilité humaine. Beaucoup d’idées simplistes circulent sur l’IA, sur son fonctionnement et les dangers potentiels qu’elle ferait peser sur l’humanité. On peut même parler d’une surenchère anxiogène qui a en ligne de mire la perte de contrôle de la machine. Au stade où nous en sommes aujourd’hui, ce n’est pas une réflexion valide.
En revanche, il est impératif de choisir la direction que l’IA doit prendre et d’en déterminer son utilisation. Si on décide d’investir dans des supermachines de guerre économique ou politique, nous prenons la voie d’un environnement hostile, évidemment. La société doit prendre les bonnes décisions pour la mise en œuvre de l’IA.
Si un jour les produits de l’IA deviennent indépendants de nous, ils seront comme les enfants qui nous quittent, le moment venu, pour mener leur propre vie ! Notre responsabilité en tant que parents est de bien les élever et de leur inculquer des valeurs positives. C’est la pierre angulaire du raisonnement.
Cela rejoint la problématique de l’éthique ?
Oui, la science-fiction y pense depuis un siècle ! Les décideurs politiques et la société y songent seulement maintenant. C’est parce qu’on ne se penche pas sérieusement sur le sujet, que nous sommes en roue libre dès qu’une innovation technologique majeure apparaît. La solution est pourtant simple : nous devons décider de mettre en œuvre une innovation technologique seulement après avoir cerné son impact social, arbitré son usage et légiféré en conséquence.
J’avais fait de cet enjeu l’un des messages de Lady of Mazes, en invitant à planifier la mise en œuvre de toute innovation technologique pour anticiper les changements sociétaux.
Quel sera le message de votre prochain livre ?
Sans doute traitera-t-il du futur de la politique et des processus de la décision, ainsi que des moyens technologiques qui pourront nous amener à un autre niveau de civilisation.
C’est un clin d’œil, mais j’envisage de l’écrire au stylo ! Ce sera une expérience d’usage au même titre que toutes celles que le numérique nous propose. Il faut distinguer l’écriture du moyen d’écrire. La technologie n’est qu’un moyen et il faut la remettre à sa juste place. Nous n’avons rien à abandonner de ce que nous sommes ou voulons être, nous avons uniquement à nous préparer collectivement.
