Grand angle

La pensée n’est pas dans le cerveau !

cou_03-18_benasayag_01.jpg

Œuvre de la série Constellations (2014) de l’artiste espagnol Jordi Isern.

Dans l’expression « intelligence artificielle » (IA), le mot « intelligence » n'est qu'une métaphore. Car, si sa capacité calculatoire dépasse celle de l’homme, l’IA est incapable de donner une signification à ses propres calculs. Pour le philosophe et psychanalyste argentin Miguel Benasayag, réduire toute la complexité du vivant à un code informatique est illusoire, tout comme l’idée qu’une machine peut se substituer à l'homme est absurde.

Miguel Benasayag répond aux questions de Régis Meyran

Qu'est-ce qui distingue l'intelligence humaine de l'artificielle ?

L'intelligence vivante n'est pas une machine à calculer. C’est un processus qui articule l'affectivité, la corporéité, l'erreur. Elle suppose la présence du désir et d’une conscience chez l’être humain de sa propre histoire sur le long terme. L'intelligence humaine n'est pas pensable en dehors de tous les autres processus cérébraux et corporels.

Contrairement à l’homme, ou à l’animal, qui pense à l'aide d'un cerveau situé dans un corps, lui-même inscrit dans un environnement, la machine produit des calculs et des prédictions sans être capable de leur donner une signification. La question de savoir si une machine peut se substituer à l'homme, est en réalité absurde. C’est le vivant qui crée du sens, pas le calcul. Nombre de chercheurs en IA sont convaincus que la différence entre intelligence vivante et intelligence artificielle est quantitative, alors qu'elle est qualitative.

Deux ordinateurs du programme Google Brain seraient parvenus à communiquer entre eux dans une « langue » qu’ils auraient eux-mêmes créée et qui serait indéchiffrable pour l’homme... Qu'en pensez-vous ?

Cela n'a tout simplement aucun sens. En réalité, à chaque fois qu’on lance ces deux machines, elles répètent systématiquement la même séquence d’échange d’informations. Et cela n'a rien d'une langue, cela ne communique pas. C'est une mauvaise métaphore, comme celle consistant à dire que la serrure « reconnaît » la clé.

Dans le même ordre d'idées, certaines personnes disent qu'elles sont « amies » avec un robot. Il existe même des applications pour smartphone qui sont supposées vous permettre de « dialoguer » avec un robot. Voyez le film Her, de Spike Jonze (2013) : après une série de questions posées à un homme, qui permettent de cartographier son cerveau, une machine fabrique une voix et des réponses qui déclenchent un sentiment amoureux chez cet homme. Mais peut-on avoir une relation amoureuse avec un robot ? Non, car l'amour et l'amitié ne se réduisent pas à un ensemble de transmissions neuronales dans le cerveau.

L'amour et l'amitié existent au-delà de l'individu, au-delà même de l'interaction entre deux personnes. Quand je parle, je participe à quelque chose que nous avons en commun, la langue. Il en va de même pour l'amour, l'amitié et la pensée : ce sont des processus symboliques auxquels les humains participent. Personne ne pense en soi. Un cerveau donne son énergie pour participer à la pensée.

À ceux qui croient que la machine peut penser, nous devons répondre : ce serait étonnant qu'une machine pense, puisque même le cerveau ne pense pas !

Selon vous, le fait de réduire le vivant à un code constitue le défaut principal de l’IA.

En effet, certains spécialistes de l'IA sont tellement éblouis par leurs prouesses techniques, un peu comme des petits garçons fascinés par leur jeu de construction, qu'ils perdent la vue d’ensemble. Ils tombent dans le piège du réductionnisme.

Le mathématicien américain et père de la cybernétique Norbert Wiener écrivait en 1950, dans The Human Use of Human Beings (Cybernétique et société), qu’on pourra un jour « télégraphier un homme ». Quatre décennies plus tard, l’idée transhumaniste du mind uploading est élaborée sur le même fantasme, selon lequel le monde réel tout entier peut être réduit à des unités d'information transmissibles d'un hardware à un autre.

L’idée que le vivant peut être modélisé en unités d'information se retrouve aussi chez le biologiste français Pierre-Henri Gouyon, par exemple, avec qui j’ai publié un livre d’entretiens, Fabriquer le vivant ? (2012). Il voit dans l’acide désoxyribonucléique (ADN) le support d'un code qu'on peut déplacer sur d'autres supports. Mais quand on estime que le vivant peut être modélisé en unités d'information, on oublie que la somme d’unités d’information n'est pas la chose vivante, et on ne s'inquiète pas de faire des recherches sur le non-modélisable.

La prise en compte du non-modélisable ne renvoie pas à l'idée de Dieu, ni à l’obscurantisme, quoi qu'en pensent certains. Les principes d’imprédictibilité et d'incertitude sont présents dans toutes les sciences exactes. C’est pourquoi l’aspiration à la connaissance totale des transhumanistes s’inscrit dans un discours technolâtre, parfaitement irrationnel.  Si elle connaît un grand succès, c’est qu’elle est capable d’étancher la soif de métaphysique de nos contemporains. Les transhumanistes rêvent d'une vie dans laquelle ils auraient chassé toute incertitude. Or, dans le quotidien, comme dans la recherche, il faut bien se coltiner les incertitudes, l'aléatoire…

Selon la théorie transhumaniste, nous serons un jour capables d’atteindre l’immortalité grâce à l’IA.

Dans le bouleversement postmoderne actuel, où la relation entre les choses n'est plus pensée, où le réductionnisme et l'individualisme dominent, la promesse transhumaniste prend la place de la caverne de Platon. Pour le philosophe grec, la vraie vie n'était pas dans le monde physique, elle était dans les idées. Pour les transhumanistes, vingt-quatre siècles plus tard, la vraie vie n'est pas dans le corps, elle est dans les algorithmes. Le corps n'est pour eux qu'un simulacre : il faut en extraire un ensemble d'informations utiles, et se débarrasser de ses défauts naturels. C’est ainsi qu’ils entendent atteindre l’immortalité.

J’ai eu l’occasion, lors de colloques scientifiques, de rencontrer plusieurs membres de l'Université de la Singularité [à orientation transhumaniste] qui portaient un médaillon autour du cou, pour signifier qu'en cas de décès, leur tête sera cryogénisée. J’y vois l’émergence d’une nouvelle forme de conservatisme, alors même que c’est moi qui passe  pour un bioconservateur, car je m’oppose à la philosophie transhumaniste. Mais lorsque mes adversaires me traitent de réactionnaire, ils utilisent le même type d'arguments que les hommes politiques qui prétendent moderniser ou réformer, pendant qu’ils détruisent les droits sociaux d'un pays et qu’ils taxent de conservateurs ceux qui veulent conserver leurs droits !


Robot (2013), création pour danseurs et robots de la chorégraphe franco-espagnole Blanca Li.

L’hybridation entre l'homme et la machine est déjà une réalité. C’est aussi un idéal transhumaniste.

Tout reste à faire pour comprendre le vivant et l’hybridation, car le monde de la technique biologique ignore aujourd’hui encore presque tout de la vie, qui ne se réduit pas aux seuls processus physicochimiques modélisables. Cela dit, le vivant est déjà hybridé avec la machine et il le sera certainement encore davantage avec les produits issus des nouvelles technologies.

Il existe de nombreuses machines, avec lesquelles nous travaillons et auxquelles nous déléguons un certain nombre de fonctions. Sont-elles toutes nécessaires ? C’est toute la question. J'ai travaillé sur l'implant cochléaire et la culture sourde : il existe des millions de sourds qui revendiquent leur propre culture – qui n'est pas assez respectée – et refusent l'implant cochléaire car ils préfèrent s’exprimer dans la langue des signes. Cette innovation, qui pourrait écraser la culture des sourds, constitue-t-elle un progrès ? La réponse ne va pas de soi.

Avant tout, nous devons veiller à ce que l’hybridation se fasse dans le respect de la vie. Or, ce à quoi nous assistons aujourd’hui n’est pas tant l’hybridation que la colonisation du vivant par la machine. À force d’externaliser, de nombreuses personnes ne se rappellent plus de rien. Elles ont des problèmes de mémoire qui ne résultent pas de pathologies dégénératives.

Prenez le cas du GPS : on a observé des chauffeurs de taxi à Paris et à Londres, deux villes labyrinthiques. Alors que les Londoniens conduisaient en s’orientant eux-mêmes, les Parisiens utilisaient systématiquement leur GPS. Au bout de trois ans, des tests psychologiques ont montré que les noyaux sous-corticaux qui s'occupent de cartographier le temps et l'espace étaient atrophiés chez ces derniers (des atrophies certainement réversibles si la personne abandonne cette pratique). Ils étaient affectés d'une sorte de dyslexie qui les empêchait de se repérer dans le temps et dans l'espace. C'est cela la colonisation : la zone est atrophiée car la fonction est déléguée sans être remplacée par quoi que ce soit.

Qu’est-ce qui vous inquiète le plus?  

Je suis inquiet du succès démesuré de la logique d'innovation. La notion de progrès a fait long feu. Elle a été remplacée par l'idée d'innovation, qui est bien différente : elle ne contient ni point de départ, ni point d'arrivée, elle n'est ni bonne, ni mauvaise. Il faut donc la questionner de façon critique. Le traitement de texte sur ordinateurs est bien plus performant que la machine à écrire Olivetti que j'utilisais dans les années 1970 : pour moi, c'est un progrès. Mais, à l'inverse, tout smartphone contient plusieurs dizaines d'applications, et peu de gens se posent la question de combien parmi elles leurs sont vraiment nécessaires. La sagesse consiste à rester à distance de la fascination que provoquent le divertissement et l'efficacité des nouvelles technologies.

Par ailleurs, dans une société déboussolée, qui a perdu ses grands récits, le discours transhumaniste est très inquiétant : il infantilise les humains, et ne prend aucune distance avec la promesse technologique. En Occident, la technique a toujours renvoyé à l'idée de dépassement des limites. Déjà au XVIIe siècle, le philosophe français René Descartes, pour qui le corps était une machine, avait imaginé la possibilité d’une pensée hors du corps. C'est une tentation humaine que de rêver que, par la science, on va se libérer de notre corps et de ses limites – ce que le transhumanisme pense enfin pouvoir réaliser.

Mais le rêve d’un homme post-organique tout-puissant et hors-limite a des conséquences en tous genres sur la société. Il me semble qu’il devrait même être analysé dans un rapport spéculaire avec la montée des fondamentalismes religieux, qui se recroquevillent sur les supposées valeurs naturelles de l’humain. Je les vois comme deux intégrismes irrationnels en guerre.

Photo: Jordi Isern 

Miguel Benasayag

Philosophe et psychanalyste argentin. Miguel Benasayag est un ancien résistant guévariste au péronisme, il réussit à fuir l’Argentine en 1978 après y avoir été emprisonné et torturé, et réside désormais à Paris, en France. Il a publié récemment Cerveau augmenté, homme diminué (La Découverte, 2016) et La singularité du vivant (Le Pommier, 2017).