Julien Gobin, essayiste, auteur de L'individu, fin de parcours ? Le piège de l'intelligence artificielle, éditions Gallimard, est l'invité du Face-à-Face d'André Bercoff.
"Le transhumanisme de la Silicon Valley reprend le programme des Lumières"
Pour Julien Gobin, notre société est dans une phase de métamorphose similaire à celle de la chrysalide. "Le corps de l'insecte se digère lui-même, ces nutriments qui correspondent à l'ancien corps de l'insecte doivent nourrir des cellules souches qui vont activer le prochain corps, aujourd'hui nous sommes dans cet état liquide, est-ce qu'on pourrait identifier ces cellules ?" Cette phase a en réalité commencé avec les Lumières, avec la naissance du libre-arbitre qui "apparaît grossièrement au XVIIIe siècle, l'individu c'est celui qui pense par lui-même, la Révolution française c'est le moment où le citoyen peut s'affranchir de l'Ancien régime. C'est au fondement même de notre démocratie, on peut voter contre un candidat. Les philosophies des Lumières ont pour but de faire émerger l'individu, de le libérer des contraintes non-choisies." Ces réflexions sont interrompues au XXe siècle par les guerres successives, puis "le transhumanisme de la Silicon Valley reprend le programme des Lumières : plus de civilisation, par l'éducation."
En effet, le transhumanisme est déjà en germe dans les Lumières, on le voit avec l'idée de Condorcet de "sélectionner cette biologie comme on peut sélectionner des chiens". "Le transhumanisme cherche à dépasser tous ces archaïsmes évolutifs." Aujourd'hui, il estime que "l'humain n'est pas doté de ce libre-arbitre qui viendrait de nulle part, l'être humain c'est un circuit. En connaissant bien ce qu'est la nature humaine, on va pouvoir reprendre ce projet, améliorer la nature humaine pour ne pas la faire tomber dans ces pièges, la bouleverser parce qu'elle est sur certains points très archaïque."
"À partir de quand la quête de l'individu doit s'arrêter ?"
Cette quête du libre-arbitre semble infinie. "Où s'arrête la contrainte ? Est-ce que je dois déconstruire l'éducation de mes parents ? À partir de quand la quête de l'individu doit s'arrêter ?" L'exemple le plus parlant est le changement de sexe. "Certains traits qu'on juge fondamentaux peuvent être considérés comme un droit humain. Je me sens femme et il est hors de question que la société vienne me déterminer. Je trouve que c'est une revendication qui est tout à fait logique dans le logiciel d'émancipation de l'individu." Cette revendication a toutefois ses limites, car aujourd'hui "il peut y avoir des personnes qui souffrent de dysphorie de genre, mais d'autres peuvent changer tout à fait par un effet de mode, on peut changer d'avis plus tard et là, où est le critère ?"
Le mouvement transsexuel porte d'ailleurs un paradoxe, entre ceux qui nient toute existence de différences entre les sexes, et ceux qui témoignent avoir un "excès de libido", "de ne plus pouvoir se retenir", pour les femmes devenues hommes, et un "excès de larmes" pour les hommes devenus femmes. "C'est particulièrement réactionnaire", note Julien Gobin. "Les deux manifestent dans le même mouvement global et pourtant, c'est les opposés absolus."
"Lorsqu'on a ce qu'on voudrait, est-ce qu'on voudrait autre chose ?"
Aujourd'hui, nous sommes passés d'un comportement déterminé par la famille, les pressions sociales, à un comportement orienté par la technologie. "Quand bien même le libre-arbitre existerait, est-ce que notre société nous permet de l'exercer ? Le consentement est-il libre quand on peut avoir des manipulations algorithmiques ?" "Toutes nos données forment un modèle", explique Julien Gobin qui ajoute que ce modèle pourrait prendre la forme d'une poupée vaudou, qui permet de générer des effets sur le véritable individu en agissant sur la poupée qui le représente. "Il suffit de jouer sur cette poupée. Si on était écoutés, ça supposerait une quantité de données hallucinantes, en revanche la poupée vaudou de nous-mêmes permet de prédire nos comportements à un, deux, trois, cinq jours. Comment se repérer, où trouver les informations ? Est-ce que l'individu a encore le loisir d'effectuer cette marge de manœuvre ?"
"Notre société crée des grands dilemmes, qui sont beaucoup plus durs qu'auparavant parce que nous sommes responsables de nos choix. On n'avait pas le fardeau existentiel sur nos épaules". "On pourrait avoir une synthèse d'un super-coach psychiatre mais qui aurait l'avantage d'être objectif. Il y a des suggestions qui viennent d'algorithmes ; si on est que de la matière, on peut faire des prédictions, c'est l'homme machine, avec des suggestions qui viendraient maximiser notre recherche de bien-être". "Est-ce que le bien-être augmenterait ou pas ? Pourquoi chercher à s'émanciper si on est sous manipulation technologique mais que ça répond à nos besoins ? Lorsqu'on a ce qu'on voudrait, est-ce qu'on voudrait autre chose ?" Tout cela ressemble au Meilleur des mondes, d'Aldous Huxley, où "les personnes sont heureuses et bien" parce qu'elles sont "déterminées et conditionnées pour occuper la place qu'on veut pour elles."
Cliquez ici pour écouter l’invité d’André Bercoff dans son intégralité en podcast.
Retrouvez “Le face à face” d’André Bercoff du lundi au jeudi à 13h dans Bercoff dans tous ses états Sud Radio.
Toutes les fréquences de Sud Radio sont ici !