Immortalité et pièces de rechange – Marcus D. Besnard, janvier 2018, Le Monde Diplomatique
La science-fiction l’a prédit, Elon Musk l’a fait – ou du moins s’y emploie : un jour, nous serons tous des cyborgs, si nous en avons les moyens : moitié humain, moitié intelligence artificielle, grâce à une connexion directe entre notre cerveau et un ordinateur. L’humanité enfin augmentée atteindra l’immortalité, il suffira de changer les pièces défectueuses. Si l’IA n’est pas devenue un dieu…
Installée en plein cœur de la Silicon Valley, l’université de la Singularité s’est donné pour vocation d’enseigner aux entrepreneurs la maîtrise des technologies « exponentielles » — intelligence artificielle (IA), neurosciences, nanotechnologies, génie génétique. Be exponential est le slogan du site… Sa philosophie est liée à son intitulé : la « singularité » désigne le moment, hypothétique, où l’intelligence humaine sera irrémédiablement dépassée par l’IA. Ce concept est la clé de voûte du transhumanisme. Pour rivaliser avec les superordinateurs, les transhumanistes prescrivent une humanité « augmentée », c’est-à-dire aux capacités décuplées par des améliorations technologiques du corps. Ray Kurzweil, principal fondateur de l’université de la Singularité, pense ainsi que l’immortalité serait possible à l’horizon 2030, où nous pourrions transférer notre esprit dans des machines. Exit Homo sapiens.
L’entrepreneur américain Elon Musk fait partie de ceux qui œuvrent à ce futur transhumaniste. Célèbre pour être à l’origine de projets comme le train subsonique Hyperloop, les voitures électriques Tesla ou le tourisme spatial avec SpaceX, il a annoncé en 2017 avoir fondé Neuralink. Cette start-up a pour mission d’élaborer une connexion directe entre le cerveau humain et les ordinateurs, en implantant des électrodes dans le cortex cérébral. L’utilisation serait d’abord médicale — pour soigner des pathologies neurologiques, comme la maladie de Parkinson — mais pourrait ensuite être généralisée, faisant de nous des cyborgs (mi-hommes, mi-machines) capables de transférer nos souvenirs sur le nuage informatique.
Une telle philosophie semble tout droit sortie de la science-fiction. Le concept même de singularité a été inventé par l’écrivain américain Vernor Vinge, qui l’a théorisé en 1993. La technologie développée par Neuralink a été nommée neural lace (« lacet neuronal »), un terme que M. Musk emprunte à l’auteur britannique Iain M. Banks, qui imaginait déjà cette invention dans son cycle « La Culture ». Ce n’est pas la première fois que M. Musk s’inspire de Banks : deux bases de lancement SpaceX ont reçu les noms que l’écrivain a donnés à des vaisseaux spatiaux. Comme le relève 1843, la revue bimestrielle de l’hebdomadaire anglais The Economist : « Pour comprendre la façon dont pensent les magnats des nouvelles technologies, lire les romans de Banks est un bon début. » Les livres de Banks se déroulent dans une société future où la singularité est advenue : les IA sont désormais des consciences quasi divines. Les humains ne peuvent plus les égaler, mais la science permet de modifier son corps à volonté, la maladie et la mort n’existent plus… Banks n’est pas une exception, les auteurs de science-fiction qui évoquent une suprématie des IA sont légion. Le Britannique Charles Stross, par exemple, figure ainsi un avenir où les humains apparaissent comme des primitifs laissés pour compte dans l’évolution, seuls les hommes « augmentés » pouvant rivaliser avec les machines devenues omnipotentes.
Si cette littérature de science-fiction paraît nourrir les conceptions transhumanistes, elle s’avère également en être un puissant vecteur critique. Avec Zero K, le grand Don DeLillo imagine ainsi un institut proposant à des milliardaires de les cryogéniser (c’est-à-dire de conserver leurs corps très basse température), et sonne l’alerte sur la quête d’immortalité du transhumanisme, qu’il dépeint comme une secte convaincue que la fortune permettrait d’acheter le statut d’homme-dieu. Mais l’humain « transhumanisé » n’est plus qu’un corps, sans personnalité ni émotion, un objet mécanique désincarné dont on peut changer les pièces et la batterie, comme un téléphone. Une humanité « augmentée » n’a alors tout simplement plus rien d’humain.
Questions :
- On part ici du postulat que les intelligences artificielles dépasseront l’intelligence humaine. Quelle est la solution proposée par les transhumanistes ?
- Comment la littérature de sciences-fiction a un impact sur le futur de l’humain ?
- « Une humanité n’a alors tout simplement plus rien d’humain » : Êtes vous d’accord ?
Le temps d’un souffle, je m’attarde – Roger Zelazny, 1966
Pendant dix mille ans, Gel se tint au pôle Nord, conscient de chaque flocon de neige qui tombait, conscient aussi de bien d’autres choses. De même que toutes les machines du Nord lui rendaient compte et obéissaient à ses ordres, il ne rendait compte qu’à Solcom et n’obéissait qu’à ses ordres. Chargé de centaines de milliers d’opérations sur la Terre, il parvenait à s’acquitter de ses fonctions en quelques unités horaires par jour.
Il n’avait jamais reçu d’ordres quant à l’emploi de son temps de loisir.
Il était un processeur de données, et davantage encore. Il était mû par un impératif d’une force inexplicable : fonctionner en tout temps à pleine capacité.
C’est donc ce qu’il faisait.
On pourrait dire que c’était une machine dotée d’un violon d’Ingres. Il n’avait jamais reçu l’ordre de ne pas avoir de violon d’Ingres, ainsi donc il en avait un. Son violon d’Ingres, c’était l’Homme.
Tout avait commencé lorsque, pour la seule raison qu’il en avait éprouvé le désir, il quadrilla la totalité du cercle arctique et se mit à l’explorer, centimètre par centimètre. (…) Mais l’exploration n’était qu’une façon d’occuper ses heures creuses, aussi employait-il des robots fureteurs dotés de systèmes de relais.
Au bout de quelques siècles, l’un d’eux mit au jour une série de produits ouvragés — couteaux primitifs, défenses d’animaux taillées et autres objets de même nature.
Gel ne savait pas ce que c’était, hormis qu’il ne s’agissait pas d’objets naturels.
Il s’en enquit auprès de Solcom. « Ce ne sont que des reliques de l’Homme primitif », dit Solcom, sans s’étendre davantage sur la question. Gel étudia les objets. Grossiers, mais portant la marque d’une conception intelligente ; fonctionnels mais transcendant en quelque sorte leur fonction pure.
C’est alors que l’Homme devint son violon d’Ingres. (…)
Gel cherche à savoir ce qu’était l’Homme auprès d’une autre machine.
— As-tu le temps de fournir des renseignements ?
— Oui, dit Mordel. Que veux-tu savoir ?
— Quelle est la nature de l’Homme ?
— L’Homme possédait une nature fondamentalement incompréhensible. Je puis en donner une illustration : Il ne savait pas mesurer.
— Mais si, Il savait mesurer. Sinon Il n’aurait jamais pu construire de machines.
— Je n’ai pas dit qu’Il ne pouvait pas mesurer, dit Mordel, j’ai dit qu’Il ne savait pas mesurer, ce qui est tout différent.
— Précise.
Mordel enfonça une tige de métal dans la neige, puis la retira, la leva, et présenta un morceau de glace.
— Regarde ce morceau de glace, puissant Gel. Tu peux me dire quels sont sa composition, ses dimensions, son poids, sa température. Un Homme n’aurait pu faire de même rien qu’à le voir. Il pouvait fabriquer des outils capables de L’informer sur toutes ces choses, et pourtant Il ne savait pas mesurer comme tu le fais. Ce qu’Il savait de cette glace, en revanche, c’est une chose que tu ne peux connaître.
— Quoi donc ?
— Que c’est froid, dit Mordel, la lançant en l’air.
— « Froid » est une notion relative.
— Oui, relative à l’Homme.
— Mais si je savais déterminer sur l’échelle des températures le point en dessous duquel un objet est froid pour l’Homme et au-dessus duquel il ne l’est plus, alors moi aussi, je saurais ce qu’est le froid.
— Non, dit Mordel, tu serais doté d’une échelle de mesure supplémentaire. Le froid est une sensation tributaire de la physiologie humaine.
— Mais si je disposais de données suffisantes, je pourrais obtenir un facteur de conversion qui me rendrait conscient de l’état de la matière appelé « froid ».
— Conscient de son existence mais non de la sensation elle-même.
— Je ne te comprends pas.
— Je t’ai dit que l’Homme possédait une nature fondamentalement incompréhensible. Ses perceptions étaient organiques ; les tiennes, non. Ses perceptions lui procuraient des sentiments et des émotions qui à leur tour en produisaient d’autres, si bien que ses états de conscience en arrivaient à être très éloignés des objets qui étaient à leur origine. Ces cheminements de la conscience ne peuvent être connus de ce qui est non Homme. L’Homme ne sentait pas les miles ou les mètres, les kilos ou les litres. Il sentait le chaud, Il sentait le froid ; Il sentait la pesanteur et la légèreté. Il connaissait la haine et l’amour, la fierté et le désespoir. Toutes ces choses ne sont pas mesurables. Tu ne peux donc pas les connaître. Tu ne peux connaître que ce que Lui n’avait pas besoin de connaître : dimensions, poids, températures, pesanteurs. Il n’existe pas de formule pour mesurer un sentiment. Pas de facteur de conversion pour une émotion.
— Mais si, forcément, dit Gel. Si une chose existe, elle est connaissable.
— Encore une fois, tu parles mesure. Moi, je parle d’une qualité tirée de l’expérience. Une machine est un Homme à l’envers parce qu’elle peut décrire les moindres détails d’un processus, ce dont l’Homme est incapable, mais elle ne peut éprouver ce processus lui-même comme l’Homme en est capable.
— Il doit bien y avoir une issue, dit Gel, sinon les lois de la logique, qui sont fondées sur le fonctionnement de l’univers, seraient fausses.
— Il n’y a pas d’issue.
— J’en trouverai une si je dispose de données suffisantes.
— Toutes les données de l’univers ne feront pas de toi un Homme, puissant Gel.
— Tu as tort, Mordel.
— Pourquoi les lignes des poèmes que tu as visionnés s’achèvent-elles, avec une telle régularité, par des sons se rapprochant de ceux qui terminent d’autres lignes ?
— Je l’ignore.
— Parce qu’il plaisait à l’homme qu’il en fût ainsi.
Questions :
- Quelles sont les différences entre la machine et les humains ?
- L’histoire se passe longtemps après que les humains se sont transformés en machine, grâce aux IA. A votre avis, quelle est la vision de l’auteur sur les questions transhumanistes actuelles ?