Introduction au thème
Reportage d’envoyé spécial
D’où vient l’IA ?
Quand la fiction dessine l’avenir de l’intelligence artificielle, de « Frankenstein » à « Terminator »
Par Elisa Thévenet pour Le Monde
La fiction, laboratoire éthique de l’IA
Cette fascination pour la conscience des produits d’intelligence artificielle puise sa source dans la littérature. A commencer par l’un des mythes fondateurs de l’ère industrielle : Frankenstein ou le Prométhée moderne (1818). Né sous la plume de Mary Shelley il y a plus de deux siècles, le monstre suturé de Victor Frankenstein incarne l’hubris de la science et les dérives du progrès.
Allégorie de l’IA, la créature électrique apprend des hommes le langage et la violence, la philosophie et la cruauté. Rejeté par le monde, haï par son créateur, il se vengera par le sang. Héritier du mythe hébraïque du Golem – né de l’argile et du chaos, figure rédemptrice et apocalyptique de la tradition juive. Enfanté par le terrible destin de Prométhée, voleur de feu, condamné à la torture éternelle pour avoir confié aux hommes le souffle divin, Frankenstein catalyse l’angoisse existentielle d’une technique omnipotente. Un motif qui a donné naissance à des générations de récits épouvantés.
« Aucune œuvre littéraire n’a autant forgé la manière dont les humains imaginent la science et ses conséquences morales que Frankenstein », affirme l’écrivain Charles E. Robinson, en introduction d’une édition du M.I.T. Press annotée spécialement pour « les ingénieurs, chercheurs et inventeurs de toute sorte ». Publiée en 2017, cette édition nourrit les cours d’éthique fondés sur la science-fiction qu’une poignée d’enseignants tentent depuis quelques années d’introduire, outre-Atlantique, dans le cursus des concepteurs d’IA.
« La fiction expose les étudiants à une panoplie de situations éthiques et leur apprend à les reconnaître, à s’identifier aux personnages et à se demander comment ils réagiraient à leur place », expliqueAndréane Sabourin Laflamme, professeure de philosophie et d’éthique de l’IA au collège André-Laurendau à Montréal (Canada). L’universitaire – qui mobilise des extraits de la série Black Mirror (2011-2014) dans ses amphis – vient de publier un référentiel de compétences pour accompagner ses futurs collègues.
« On devrait mettre en place des cours de science-fiction obligatoires, abonde Thierry Ménissier, responsable de la chaire éthique & IA de l’Institut de philosophie de Grenoble. La science naît dans l’imaginaire. » Pour anticiper les questions de demain, son équipe s’est lancée dans le design fiction – une approche prospective qui s’attelle à faire émerger de nouveaux récits pour appréhender le futur. « Les innovations mises sur le marché sont marketées à partir d’imaginaires étroits qu’il faut absolument repenser », juge-t-il.
Des références difficiles à dépasser
« La fiction est un formidable laboratoire d’idées », abonde l’essayiste Natacha Vas-Deyres, spécialiste de la science-fiction. A condition d’en dynamiter les poncifs. Car si les œuvres d’anticipation ouvrent une porte vers l’avenir, elles menacent aussi d’atrophier nos imaginaires. « La littérature et le cinéma ont un rôle d’habituation », confirme la chercheuse bordelaise. Or, l’IA y est souvent dépeinte sous les traits de robots humanoïdes ou d’agents conversationnels sensibles. « Sauf que la plupart des systèmes d’IA n’ont pas cette forme », regrette Andréane Sabourin Laflamme. Ils sont dans Parcoursup, calculent aux Etats-Unis les risques de récidive des détenus ou encadrent les demandes de crédit. Pourtant, quand on parle d’IA, l’imagerie collective invoque plus facilement l’androïde herculéen de Terminator (James Cameron, 1984) que la saisie semi-automatique de Google. […]
Imaginer l’avenir de l’IA en convoquant les grands récits littéraires sans chercher à les interroger peut, dès lors, poser problème. En 2016, dans ses recommandations concernant les règles de droit civil sur la robotique, la Commission des affaires juridiques du Parlement européen proposait ainsi d’intégrer les lois de la robotique d’Isaac Asimov au cadre légal. Trois lois – censées empêcher les machines de nuire aux hommes – formulées par l’écrivain de science-fiction américain en 1942 dans sa nouvelle Cercle vicieux et dont l’inefficacité était pourtant démontrée par Asimov lui-même.
Que des législateurs qui tiennent au creux de leurs mains l’avenir de la réglementation de l’IA aient envisagé de s’appuyer sur une interprétation parcellaire d’un recueil de nouvelles pour dessiner les contours d’un champ juridique essentiel pour l’avenir de nos sociétés ultra-connectées interroge. « Certains décideurs organisent des rencontres pour parler des droits des robots, quand ils devraient s’attaquer aux problèmes de discrimination dans les processus de décision gérés par des algorithmes », constate outre-Manche la Royal Society, conseil scientifique du gouvernement britannique, dans un rapport publié en 2018.
Questions
- Pourquoi pensez-vous que les scientifiques s’inspirent de la littérature ?
- Quelles en sont les limites ?
- Quel lien faites vous entre Frankenstein et l’IA ?
La crainte de l’IA : une peur ancienne
Isaac Asimov (1920 – 1992)
Ecrivain Américain, Asimov est l’un des plus importants auteurs de science fiction en anglais.
Sa série “cycle de fondation” a été élue “meilleure série de SF de tous les temps”. Il a également écrit le “cycle des robots”, qui présente une vision novatrice pour l’époque de la robotique.
Il y énonce les “3 lois de la robotique”, qui sont encore aujourd’hui la base de la majorité des travaux sérieux dans le domaine :
- Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger ;
- Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres entrent en contradiction avec la première loi ;
- Un robot doit protéger son existence dans la mesure où cette protection n’entre pas en contradiction avec la première ou la deuxième loi.
Isaac Asimov – Préface de Les Robots
C’est en Angleterre, au cours de l’année 1817, que Mary Shelley termina son roman, lequel fut publié en 1818. Il racontait l’histoire d’un jeune scientifique, étudiant en anatomie, qui avait assemblé un être en laboratoire et réussi à lui insuffler la vie par le truchement de l’électricité. L’être en question (auquel Mary Shelley n’avait pas donné de nom) était une monstrueuse créature de deux mètres cinquante, dont l’horrible visage donnait des crises de nerfs à tous ceux qui étaient admis à le contempler. Le monstre ne peut trouver de place dans la société humaine et, dans sa détresse, se retourne contre le savant et ceux qui lui sont chers. Les uns après les autres, les parents du jeune scientifique (sa fiancée comprise) sont détruits et, à la fin, le savant en personne finit lui-même par succomber. Sur quoi le monstre va se perdre dans un désert de glace, sans doute pour y périr de remords. Le roman produisit une sensation considérable et a toujours conservé, depuis, son extraordinaire pouvoir.
Demandez à des inconnus dans la rue s’ils ont entendu parler de Frankenstein. Frankenstein était en effet le titre du roman de Mrs. Shelley et le nom du jeune scientifique qui avait créé le monstre. Depuis ce jour, le nom de « Frankenstein » a toujours servi à désigner le nom de la créature qui détruit son créateur. Frankenstein remporta son succès, en partie du moins, car il exprimait une nouvelle fois l’une des peurs les plus persistantes qui aient jamais hanté l’humanité : celle de la science dangereuse. Frankenstein était un nouveau Faust cherchant à percer le secret d’un savoir qui n’était pas destiné à l’homme, et il avait créé sa Némésis méphistophélique.
Dans les premières années du XIXe siècle, la nature exacte de l’invasion sacrilège à la Frankenstein d’une connaissance interdite semblait très claire. La science de l’homme en pleine expansion pourrait vraisemblablement insuffler la vie à une matière morte ; mais quant à créer une âme, il dépenserait ses efforts en pure perte, car c’était là le domaine exclusif de Dieu. En conséquence, Frankenstein pouvait au mieux créer une intelligence dépourvue d’âme, une telle ambition étant d’ailleurs maléfique et digne du châtiment suprême. La barrière théologique qui se dressait devant les nouvelles acquisitions de la connaissance et de la science humaines devint moins infranchissable à mesure que s’écoulait le XIXe siècle. La révolution industrielle étendit ses conquêtes en surface et en profondeur, et l’interdit faustien céda temporairement la place à une confiance irréfléchie dans le progrès et en l’avènement inévitable d’un royaume d’Utopie par la science. Ce rêve fut, hélas, dissipé par la Première Guerre mondiale. Cet affreux massacre démontra clairement que la science pouvait, après tout, devenir l’ennemi de l’humanité. C’est grâce à la science qu’on pouvait fabriquer de nouveaux explosifs, grâce à elle qu’on pouvait construire des aéroplanes et aéronefs susceptibles de les transporter derrière les lignes, sur des objectifs qui se trouvaient autrefois en sécurité. C’est encore la science qui avait permis, comble de l’horreur, d’arroser les tranchées de gaz toxiques. En conséquence, le Méchant Savant, ou au mieux le Savant Fou et Sacrilège, devint un personnage typique de la science-fiction d’après la Première Guerre mondiale.
Un exemple fort dramatique et convaincant de ce thème apparut sur une scène de théâtre, avec un argument tournant encore autour de la création d’une approximation de la vie. Il s’agissait de la pièce R.U.R., de l’auteur dramatique tchèque Karel Capek. Écrite en 1921, elle fut traduite en anglais en 1923. R.U.R. signifiait Rossum Universal Robots (Robots universels de Rossum). Comme Frankenstein, Rossum avait découvert le secret de fabriquer des hommes artificiels. On les appelait « robots », d’après un mot tchèque signifiant « travailleur ». Comme leur nom l’indique, les robots sont conçus pour servir de travailleurs, mais tout se gâte. L’humanité, ayant perdu ses motivations, cesse de se reproduire. Les hommes d’État apprennent à se servir des robots pour la guerre. Les robots eux-mêmes se révoltent, détruisent ce qui subsiste de l’humanité et s’emparent du monde. Une fois de plus, le Faust scientifique était détruit par sa création méphistophélique.
Dans les années 1920, la science-fiction devenait pour la première fois une forme d’art populaire, cessant d’être un simple tour de force exécuté par un maître occasionnel tel Verne ou Wells. Des magazines exclusivement consacrés à la science-fiction firent leur apparition sur la scène littéraire en même temps, bien entendu, que des « auteurs de science-fiction ». Et l’un des thèmes clés de la science-fiction était l’invention d’un robot – que l’on décrivait généralement comme une créature de métal sans âme et dépourvue de toute faculté d’émotion. Sous l’influence des exploits bien connus et du destin ultime de Frankenstein et de Rossum, une seule trame semblait désormais possible à l’exclusion de toute autre : des robots étaient créés et détruisaient leur créateur. […]
Considérons le robot simplement comme un dispositif de plus. Il ne constitue pas une invasion sacrilège du domaine du Tout-Puissant, ni plus ni moins que le premier appareil venu. En tant que machine, un robot comportera sans doute des dispositifs de sécurité aussi complets que possible. Si les robots sont si perfectionnés qu’ils peuvent imiter le processus de la pensée humaine, c’est que la nature de ce processus aura été conçue par des ingénieurs humains qui y auront incorporé des dispositifs de sécurité. Celle-ci ne sera peut-être pas parfaite, cependant elle sera aussi complète que les hommes pourront la réaliser.
Questions :
- Pourquoi la robotique et l’IA sont liés ?
- Asimov explique la vision négative des robots et du scientifique dans la littérature. Résumez sa position.
- Pourquoi Asimov souhaite donner une vision positive du robot ?
Le point de vue Japonais sur la question des IA
https://www.bbc.com/afrique/monde-58309689
Intelligence artificielle : ce que le Japon peut nous apprendre sur les robots
Intelligence artificielle : ce que le Japon peut nous apprendre sur les robots, Amos Zeeberg, BBC Future, août 2021
Le Japon est connu depuis longtemps comme une nation qui construit des robots humanoïdes et s’y attache avec plus d’enthousiasme que toute autre. Si cette réputation est souvent exagérée à l’étranger – les foyers et les entreprises japonais ne sont pas densément peuplés d’androïdes, comme le laissent entendre les gros titres hyperventilés – elle n’est pas sans fondement.
Certains observateurs de la société japonaise affirment que la religion indigène du pays, le shinto, explique son penchant pour les robots.
Le shinto est une forme d’animisme qui attribue des esprits, ou kami, non seulement aux humains mais aussi aux animaux, aux éléments naturels comme les montagnes, et même aux objets du quotidien comme les crayons.
“Toutes les choses ont un peu d’âme”, selon les mots de Bungen Oi, le prêtre en chef d’un temple bouddhiste qui a organisé des funérailles pour des chiens de compagnie robotisés.
Selon ce point de vue, il n’y a pas de distinction catégorique entre les humains, les animaux et les objets, il n’est donc pas si étrange qu’un robot fasse preuve de comportements semblables à ceux des humains – il montre simplement son type particulier de kami.
“Pour les Japonais, nous pouvons toujours voir une divinité à l’intérieur d’un objet”, explique Kohei Ogawa, concepteur d’androïdes.
Les Grecs anciens étaient animistes en ce sens qu’ils voyaient des esprits dans des lieux naturels comme les cours d’eau, mais ils considéraient l’âme et l’esprit humains comme distincts et supérieurs au reste de la nature. Les religions abrahamiques placent l’homme sur un piédestal encore plus élevé, comme la plus grande création de Dieu, les seuls vaisseaux contenant des âmes immortelles. […]
Un moteur de l’industrie
Certains chercheurs affirment que les racines de l’opinion positive du Japon sur la technologie, et les robots en particulier, sont principalement socio-économiques et historiques plutôt que religieuses et philosophiques. Dans les années qui ont suivi la Seconde Guerre mondiale, le Japon s’est tourné vers les nouvelles technologies pour reconstruire non seulement son économie, mais aussi l’image qu’il avait de lui-même.
“Les robots industriels ont joué un rôle majeur dans la renaissance économique du Japon dans les années 60”, explique Martin Rathmann, spécialiste du Japon à l’université de Siegen, en Allemagne.
“Au lieu d’assouplir les politiques d’immigration strictes pour pallier la pénurie de main-d’œuvre, ils ont introduit une automatisation généralisée grâce à la robotique.” […]
Le Japon avait été contraint de se démilitariser pendant l’occupation américaine, et la nation officiellement pacifiste a fait peu d’efforts pour utiliser les robots comme armes.
Ces facteurs ont contribué à inculquer une vision généralement positive des robots dans le Japon d’après-guerre. L’automatisation industrielle avait constitué un atout économique majeur, et les robots humanoïdes étaient une curiosité inoffensive. L’Occident, quant à lui, avait tendance à adopter un point de vue moins optimiste.
Les États-Unis, préoccupés par la guerre froide, ont injecté des fonds dans la robotique à des fins militaires, ce qui a jeté une aura menaçante sur le domaine. Et les travailleurs occidentaux ont longtemps pensé que l’automatisation prenait les emplois des hommes, depuis que les luddites ont détruit les machines textiles en Angleterre à la fin du 18e et au début du 19e siècle.
Ces visions divergentes de la technologie se sont révélées dans la culture pop de la seconde moitié du XXe siècle.
L’un des personnages japonais les plus influents de cette époque est Astro Boy, qui a été introduit dans les bandes dessinées manga en 1952 et est ensuite apparu dans des livres, des émissions de télévision, des films et une large gamme de produits dérivés tels que des figurines et des cartes à collectionner.
Astro Boy était un androïde qui utilisait ses pouvoirs surhumains pour le bien et ralliait le pays autour d’un message positif sur la technologie – même si ce n’était pas son intention à l’origine.
“Le message de Tezuka, qui consistait en une critique du comportement humain, n’a pas été compris ; au lieu de cela, seul le personnage sympathique d’un robot sauveur a été idéalisé comme un espoir pour l’avenir de la société japonaise.”
Le message a laissé une marque puissante sur une génération de Japonais, notamment ceux qui allaient fabriquer leurs propres androïdes.
“La robotique japonaise est animée par le rêve d’Astro Boy”, selon l’ingénieur Yoji Umetani”.
L’Occident a également raconté des histoires positives sur les robots, mais celles qui ont le plus marqué les esprits concernent les menaces qu’ils font peser sur l’humanité. Dans 2001 : L’Odyssée de l’espace, le système informatique intelligent Hal se rebelle et tue plusieurs des membres de l’équipage du vaisseau spatial qu’il contrôle. Dans Do Androids Dream of Electric Sheep ? et son adaptation cinématographique, Blade Runner, des androïdes à l’apparence humaine convaincante se rebellent contre leur servitude jusqu’à ce qu’ils soient traqués et tués.
La peur de l’Occident à l’égard des robots s’est cristallisée dans la série Terminator, dans laquelle le réseau informatique de défense SkyNet prend conscience de lui-même, les humains tentent de l’arrêter et SkyNet utilise des androïdes appelés Terminators pour leur faire la guerre.
De nombreuses œuvres occidentales de science-fiction reprennent les mêmes avertissements moraux que Frankenstein et RUR : la folie de créer une vie artificielle, le paradoxe de savoir si une chose fabriquée par l’homme peut avoir une âme, l’impossibilité de coexister avec nos créations les plus sophistiquées.
Pendant ce temps, le Japon, moins préoccupé par les craintes d’un soulèvement des robots, est impatient d’utiliser des robots pour pallier une grave pénurie de main-d’œuvre et s’acquitter de tâches telles que la prise en charge de la population âgée du pays, qui croît rapidement.
Questions
- Résumez les raisons qui expliquent l’amour de l’IA au Japon
- Comment l’auteur explique les différences de point de vue entre Japon et Occident sur cette questions ?