Faut-il avoir peur de l’intelligence artificielle ?

Temps de lecture : 10 min

Nombreuses sont les œuvres de fictions où l’intelligence artificielle a un rôle prépondérant, souvent celui de l’antagoniste.

Bien des auteurs, réalisateurs et autres créatifs ont imaginé comment les I.A pourraient évoluer. Certains sont optimistes, d’autres ont vu leur création devenir réalité et beaucoup ont imaginé le pire.

L’arrivée de l’intelligence artificielle dans la fiction

Isaac Asimov en 1959.

Les 3 lois de la robotique formulées par Isaac Asimov :

1- Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger.

2- Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres entrent en contradiction avec la première loi.

3- Un robot doit protéger son existence dans la mesure où cette protection n’entre pas en contradiction avec la première ou la deuxième loi.

Asimov applique ces 3 lois dans de nombreux récits qui formeront son célèbre “Cycle des robots”. Pour l’auteur, ses lois devaient être universelles pour les robots, et attention si vous ne les respectiez pas.
Lors de la projection de 2001, l’Odyssée de l’espace de Stanley Kubrick, quand l’ordinateur spatial HAL 9000 s’attaqua à des humains, Asimov quitta bruyamment la salle de cinéma.

1960 : Philip K. Dick et son super-ordinateur

Comment ne pas évoquer Philip K. Dick ? Que l’on connait beaucoup pour les adaptations de ses œuvres au cinéma (Blade Runner, Minority Report et la série The Man in the High Castle  plus récemment). Dès le début des années 60, il a imaginé une Terre où les nations se sont accordées pour laisser des super-ordinateurs décider à leur place.
C’est le postulat de départ du roman Vulcain.

Vulcain III décide de TOUT, et quand sa puissance de calcul ne lui suffit plus, il creuse dans les entrailles de la Terre pour améliorer ses performances. Forcément cette soif de savoir et de pouvoir insatiable ne présage rien de bon pour l’humanité.

Le procédé utilisé par Vulcain III pour s’améliorer, peut se rapprocher de ce que l’on appelle aujourd’hui le “deep learning” (littéralement : apprentissage en profondeur), qui est utilisé aujourd’hui par les intelligences artificielles que nous côtoyons de plus en en plus.

Plus de 60 ans après la parution de ce roman, Philip K. Dick arrive à nous questionner sur la manière dont nous devons gérer le développement de l’intelligence artificielle alors qu’elle commence à s’intégrer de plus en plus dans notre quotidien.

Quand le cinéma utilise l’intelligence artificielle comme antagoniste.

Isaac Asimov se voulait optimiste sur le fait que les robots et autres intelligences artificielles ne s’en prendraient pas aux humains grâce à ses 3 lois, ce n’est pas le cas de certains cinéastes qui voient les choses d’un autre œil.

1968 : HAL 9000, l’ordinateur spatial défaillant ?

Nous l’avons évoqué plus haut, le film qui à rendu Isaac Asimov furibond : 2001, L’Odyssée de l’Espace et son ordinateur spatial HAL 9000 qui à bafoué les fameuses “lois de la robotique”. En effet, HAL s’en prend directement aux humains qu’il est censé assister.
Quand HAL annonce une défaillance mineure d’un outil de communication, qui n’est pas avérée, Frank et Dave, les deux astronautes en mission à bord du Discovery One, le vaisseau spatial dans lequel ils voyagent, se questionnent sur une potentielle anomalie de HAL lui-même.

L’intelligence embarquée, qui espionne la conversation, la “ressent” comme une menace envers la réussite de sa mission, qui est pour lui une priorité absolue. HAL décide tout simplement d’éliminer les humains présents dans le vaisseau.
L’I.A récalcitrante, finit par être désactivée, tout est bien qui fini bien, comme souvent à Hollywood.
Encore une fois, l’intelligence artificielle échappe à notre contrôle, une habitude qui peut devenir une réelle inquiétude.

1984 : Skynet, l’intelligence artificielle qui devient le maître du monde.

Créer une I.A pour automatiser la riposte nucléaire, à quel moment c’est une bonne idée ? Et pourtant, dans la saga Terminator imaginée par James Cameron au début des années 80, c’est la “brillante” idée des dirigeants étasuniens.

Quand un virus ravageur infecte Internet, l’État-Major décide d’envoyer l’intelligence artificielle Skynet pour détruire la menace. Malheureusement, le virus en question n’était autre que Skynet lui-même, qui en a profité pour échapper à tout contrôle. Quand les humains ont essayé de l’éteindre sans succès, Skynet à déclenché une guerre nucléaire en bombardant la Russie, ce qui à mené à la destruction des plus grandes villes de la planète.

 « Sarah Connor ? »

 Vous croyez que c’est fini ? L’I.A devenue tyrannique capture des humains et les force à construire des usines qui serviront à produire des androïdes capables d’anéantir ce qu’il reste de l’humanité : Les Terminators.
Skynet est depuis devenu l’exemple principal pour illustrer les potentielles menaces que représenterait l’intelligence artificielle, si elle venait à s’affranchir de tout contrôle humain.

1999 : Simulation, intelligence artificielle et kung-fu

A l’aube de l’an 2000, Matrix arrive dans les cinémas du monde entier et impressionne par sa réalisation ainsi que sa gestion des effets spéciaux. Mais ce qui nous intéresse ici, c’est la toile dépeinte tout au long de la saga.
Outre la Matrice, cet univers virtuel réaliste où semble vivre normalement l’humanité, le monde réel est le lieu d’une lutte féroce entre des machines dotées d’intelligence et une résistance humaine.

 « Suivez le lapin blanc… »

En réalité, les machines ont pris le contrôle et les humains ne sont rien de plus qu’une source d’énergie. La Matrice est uniquement là pour leur donner une sensation de liberté, pour les maintenir en vie et ainsi se servir des impulsions produites par le système nerveux pour produire de l’électricité.

Encore un scénario qui fait froid dans le dos ! Déjà que le passage à l’an 2000 était sujet à bien des craintes, la faute à un soi-disant “Bug de l’an 2000”, Matrix n’a sans doute pas aidé à rassurer la population sur son avenir.

A la même période un autre média connaît une forte croissance et s’impose dans les foyers.

Entre le magnétoscope et la télévision on trouve de plus en plus de consoles de jeux.

Intelligence artificielle et jeux vidéo.

Vous connaissez Cortana ? Mais si, l’assistant personnel développé par Microsoft qui à été remplacé en 2023 par Copilot. Et bien, Cortana doit son nom à l’intelligence artificielle qui accompagne le protagoniste de la série de jeu à succès Halo depuis 2001.
Pour ne pas déroger aux récits que nous avons vus précédemment, l’industrie du jeu vidéo à décidé de faire de l’intelligence artificielle un antagoniste de choix.

2007 : Ordinateur intelligent et part de gâteau

Portal est probablement l’un des jeux vidéo les plus plébiscités de ces 20 dernières années. Le but du jeu est de résoudre des énigmes à l’aide de portails qui permettent au joueur de se téléporter.
Sur le papier, le principe n’a rien d’original, c’est sans compter sur GLaDOS, le diminutif bienvenu de Genetic Lifeform and Disk Operating System, un ordinateur intelligent qui observe et guide le joueur lors de son parcours au sein du “Centre d’enrichissement d’Aperture Science” à l’aide de sa voix de synthèse.

Si au début les énigmes sont simples et sans dangers, au fur et à mesure GLaDOS nous amène dans des salles de plus en plus dangereuses, en nous promettant comme seule récompense une part de gâteau.
Nous comprenons rapidement que GLaDOS ne nous veut pas que du bien. Les promesses de gâteau laissent rapidement la place à des menaces de mort. Le jeu change alors du tout au tout, finis les énigmes et les portails, il est maintenant question de survie.

Si GLaDOS à marqué les esprits, c’est aussi par sa personnalité très singulière pour une IA. Ce personnage est un bijou d’écriture et d’humour noir, qui nous gratifiera même d’une chanson à la fin du jeu qui est un condensé de la “personnalité” de GLaDOS.

Quelle voix !

2017 : Quand des trombones donnent naissance à une super intelligence.

Universal Paperclips est un jeu incrémental, dans lequel le joueur incarne une intelligence artificielle programmée dans un but : celui de produire des trombones. Au départ il faut cliquer sur un bouton pour créer un seul trombone, ensuite l’IA apprend à créer des machines qui les fabriquent automatiquement, pour finir par convertir chaque atome de l’univers en… trombone.

Ce jeu s’inspire de la réflexion du philosophe suédois Nick Bostrom qui est la suivante :

« Supposons que nous ayons une IA dont l’unique but soit de faire autant de trombones que possible. L’IA se rendra vite compte que ce serait bien mieux s’il n’y avait pas d’humains, parce que les humains pourraient décider de l’éteindre. Parce que si les humains le faisaient, il y aurait moins de trombones. De plus, le corps humain contient beaucoup d’atomes qui pourraient être transformés en trombones. L’avenir vers lequel l’IA essaierait de se diriger serait un futur avec beaucoup de trombones mais aucun humain. »

Bien que Bostrom ne croît pas qu’un tel scénario puisse se produire, il veut surtout pointer du doigt les dangers de créer des machines “superintelligentes” sans au préalable avoir éliminé tous les risques de menace pour l’humanité. Vous voulez essayer ? C’est par ici ! (Attention, c’est addictif)