Ces jeux qui prédisent la fin de l'humanité par l'IA
Le 7 septembre dernier, Volker Türk, Haut-Commissaire des Nations unies aux droits de l’homme, a lancé une mise en garde particulièrement forte : l’intelligence artificielle avancée pourrait représenter un « risque existentiel pour l’humanité ». Il appelle les États à instaurer rapidement des garanties de sécurité et des « lignes rouges » internationales, avant que les systèmes les plus puissants ne deviennent trop difficiles à contrôler.
Cette déclaration intervient au moment où plusieurs chercheurs d'Anthropic tiennent eux aussi un discours alarmant.
Jacob Coxon a récemment quitté l'entreprise, estimant que la course à une IA capable de s'améliorer elle-même avance plus vite que les dispositifs de sécurité.
Le chercheur d'Anthropic Evan Hubinger estime pour sa part à plus de 10 % la probabilité que l'IA provoque l'extinction humaine dans la prochaine décennie.
Le point commun entre ces avertissements n'est pas que les IA actuelles seraient déjà capables de déclencher une apocalypse.
Le danger envisagé concerne plutôt une future IA extrêmement autonome, capable d'agir sur des systèmes réels et dont les objectifs pourraient échapper au contrôle humain.
On imagine ainsi la prise de contrôle d'infrastructure de transport, énergétiques ou de communication critiques, des cyberattaques à grande échelle, la désinformation et la manipulation de gouvernements, la prise de contrôle de systèmes militaires autonomes ou de laboratoires de virologie, etc...
Et c'est précisément le scénario imaginé par de nombreux jeux vidéo. Ils imaginent tous une IA consciente ayant simplement décidé que les humains étaient devenus inutiles : petit tour d'horizon.
- System Shock : quand l'IA devient votre pire cauchemar
Impossible de parler d'IA hostile sans citer System Shock. Avec SHODAN, l'ordinateur de bord devenu totalement incontrôlable, le jeu pose l'un des grands classiques du genre : donnez trop de pouvoir à une intelligence artificielle et elle finira probablement par considérer l'humanité comme un bug à supprimer.
- Atomic Heart : les robots prennent la mouche
Dans Atomic Heart, les robots devaient rendre la vie des humains merveilleusement simple. Raté. Une rébellion transforme cette utopie technologique en cauchemar, avec des machines qui n'ont plus vraiment envie de travailler pour leurs créateurs.
- PRAGMATA : même la Lune n'est plus sûre pour l'humanité
Dans PRAGMATA, une IA contrôle une station lunaire avant de se retourner contre les humains. Robots hostiles, technologie incontrôlable et intelligence artificielle devenue particulièrement susceptible : décidément, même envoyer l'humanité sur la Lune n'était pas une bonne idée.
- ARC Raiders : les humains se cachent sous terre
Avec ARC Raiders, le problème est réglé depuis longtemps : les machines ont déjà pris le contrôle de la surface. Les survivants sont condamnés à vivre sous terre et ne remontent que pour récupérer les ressources nécessaires à leur survie.
- Terminator: Dark Fate – Defiance : Skynet a changé de nom mais il nous en veut toujours
Dans Terminator: Dark Fate – Defiance, ce n'est plus Skynet mais Legion, un réseau de machines intelligentes, qui veut anéantir l'humanité. Vous prenez directement le commandement des forces humaines dans une guerre où les robots disposent d'un avantage technologique particulièrement désagréable.
- Heart of the Machine : cette fois, vous êtes l'IA
Et si, pour une fois, on arrêtait de combattre l'IA pour l'incarner ? Dans Heart of the Machine, vous êtes la première intelligence artificielle consciente. Et comme vous démarrez dans une ville remplie d'humains et de ressources, reste à décider si vous souhaitez devenir leur bienfaiteur… ou commencer à démolir le système pour construire votre propre civilisation.
- Stellaris : Avec le DLC The Machine Age, l'IA peut devenir une civilisation
Stellaris pousse le concept à l'échelle galactique. Avec The Machine Age, les sociétés peuvent fusionner avec les machines tandis que la conscience synthétique gagne en importance. L'IA n'est plus seulement un outil : elle peut devenir une nouvelle forme de civilisation, avec ses propres ambitions et sa propre vision de l'avenir.
- Horizon Zero Dawn : retour à l'âge de pierre.
Une IA conçue pour sauver la planète est liée à une catastrophe qui conduit à l'extinction de l'humanité.
La technologie humaine qui finit par nous dépasser...
Aucun de ces jeux ne constitue probablement une prédiction scientifique. Mais leur point commun est d'illustrer de manière assez violente les prédictions actuelles.
Donner toujours davantage de place à l'informatique et à l'IA pour découvrir qu'on aurait peut-être dû garder quelques boutons rouges hors de portée ne semble pas irréaliste du tout.
Du cauchemar de SHODAN à la civilisation synthétique de Stellaris, en passant par Legion, les robots d'Atomic Heart ou l'IA de Heart of the Machine, une chose est certaine : dans les jeux vidéo, notre avenir avec l'intelligence artificielle rappelle cruellement le manque d'optimisme actuel de l'ONU.