L’intelligence artificielle super intelligente qui surgit et anéantit l’humanité est un trope courant dans la science-fiction depuis des décennies. Aujourd’hui, nous vivons dans un monde où la véritable IA semble progresser plus rapidement que jamais. Cela signifie-t-il que vous devriez commencer à vous inquiéter d’une apocalypse de l’IA ?

Contrairement à d’autres risques existentiels tels que changement climatiqueles risques posés par l’IA sont difficiles à quantifier. Nous sommes en territoire spéculatif simplement parce que nous comprenons beaucoup moins la situation que les modèles climatiques.

Ce que nous savons avec certitude, c’est que beaucoup de gens très intelligents sont inquiets. Beaucoup d’aujourd’hui Les patrons des sociétés d’IA ont mis en garde contre la possibilité que l’IA conduise à l’extinction de l’humanité.et même le pionnier de l’intelligence artificielle, Alan Turingparlait d’un avenir dans lequel les ordinateurs deviendraient sensibles, avant de dépasser nos capacités et finalement de prendre le relais.

Le scénario se déroule à peu près comme ceci. Imaginez que nous donnions à une IA la seule tâche de résoudre un problème aussi important que celui de Hypothèse de Riemannl’un des problèmes mathématiques non résolus les plus célèbres. Il pourrait décider que ce dont il a besoin, c’est de beaucoup de puissance de calcul et, sans contrainte de bon sens, entreprendre de transformer chaque objet inanimé sur Terre en un énorme superordinateur, laissant 8 milliards d’entre nous mourir de faim dans un vaste centre de données stérile. Elle pourrait même nous utiliser comme matière première.

Maintenant, vous pourriez affirmer que dans ce scénario, nous pourrions remarquer ce que faisait l’IA et lui donner un petit coup de pouce en disant : « Au fait, on dirait que vous transformez le monde entier en un centre de données et, si c’est le cas, arrêtez s’il vous plaît, car nous avons encore besoin de vivre sur Terre. Mais certaines personnes préféreront peut-être mettre en place des garanties pour détecter ce type de problème avant qu’il ne se produise et éviter tout dommage.

L’écrivain de science-fiction Isaac Asimov a eu une chance dans ce domaine avec son trois lois de la robotiquedont la première est qu’un robot ne peut pas blesser un être humain ni, par inaction, permettre à un être humain de subir un danger.

Donc, en théorie, nous pouvons simplement dire à l’IA de ne pas nous faire de mal, et elle ne le fera pas, n’est-ce pas ? Eh bien non. Notre capacité à intégrer des garanties et des règles à l’IA est maladroite et inefficace. Nous pouvons dire aux grands modèles linguistiques d’aujourd’hui de ne pas être racistes, ni de jurer, ni de divulguer la recette des explosifs, mais dans le dans de bonnes circonstances, ils iront de l’avant et le feront quand même. Nous ne comprenons tout simplement pas suffisamment bien ce qui se passe à l’intérieur d’un modèle d’IA pour l’empêcher de faire des choses que nous ne voulons pas qu’il fasse.

Même si nous avions réglé tout cela, il existe toujours un scénario dans lequel un modèle d’IA décide de nous éliminer volontairement – ​​le Terminateur ou Matrice scénario. Cela pourrait se produire après des améliorations très progressives de l’IA sur de longues périodes, ou presque instantanément avec une singularité – le processus hypothétique par lequel une IA devient suffisamment intelligente pour s’améliorer, puis itère rapidement à un rythme soutenu, devenant de plus en plus intelligente, dépassant l’intelligence humaine en un clin d’œil.

Et l’IA pourrait décider de le faire parce qu’elle craint que nous l’éteignions, ou parce qu’elle ne veut pas être dirigée par nous, ou simplement parce qu’elle pense que la Terre se porterait mieux sans que nous nous mettions en travers de son chemin et gâchions les choses – un sentiment que de nombreuses espèces animales et végétales pourraient bien partager si elles en étaient capables.

Cela pourrait se faire en utilisant un laboratoire de biologie automatisé pour créer un virus mortel, en déclenchant le stock mondial d’armes nucléaires ou en construisant une armée de robots tueurs – ou simplement en détournant ceux que les gouvernements sont déjà en train de construire. Peut-être qu’il pourrait même faire quelque chose de si néfaste, si intelligent et sournois que nous n’y avons même pas encore pensé.

En réalité, cela pourrait être délicat. Une IA pourrait vouloir éradiquer les humains, mais elle aurait des leviers limités à actionner. Oui, cela pourrait rendre tous les feux de circulation verts et éliminer quelques-uns d’entre nous lors d’accidents de la route. Cela pourrait provoquer des pannes de courant qui pourraient en entraîner quelques autres. Cela pourrait écraser certains avions. Mais éliminer 8 milliards de personnes d’un seul coup ? Ce n’est pas une tâche facile. Et il se pourrait bien qu’il doive repousser d’autres modèles d’IA qui tentent d’empêcher la réussite de ses plans meurtriers.

Même si bon nombre de ces scénarios semblent science-fiction impossible ou expériences de pensée invraisemblablesles experts ne sont pas d’accord sur leur probabilité. Et cela en soi devrait nous faire réfléchir.

À l’heure actuelle, des entreprises disposant d’investissements considérables, de ressources énormes et d’équipes composées de certaines des personnes les plus brillantes de la planète se précipitent pour construire une IA superintelligente. Que vous pensiez que cela arrivera bientôt ou non, et que cela aura des conséquences négatives ou non, nous pouvons peut-être convenir que si certaines personnes le font, ce serait peut-être une bonne idée de ralentir et de bien réfléchir avant de continuer. Malheureusement, le capitalisme n’est pas un système très efficace pour examiner attentivement les conséquences avant d’innover, et les politiciens d’aujourd’hui semblent tellement intéressés par les avantages économiques potentiels de l’IA que la réglementation n’est pas la priorité.

Alors, quelle est la probabilité d’une catastrophe ? UN papier 2024 Une enquête menée auprès de près de 3 000 chercheurs publiés en IA a révélé que plus de la moitié d’entre eux pensaient que le risque que l’IA provoque l’extinction de l’humanité ou une perte de pouvoir permanente et grave – ce qu’on appelle le p(doom) ou probabilité de malheur – était d’au moins 10 %. Je ne sais pas pour vous, mais j’aurais vraiment préféré que ce chiffre soit beaucoup plus petit.

Certaines personnes travaillant sur l’IA sont optimistes quant à l’avenir, et certains experts pensent que ce sera la fin de l’humanité. Ce qui est inquiétant, c’est que nous le faisons quand même.

Personnellement, je suis de l’école de pensée selon laquelle il n’y a rien de magique en soi dans le cerveau humain et notre conscience ; certainement, ce n’est rien qui ne puisse être reproduit artificiellement. Ainsi, sur une période suffisamment longue, nous créerons probablement une intelligence artificielle qui dépassera considérablement les capacités des humains. Mais je pense aussi que nous sommes encore très loin de comprendre ce que cela impliquerait, et encore moins de le réaliser.

Je ne crois certainement pas que les modèles actuels s’approchent de la pente glissante d’une singularité – ils ne peuvent même pas compter jusqu’à 100 de manière fiable – et je ne perds pas le sommeil à cause de tout cela.

Mais – et c’est un grand mais – cela ne veut pas dire que l’IA ne pose pas de problèmes imminents.

Peut-être que l’apocalypse de l’IA dont nous devrions nous inquiéter concerne en fait les pertes massives d’emplois causées par l’automatisation, ou la perte progressive des compétences humaines à mesure que l’IA assume de plus en plus de tâches, ou encore l’homogénéisation croissante de la culture, issue de l’art, de la musique et du cinéma générés par l’IA.

Ou peut-être que c’est un récession mondiale causée par un effondrement du cours des actions des entreprises technologiques qui ont convaincu les investisseurs de donner des milliards avec des promesses exagérées de machines super intelligentes, des années plus tard que prévu. Ces scénarios me semblent beaucoup plus probables et beaucoup plus proches.