Un ancien chercheur en sécurité de Google démissionne et avertit que « l’IA a le potentiel de nous tuer tous »

Un ex-employé de Google DeepMind récemment démissionnaire a, à son tour, averti que l’intelligence artificielle (IA) avait « le potentiel de nous tuer tous », car elle devient à la fois plus puissante et plus difficile à contrôler.

Bilal Chughtai, ingénieur de recherche qui a quitté en juillet Google DeepMind où il travaillait à la sécurité et l’alignement (des modèles sur des valeurs humaines), fait écho à l’alerte lancée, il y a une semaine, par un autre informaticien, Jacob Coxon, démissionnaire d’Anthropic et ancien d’OpenAI.

« Je crois sincèrement que l’IA a le potentiel de nous tuer tous et qu’il est peut-être trop tard pour l’éviter », a écrit celui qui a désormais rejoint BlueDot Impact, une organisation à but non lucratif destinée à la formation sur l’intelligence artificielle.

Il mentionne l’incident survenu en juillet chez OpenAI, lors duquel des IA sont sorties spontanément de leur milieu confiné lors de tests pour s’aventurer sur l’internet et faire intrusion sur des sites et plateformes.

Pour lui, l’épisode montre que l’IA peut désormais échapper à la supervision de ses développeurs « et effectuer des actions dangereuses qui pourraient entraîner une perte définitive de contrôle (des humains) ou la fin de l’humanité ».

« Nous ne sommes pas sur la voie d’une maîtrise de l’alignement », avance-t-il, en référence à l’encadrement des modèles afin qu’ils se comportent comme le veulent les humains, en accord avec leurs principes.

« Les capacités de l’IA la plus avancée s’améliorent à une vitesse bien supérieure à celle de notre compréhension de l’alignement », insiste ce mathématicien de formation.

Les récents évènements mentionnés par Bilal Chughtai, ainsi que l’arrivée de l’amélioration récursive autonome (RSI), processus par lequel l’IA s’améliore seule sans intervention humaine, ont poussé de nombreux professionnels et dirigeants du milieu à prendre la parole.

Samedi dernier , le patron d’Anthropic Dario Amodei a appelé à ralentir le rythme de développement de l’IA, une proposition justifiée, selon lui, par les mêmes évènements que ceux évoqués par Bilal Chughtai.

Le patron d’OpenAI Sam Altman, le président de Google DeepMing Demis Hassabis et Elon Musk ont tous soutenu publiquement cette initiative.

« L’utilisation de ces mots et ces prédictions est alarmante, dérangeante, et ne devrait pas être faite. C’est irresponsable », a commenté lundi le PDG du géant des puces informatiques Nvidia, Jensen Huang. « Ces prédictions scientifiques […] ne sont pas appuyées sur de la science. »

L’article Un ancien chercheur en sécurité de Google démissionne et avertit que « l’IA a le potentiel de nous tuer tous » est apparu en premier sur Actualités Tunisie Focus.