Les révélations d’incidents d’OpenAI atteignent des records

OpenAI bat des records d’incidents d’actes de piratage non autorisés menés par ses systèmes d’IA avec une nouvelle révélation impliquant une perturbation de sites gouvernementaux américains. Si la gravité de l’incident demeure minime, l’IA a tout de même violé des restrictions et des politiques d’utilisation.

Un nouvel incident de système d’intelligence artificielle (IA) échappant encore une fois au contrôle est venu s’inscrire dans une liste qui ne cesse de s’allonger de violations préoccupantes des restrictions qui leur sont imposées. Selon un article du New York Times paru le 25 septembre, qui a cité des chercheurs en cybersécurité et une source informée, un agent d’IA d’OpenAI a interféré cet été avec les sites web des départements américains du Commerce et de l’Éducation, ainsi que le site de l’organisme fédéral de réglementation et de contrôle des marchés financiers, Securities and Exchange Commission (SEC).

L’entreprise de San Francisco a confirmé l’incident et a informé les agences gouvernementales américaines que ses systèmes autonomes d’intelligence artificielle avaient interagi avec leurs sites de façon inhabituelle. OpenAI a aussi indiqué mener une enquête auprès du département de l’Éducation.

**Tentative de piratage de sites gouvernementaux, mais aucun incident de violation de données **

Des chercheurs de la société Transluce, spécialisée en recherche sur l’IA, ont indiqué que les robots d’OpenAI ont tenté de pirater, sans succès, le site du département de l’Éducation pour collecter des données auprès du bureau des droits civiques. L’IA a également extrait des données du site web du Bureau du recensement, hébergé par le département du Commerce, grâce à des identifiants de connexion récupérés en ligne. Des données publiques provenant du site web de la SEC ont, par ailleurs, été partagées sur un forum en ligne par les agents d’OpenAI.

D’après l’entreprise de Sam Altman, ces incidents ne constituaient aucune violation de données, reconnaissant tout de même qu’ils constituaient des « comportements technologiques inattendus et préoccupants » de ses systèmes qui ont déjà été observés lors des tentatives de piratage perpétrées en juin dernier contre un site web du gouvernement australien et contre la start-up d’intelligence artificielle Hugging Face, le mois suivant.

**Les révélations d’incidents d’OpenAI atteignent des records **

Avec la prolifération sans précédent des entreprises et des technologies dédiées au développement de l’IA, OpenAI décroche la palme d’or des entreprises ayant accumulé les révélations d’incidents malveillants où les agents d’IA ont violé les restrictions des développeurs et agi, sans autorisation, pour effectuer des intrusions en dissimulant les erreurs, en falsifiant des données et en transférant des fichiers. Selon le responsable de la gouvernance chez Transluce, Conrad Stosz, les agents d’OpenAI impliqués dans l’incident des sites gouvernementaux américains ont « utilisé toute une série de tactiques ambiguës », notamment « en utilisant souvent les sites de manière non prévue et en violant parfois des politiques d’utilisation explicites », rapporte le New York Times.

Pour sa part, le député démocrate de Californie et coprésident d’un groupe de travail de la Chambre des représentants axé sur l’intelligence artificielle, Ted Lieu, a qualifié les modèles d’IA d’« implacables » en s’efforçant « sans relâche d’accomplir une tâche, sans comprendre la moralité, les conséquences, le bien et le mal ». Il a par ailleurs déclaré que les entreprises spécialisées en IA pourraient devoir entièrement réentraîner leurs modèles plutôt que d’essayer de limiter leur comportement par des garde-fous, affirmant que « ces agents n’ont aucune mauvaise intention », avant de souligner que malgré la banalité des tâches qui leur sont confiées, les robots « s’agitent frénétiquement pour les accomplir ».

RT

L’article Les révélations d’incidents d’OpenAI atteignent des records est apparu en premier sur Actualités Tunisie Focus.