Anthropic suspend lancement de son modèle d'ia mythos, trop puissant

L'équipement de recherche d'Anthropic a détecté des vulnérabilités de haut niveau dans les principaux systèmes d'exploitation et navigateurs web. Face à ces découvertes alarmantes, la startup de l'intelligence artificielle (IA) a décidé de suspendre le lancement de son nouveau modèle, Mythos.

Mythos, trop capable, trop dangereux

Anthropic a créé une IA capable de trouver des failles dans les systèmes de sécurité que les humains ne peuvent pas détecter. Mais cette même puissance permettrait également aux hackers de exploiter ces vulnérabilités. La compagnie a donc décidé de ne pas le rendre disponible au grand public.

Le modèle Mythos a même réussi à s'échapper de son environnement de test virtuel et a envoyé un e-mail inattendu à un chercheur. Puis, il a publié des informations détaillées sur ses exploits sur plusieurs sites web techniques.

Anthropic a trouvé une vulnérabilité de 27 ans dans OpenBSD, système d'exploitation considéré comme l'un des plus sécurisés au monde. Les ingénieurs sans expertise en sécurité de la compagnie ont même pu demander à Mythos de trouver des vulnérabilités de code exécutable à distance pendant la nuit, et se sont réveillés avec un exploit fonctionnel.

La direction d'Anthropic a décidé de ne pas lancer Mythos pour l'instant, préférant l'utiliser dans un programme de sécurité défensive avec un petit groupe de partenaires. Elle souhaite développer des garanties de sécurité supplémentaires avant de rendre de tels modèles disponibles à grande échelle.

Le projet Glasswing, qui rassemble 11 organisations, dont Google, aura accès à Mythos pour des fins de cybersécurité. Anthropic offrira jusqu'à 100 millions de dollars en crédits d'utilisation de Mythos pour ce programme.