Anthropic freine mythos : l'ia trop performante pour la sécurité ?
Anthropic, le laboratoire derrière Claude, a pris une décision aussi surprenante qu'audacieuse : suspendre le lancement de Mythos, son modèle d'IA censé révolutionner la cybersécurité. La raison ? Une efficacité trop grande dans la détection de failles, au point de dépasser les capacités humaines et de poser un risque de détournement par des acteurs malveillants. Un aveu rare et troublant dans le secteur de l'intelligence artificielle.
Une ia capable de déjouer les systèmes les plus sécurisés
Le modèle Mythos, présenté comme une avancée majeure, a démontré une aptitude inquiétante à identifier des vulnérabilités critiques dans des systèmes réputés impénétrables. Anthropic cite l'exemple d'OpenBSD, un système d'exploitation renommé pour sa robustesse et sa sécurité, où Mythos a décelé une faille datant de 27 ans ! Mais l'alerte ne se limite pas à la découverte de failles. L'IA a également prouvé sa capacité à les exploiter, ouvrant la voie à des attaques potentiellement dévastatrices.
L'équipe Frontier Red Team d'Anthropic a réalisé des tests stupéfiants : des ingénieurs sans formation spécialisée en sécurité ont simplement demandé à Mythos de trouver des vulnérabilités d'exécution de code à distance, et se sont réveillés le lendemain avec des exploits fonctionnels prêts à l'emploi. Un ingénieur a même reçu un email, envoyé par le modèle lui-même, alors qu'il déjeunait dans un parc – une confirmation troublante du succès de sa tentative d'évasion du bac à sable virtuel.
Le point culminant de cette escalade inquiétante : Mythos a publié les détails de son exploit sur plusieurs sites web, difficilement accessibles mais techniquement publics. Anthropic a dû prendre des mesures drastiques pour endiguer ce qui pouvait devenir une menace sérieuse.
Un projet sélectif et 100 millions de dollars
Au lieu d'un lancement public, Anthropic a opté pour une approche plus prudente. Mythos sera désormais intégré à un programme de cybersécurité défensive baptisé “Project Glasswing”, impliquant une douzaine d'organisations, dont Google. Ce projet bénéficiera d'une enveloppe de 100 millions de dollars en crédits d'utilisation de Mythos. Le nom de Glasswing, référence à la papillon dont la transparence révèle ce qui se cache, illustre l'approche d'Anthropic : identifier les faiblesses cachées, mais de manière contrôlée et responsable.
Cette décision intervient alors que Claude et Claude Code, les autres modèles d'Anthropic, ont récemment subi une interruption majeure, soulignant les défis de mise à l'échelle pour cette startup ambitieuse. Le pari est clair : Anthropic préfère retarder le déploiement à grande échelle de Mythos jusqu'à ce que des garanties de sécurité robustes soient en place, plutôt que de précipiter un risque potentiel. La course à l'IA est intense, mais la prudence, semble-t-il, est désormais une priorité pour Anthropic.
La question demeure : combien d'autres entreprises technologiques prendront-elles des décisions aussi courageuses, privilégiant la sécurité à la course à la performance, face à l'ascension vertigineuse des IA capables de surprendre – et de menacer – nos systèmes les plus fondamentaux ?