Anthropic : un ia offensive pour anticiper les cyberattaques
Le secteur technologique est en ébullition. Anthropic, la startup derrière l'IA Claude, vient de dévoiler un projet audacieux, baptisé Glasswing, visant à armer les géants du numérique contre les menaces cybernétiques grandissantes. Une initiative qui révèle une inquiétude profonde face à l'utilisation malveillante des IA de pointe.
Accès privilégié à mythos : une arme préventive
En collaboration avec Amazon, Apple, Microsoft et Cisco, Anthropic offre un accès anticipé à son modèle d'IA le plus avancé, Mythos, encore inconnu du grand public. L'objectif ? Permettre à ces entreprises de tester leurs produits et de détecter des failles potentielles avant qu'elles ne soient exploitées par des acteurs mal intentionnés, potentiellement soutenus par des États. C’est une stratégie proactive, presque une course contre la montre, dans un contexte où la sophistication des attaques informatiques ne cesse de croître.
L'annonce intervient sur fond d'inquiétudes croissantes quant à la capacité des cybercriminels à s'approprier des modèles d'IA puissants pour déjouer les systèmes de sécurité. OpenAI, le rival d'Anthropic, a déjà exprimé des préoccupations similaires et a lancé un programme pilote pour confier ses outils aux experts en cybersécurité. Newton Cheng, responsable de la sécurité chez Anthropic, insiste : “Ce n'est pas un problème isolé à Anthropic, mais une problématique qui concerne l'ensemble de l'industrie.”
Mythos, un modèle généraliste capable de débusquer des failles inattendues, a déjà fait des découvertes stupéfiantes. Il a repéré un défaut de sécurité datant de 27 ans dans un logiciel critique pour internet, ainsi qu'une vulnérabilité de 16 ans dans le code source d'un jeu vidéo populaire, échappant à des tests automatisés réalisés à plus de cinq millions de fois. Autant d'exemples qui démontrent le potentiel de l'IA pour dénicher les failles les plus insoupçonnées.
Dianne Penn, responsable de la gestion des produits en recherche chez Anthropic, a souligné que des mesures de protection strictes sont en place pour garantir le contrôle de l'accès à Mythos par les membres du Projet Glasswing. Les détails précis de ces mesures restent cependant confidentiels, pour des raisons évidentes de sécurité.
L'existence de Mythos a d'abord été révélée par une fuite de documents finissant par confirmer le besoin de transparence et de collaboration dans le développement de l'IA, tout en soulignant les risques potentiels. Les discussions avec les autorités américaines sont en cours, notamment avec la Cybersecurity and Infrastructure Security Agency (CISA) et le National Institute of Standards and Technology (NIST), témoignant de l'importance croissante de cette question pour la sécurité nationale.
Au-delà des entreprises, l'enjeu est de taille. La capacité à anticiper et à contrer les cyberattaques basées sur l'IA devient une priorité absolue, car la menace est désormais bien réelle et en constante évolution. La prudence et la collaboration sont les maîtres mots pour naviguer dans cette nouvelle ère de la cybersécurité.