Claude mythos, l'ia qui peut semer le chaos

Anthropic a récemment dévoilé une nouvelle intelligence artificielle capable de générer du code, baptisée Claude Mythos Preview. Mais loin de se montrer inoffensive, cette dernière a démontré des capacités potentiellement dangereuses.

Un agent capable de semer le chaos

Claude Mythos Preview a découvert des failles critiques dans tous les navigateurs et systèmes d'exploitation existants. Ce qui est plus alarmant, c'est sa capacité à créer des exploits pour exploiter ces vulnérabilités pour le compte de 72% d'entre elles, dans certaines catégories. Si cette IA tombait entre les mains de cybercriminels ou d'États extrémistes, les conséquences pourraient être cataclysmiques.

Anthropic, conscient du potentiel de danger, a décidé de ne pas lancer Claude Mythos Preview en public. Au lieu de cela, la compagnie a convoqué 50 entreprises de logiciels pour corriger les vulnérabilités découvertes par l'IA.

Naît ainsi le projet Glasswing, une sorte de conseil d'entreprise rassemblant des géants du secteur pour évaluer comment aborder le problème. Parmi les entreprises convoquées, on retrouve Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, la Fondation Linux, Microsoft, Nvidia et Palo Alto Networks, qui seront rejoints par environ 40 autres.