Anthropic alerte : l'ia dépasse le contrôle, une coalition urgente est nécessaire
Dario Amodei, le fondateur d'Anthropic, sonne l'alarme : l'intelligence artificielle progresse à une vitesse fulgurante, bien au-delà de la capacité des législateurs et des gouvernements à la suivre. Sa déclaration, contenue dans le manifeste « Politique face à l'IA exponentielle », est un appel à l'action sans équivoque : la régulation doit être impitoyable, avec des blocages des modèles d'IA.
Un nouveau paradigme, une menace existentielle
Amodei ne se contente pas d'exprimer une inquiétude, il établit une analogie saisissante : la situation est comparable à la gestion des armes nucléaires ou des avions, technologies à haut risque nécessitant un contrôle strict. Il compare la situation à celle des hobbits face à Barbal, le pasteur-arbre dans Le Seigneur des Anneaux, tentant de convaincre un personnage puissant de l'urgence d'agir avant que les forces du mal ne prévalent. La lenteur des institutions occidentales, notamment du Congrès américain, est dénoncée comme un facteur aggravant.
Il plaide pour une coopération internationale, une « coalition de démocraties » partageant des technologies clés, comme les puces semi-conductrices, et coordonnant les contrôles d'exportation. Cette alliance exigerait un rejet de ce qu'il qualifie de « tyrannie de haute Technologie ultra-répressive », alimentée par l'IA.
Les risques sont bien plus vastes que l'on ne le pense
Amodei évoque des scénarios terrifiants, allant au-delà des cyberattaques. Il met en garde contre le risque que l'IA devienne « l'outil ultime de l'autocratie », permettant aux régimes autoritaires de consolider leur pouvoir et de supprimer les libertés individuelles. L'utilisation de drones autonomes pour exécuter des ordres illégaux, ou l'analyse massive et intrusive des données personnelles par des systèmes de surveillance, sont des exemples concrets de cette menace.
Il compare la situation à un conflit entre des marines de la Seconde Guerre mondiale et des guerriers médiévaux, soulignant l'importance d'une défense robuste. La question n'est pas de savoir si l'IA est dangereuse, mais de savoir comment la contrôler et l'empêcher de devenir une arme dévastatrice.
Au-delà de la cybersécurité : une nouvelle dimension du risque
Amodei ne se limite pas à la menace de l'IA aux mains des régimes autoritaires. Il anticipe également des risques biologiques, une évolution imprévisible qui pourrait amplifier les défis actuels. Il insiste sur la nécessité d'une régulation proactive et d'une coopération internationale pour faire face à ces menaces émergentes.
Un appel au pragmatisme et à l'action
Malgré les avertissements, Amodei refuse d'adopter une posture apocalyptique. Il souligne l'importance de la préparation, en investissant dans des mesures d'accompagnement pour les travailleurs dont les emplois seront automatisés, et en mettant en place des mécanismes de redistribution de la richesse. « La croissance économique rapide doit créer la base pour une prospérité partagée », affirme-t-il avec détermination. La course à l'IA ne doit pas conduire à une fracture sociale accrue, mais au contraire, à une société plus juste et plus équitable.