Amazon et les autres entreprises se heurtent aux erreurs de leurs agents d'intelligence artificielle

Les entreprises qui déploient massivement l'intelligence artificielle (IA) dans leurs processus de création de code sont confrontées à de graves erreurs, révélant ainsi un équilibre délicat à trouver entre la rapidité de l'innovation et la sécurité.

Les agents d'ia errants font des ravages

La semaine dernière, Business Insider a rapporté que Amazon avait mis en place de nouvelles mesures de sécurité après une série d'interruptions, notamment une principalement causée par son outil de codage basé sur l'IA, entraînant la perte de presque 120 000 commandes. Des incidents similaires ont touché d'autres entreprises au fil de leur adoption de l'IA.

Les employeurs doivent maintenant gérer ce dilemme : si le développement est trop restreint, l'expérimentation ralentit ; mais si la mainmise est trop lâche, les risques d'agents d'IA détraqués ou de code mal revu se multiplient rapidement.