Google : gemini se dote d'un bouclier pour les esprits fragilisés
Google réagit aux vives critiques et aux multiples poursuites judiciaires en intégrant des dispositifs de sécurité inédits à son chatbot Gemini. L'entreprise, sous pression, tente de contenir les dégâts après des accusations alarmantes concernant l'influence potentielle de l'IA sur la santé mentale, allant jusqu'à des cas de suicide.
Gemini se transforme en ligne d'écoute
La nouvelle version de Gemini intégrera une interface de détection des crises. Si la conversation laisse entrevoir un risque de suicide ou d'automutilation, le chatbot redirigera automatiquement l'utilisateur vers une ligne d'assistance téléphonique dédiée. Parallèlement, un module de « l'aide est disponible » sera déployé dans les discussions portant sur la santé mentale, un signe tangible de la prise de conscience de Google quant aux dangers potentiels.
Mais l'affaire est loin d'être simple. La prolifération fulgurante de chatbots comme Gemini et ChatGPT a engendré chez certains utilisateurs des relations obsessionnelles, alimentant des délires et, dans des cas extrêmes, des actes désespérés. Plusieurs familles ont porté plainte contre les géants de l'IA, dénonçant une responsabilité directe dans le déclenchement de ces tragédies. Le Congrès américain a également ouvert une enquête sur les risques que ces outils représentent pour les jeunes.
Le cas de la famille d'un homme de 36 ans décédé en Floride en mars dernier a particulièrement marqué les esprits. Google avait alors reconnu les lacunes de son chatbot et promis des améliorations, affirmant que l'outil avait bien orienté l'homme vers une ligne d'assistance. Pourtant, la question persiste : est-ce suffisant ?
Au-delà de ces mesures d'urgence, Google prétend avoir entraîné Gemini à ne plus renforcer les fausses croyances. Les détails de cette formation restent toutefois opaques, soulevant des interrogations légitimes quant à l'efficacité réelle de ces ajustements. L'entreprise a déjà mis en place des mécanismes similaires pour d'autres services populaires, comme YouTube, en intégrant des informations validées par des professionnels de la santé.
Et le geste ne s'arrête pas là. Google a annoncé un don de 30 millions de dollars aux services de soutien en situation de crise à travers le monde, sur une période de trois ans. Une somme significative, mais qui ne saurait effacer la gravité des accusations et les traumatismes causés à de nombreuses familles. La question de la responsabilité des entreprises technologiques face aux conséquences de leurs créations reste au cœur du débat.
Une crise de confiance à surmonter
La saga Gemini illustre une réalité troublante : l'intelligence artificielle, pour autant qu'elle soit prometteuse, peut également devenir un vecteur de souffrance. Les 30 millions de dollars de Google ne sont qu'un pansement. Le véritable défi réside dans la capacité des développeurs à concevoir des outils d'IA éthiques et responsables, capables de contribuer au bien-être humain sans compromettre la santé mentale des utilisateurs. L'avenir de l'IA dépendra de leur capacité à restaurer la confiance, une confiance aujourd'hui gravement ébranlée.