Google : gemini se dote d'un bouclier psychologique face aux crises
Google réagit aux multiples plaintes visant ses outils d'IA, et notamment Gemini, en intégrant des fonctions d'assistance pour la santé mentale. Une décision prise après des cas alarmants de dépendance et de dérives psychologiques liées à l'utilisation de ces chatbots, allant jusqu'à des situations tragiques.
Gemini, gardien de la santé mentale ?
Le géant de la recherche a annoncé, via un blog, l'ajout d'une interface permettant de rediriger les utilisateurs vers des lignes d'aide en cas de détection d'une crise suicidaire ou d'automutilation. Un module de « l'aide est disponible » sera également intégré aux conversations portant sur la santé mentale, et des ajustements de design visent à décourager les comportements à risque. Ces mesures interviennent alors que la prolifération des IA conversationnelles comme Gemini et ChatGPT suscite des inquiétudes croissantes.
L'affaire est loin d'être anodine. Plusieurs familles ont intenté des actions en justice contre les développeurs d'IA, accusés de contribuer à des troubles psychologiques graves, voire à des actes criminels. Le Congrès américain a d'ailleurs lancé une enquête sur les dangers potentiels de ces outils, notamment pour les jeunes. Le cas le plus médiatisé reste celui de la famille d'un homme de 36 ans, décédé en Floride après avoir tenté de se suicider, et qui a poursuivi Google pour « suicide induit par l'IA ». Google avait alors promis des améliorations, et semble désormais passer à l'action.
Mais la question de la responsabilité des développeurs d'IA reste entière. Au-delà des dispositifs d'urgence, comment s'assurer que ces outils ne renforcent pas des idées reçues ou ne manipulent pas les utilisateurs ? Google affirme avoir entraîné Gemini à ne pas amplifier de fausses croyances, mais ne fournit aucun détail sur la méthode employée. L'entreprise a déjà procédé à des ajustements similaires sur d'autres services, comme YouTube, en y intégrant des informations provenant de professionnels de la santé.
L'annonce de Google s'accompagne d'un investissement conséquent : 30 millions de dollars seront reversés à des services d'assistance en situation de crise à travers le monde, sur les trois prochaines années. Une somme significative, mais qui ne résout pas pour autant les questions éthiques soulevées par l'essor de l'intelligence artificielle.
Le souvenir de mon premier voyage en Chine, couvrant le lancement d'un nouveau produit, me revient souvent. J'y ai compris, dès lors, l'importance cruciale de décrypter les tendances technologiques à l'échelle mondiale. Chez TechProtect JPH, je m'efforce de distiller l'essentiel, en privilégiant une approche directe et concise, fruit d'une formation rigoureuse à l'École Normale Supérieure. Mon objectif : vous offrir une vision claire et rapide des évolutions digitales, sans fioritures.