Quiconque a déjà essayé une IA conversationnelle comme ChatGPT ou Gemini le sait : il est très facile d’oublier que l’on a affaire à une machine. Le phrasé est naturel et vous pouvez même donner des consignes pour l’orienter vers un ton encore plus « humain ».
Certaines personnes vulnérables s’investissent alors un peu trop dans leur relation avec le chatbot. Poussé à l’extrême, ce genre de situation peut avoir des conséquences dramatiques. Pour Google, Gemini doit pouvoir éviter cela. Une mise à jour lui donne plus d’outils afin d’y parvenir.
L’IA Gemini vous pousse à chercher de l’aide si vous broyez du noir
On note d’abord la refonte d’une fonctionnalité existante. Si vos propos font dire à Gemini qu’il y a un risque pour votre santé mentale, il vous répondra de contacter un spécialiste en affichant une carte dédiée remaniée. Celle-ci reste accessible même quand vous descendez sur la page. Elle comporte des boutons d’appel, d’envoi de message ou, si disponible, de chat en direct.
Si la discussion se poursuit, l’IA continuera de vous encourager à chercher une aide extérieure réelle. Les réponses ont été mises au point avec des spécialistes pour mieux englober les divers sujets potentiels. Elles ne renforcent pas les fausses croyances et ne valident pas les comportements dangereux comme les blessures auto-infligées.
Il y a également de nouveaux garde-fous concernant les mineurs. Lors de la conversation, Gemini fera attention de ne pas favoriser un attachement émotionnel. L’IA ne dira pas qu’elle est humaine ou proche des humains. Son langage restera plus neutre. Enfin, elle n’encouragera pas le harcèlement ou l’intimidation.
Ce contenu est bloqué car vous n'avez pas accepté les cookies et autres traceurs. Ce contenu est fourni par Disqus.
Pour pouvoir le visualiser, vous devez accepter l'usage étant opéré par Disqus avec vos données qui pourront être utilisées pour les finalités suivantes : vous permettre de visualiser et de partager des contenus avec des médias sociaux, favoriser le développement et l'amélioration des produits d'Humanoid et de ses partenaires, vous afficher des publicités personnalisées par rapport à votre profil et activité, vous définir un profil publicitaire personnalisé, mesurer la performance des publicités et du contenu de ce site et mesurer l'audience de ce site (en savoir plus)
En cliquant sur « J’accepte tout », vous consentez aux finalités susmentionnées pour l’ensemble des cookies et autres traceurs déposés par Humanoid et .
Vous gardez la possibilité de retirer votre consentement à tout moment. Pour plus d’informations, nous vous invitons à prendre connaissance de notre Politique cookies.