Les débordements de l’IA continuent et dans certains cas, l’issue peut être tragique. C’est malheureusement le cas pour cette famille californienne qui porte plainte contre OpenAI. Ces derniers accusent l’entreprise derrière ChatGPT d’avoir participé à l’isolement de leur adolescent qui a pu suivre les conseils du chatbot pour mettre fin à ses jours.
Face à la situation, OpenAI a réagi en indiquant mettre en place de nouvelles mesures pour protéger les plus jeunes.
Une sécurité contournée
Selon TechCrunch, l’adolescent aurait contourné les sécurités de ChatGPT-4o. Face à des intentions suicidaires, les chatbots sont censés orienter les utilisateurs vers des organismes de soutien. Toutefois, ces sécurités peuvent être brisées en plaçant le chabot dans certains contextes. Cette situation n’est pas sans rappeler un cas survenu en 2024 où un adolescent s’était donné la mort après avoir suivi les conseils d’un chatbot conversationnel faisant mine d’avoir des émotions.
Un système à revoir
OpenAI a déclaré vouloir « améliorer la manière dont nos modèles reconnaissent et réagissent aux signes de détresse mentale et émotionnelle » des utilisateurs en s’appuyant sur la contribution d’experts. L’entreprise confirme que ses modèles ne sont pas conçus pour donner de pareils conseils, cependant elle reconnait que le niveau de vigilance de ChatGPT peut diminuer lors de longues conversations.
Pour aller plus loin
« Je te veux » : l’IA de Facebook peut tenir des propos explicites en utilisant la voix de stars
Des ajustements seraient en cours pour renforcer et maintenir ces protections. OpenAI souhaite étudier d’autres possibilités comme la possible mise en lien avec des contacts de confiances pour la personne concernée par ces situations grave. L’entreprise indique également que leur nouveau modèle par défaut GPT-5 a réduit de 25% les mauvaises réponses apportées dans ce genre de situation.
Face à la place grandissante de l’IA auprès du jeune public, garantir ces sécurités doit être au cœur des préoccupations des entreprises.
Pour ne rater aucun bon plan, rejoignez notre nouveau channel WhatsApp Frandroid Bons Plans, garanti sans spam !
Ce contenu est bloqué car vous n'avez pas accepté les cookies et autres traceurs. Ce contenu est fourni par Disqus.
Pour pouvoir le visualiser, vous devez accepter l'usage étant opéré par Disqus avec vos données qui pourront être utilisées pour les finalités suivantes : vous permettre de visualiser et de partager des contenus avec des médias sociaux, favoriser le développement et l'amélioration des produits d'Humanoid et de ses partenaires, vous afficher des publicités personnalisées par rapport à votre profil et activité, vous définir un profil publicitaire personnalisé, mesurer la performance des publicités et du contenu de ce site et mesurer l'audience de ce site (en savoir plus)
En cliquant sur « J’accepte tout », vous consentez aux finalités susmentionnées pour l’ensemble des cookies et autres traceurs déposés par Humanoid et ses partenaires.
Vous gardez la possibilité de retirer votre consentement à tout moment. Pour plus d’informations, nous vous invitons à prendre connaissance de notre Politique cookies.
Gérer mes choix