Parler à un chatbot géré par une intelligence artificielle est très simple de nos jours. Gemini, ChatGPT, Meta AI… Ce n’est pas ça qui manque. Et avec leurs capacités à répondre comme un être humain, certaines personnes ont tendance à oublier que ces services restent des machines.
Dans de rares cas, cela conduit à des situations extrêmes. De la relation amoureuse factice à, plus grave, des discussions à l’issue tragique. Meta prend ce genre de cas très au sérieux et multiplie l’intégration d’outils à destination des parents au sein de la Supervision Parentale d’Instagram. Le plus récent se veut proactif.
Le PC Gamer AQUAFORGE offre un excellent équilibre entre performances et polyvalence, avec une configuration moderne idéale pour jouer en Full HD dans d’excellentes conditions.
Une alerte de Meta en cas de conversation dangereuse entre un ado et l’IA
Actuellement, quand un mineur (à partir de 13 ans, l’âge minimum pour ouvrir un compte sur l’un des services de Meta) discute de suicide ou d’automutilation avec Meta AI, le chatbot le redirige vers des numéros d’urgence adaptés. Il encourage aussi l’enfant à parler à un parent ou un adulte de confiance.
En plus de ce premier niveau de réponse, Meta AI enverra désormais une alerte sur le smartphone du ou des parent(s) par l’intermédiaire de la Supervision Parentale. Vous pouvez voir le résultat ci-dessous. Des ressources et des conseils sont également prodigués.
Meta, qui a travaillé avec des parents et des experts pour déterminer quels types de conversation nécessitent une alerte, reconnaît que ce n’est pas une science exacte. C’est pourquoi chaque discussion signalée par l’IA sera examinée par un humain formé pour l’occasion. C’est lui qui décidera d’envoyer l’alerte ou non au final. En cas de doute, il le fera, quitte à se tromper.
Cet outil rejoint celui qui repère quand un adolescent fait des recherches répétées sur le suicide et l’automutilation dans Instagram. Il est déjà accessible aux États-Unis, au Canada, au Royaume-Uni et en Australie. Le reste du monde y aura droit « d’ici la fin de l’année » 2026.
Dans la même idée, Meta travaille sur un système d’appel automatique des secours quand une conversation avec Meta AI (d’un enfant ou d’un adulte) laisse présager du suicide imminent de l’internaute. Cela existe déjà pour Facebook et Instagram. L’an dernier, 19 000 signalements de ce genre ont ainsi été émis à travers le monde.
Si vous voulez recevoir les meilleures actus Frandroid sur WhatsApp, rejoignez cette discussion.
Ce contenu est bloqué car vous n'avez pas accepté les cookies et autres traceurs. Ce contenu est fourni par Disqus.
Pour pouvoir le visualiser, vous devez accepter l'usage étant opéré par Disqus avec vos données qui pourront être utilisées pour les finalités suivantes : vous permettre de visualiser et de partager des contenus avec des médias sociaux, favoriser le développement et l'amélioration des produits d'Humanoid et de ses partenaires, vous afficher des publicités personnalisées par rapport à votre profil et activité, vous définir un profil publicitaire personnalisé, mesurer la performance des publicités et du contenu de ce site et mesurer l'audience de ce site (en savoir plus)
En cliquant sur « J’accepte tout », vous consentez aux finalités susmentionnées pour l’ensemble des cookies et autres traceurs déposés par Humanoid et .
Vous gardez la possibilité de retirer votre consentement à tout moment. Pour plus d’informations, nous vous invitons à prendre connaissance de notre Politique cookies.