OpenAI vient d’annoncer le déploiement mondial d’un outil capable de prédire l’âge de ses utilisateurs en analysant leur manière d’interagir avec l’IA.
ChatGPT ne se contentera plus de vous croire sur parole. Alors que de nombreux services en ligne demandent simplement une date de naissance souvent facile à falsifier, OpenAI mise sur l’intelligence artificielle pour vérifier vos dires.
L’objectif ? Protéger les mineurs à l’aube de l’arrivée des contenus pour adultes sur ChatGPT.
Pour aller plus loin
Comment utiliser ChatGPT et à quoi sert-il ?
Une analyse comportementale pour identifier les mineurs
Le principe repose sur ce que les experts appellent le profilage comportemental. Concrètement, le système scrute la structure des phrases, le vocabulaire employé et les thématiques abordées lors des sessions de discussion. Selon OpenAI, cette technologie permet de déterminer si un utilisateur a moins de 13 ans ou s’il se situe dans la tranche des adolescents.
L’objectif affiché est d’appliquer automatiquement des filtres de sécurité plus stricts pour les plus jeunes. OpenAI précise que cette mesure vise à répondre aux exigences croissantes des régulateurs internationaux, notamment en Europe avec l’IA Act. Si l’outil détecte un utilisateur mineur, ChatGPT pourra restreindre l’accès à certains contenus jugés inappropriés ou suggérer une supervision parentale renforcée.
Une protection nécessaire mais critiquée
Si la démarche part d’une bonne intention, elle peut aussi questionner. Ce dispositif s’ajoute aux mesures déjà en place, comme le contrôle parental que nous avions déjà détaillé.
Le point sensible reste la confidentialité des données. OpenAI assure que ces prédictions ne sont pas utilisées pour créer des profils publicitaires. Néanmoins, dans sa note de blog, OpenAI explique : « Nous utilisons des modèles de machine learning pour estimer si un utilisateur est susceptible d’être un mineur afin de fournir une expérience adaptée à son âge. »
L’idée qu’une IA puisse « déduire » des informations personnelles sensibles sans consentement explicite pourrait bien agacer les défenseurs de la vie privée.
Un déploiement progressif à l’échelle mondiale
Ce nouveau système n’est pas une option. Il est intégré directement dans l’infrastructure de ChatGPT et sera activé pour tous les comptes, qu’ils soient gratuits ou non. Pour les utilisateurs de l’Hexagone, cette fonctionnalité devrait apparaître progressivement dans les prochains jours.
Reste à voir si cette « prédiction » sera suffisamment fiable. Une erreur d’algorithme pourrait théoriquement brider l’expérience d’un adulte au langage simple ou, à l’inverse, laisser passer un mineur particulièrement éloquent. OpenAI n’a pas encore précisé s’il sera possible de contester une prédiction d’âge erronée autrement qu’en fournissant une pièce d’identité officielle.
Abonnez-vous à Frandroid sur Google pour ne manquer aucun article !
Ce contenu est bloqué car vous n'avez pas accepté les cookies et autres traceurs. Ce contenu est fourni par Disqus.
Pour pouvoir le visualiser, vous devez accepter l'usage étant opéré par Disqus avec vos données qui pourront être utilisées pour les finalités suivantes : vous permettre de visualiser et de partager des contenus avec des médias sociaux, favoriser le développement et l'amélioration des produits d'Humanoid et de ses partenaires, vous afficher des publicités personnalisées par rapport à votre profil et activité, vous définir un profil publicitaire personnalisé, mesurer la performance des publicités et du contenu de ce site et mesurer l'audience de ce site (en savoir plus)
En cliquant sur « J’accepte tout », vous consentez aux finalités susmentionnées pour l’ensemble des cookies et autres traceurs déposés par Humanoid et .
Vous gardez la possibilité de retirer votre consentement à tout moment. Pour plus d’informations, nous vous invitons à prendre connaissance de notre Politique cookies.