Quand OpenAI a lancé la mise à jour de ChatGPT avec GPT-4o, l’idée était d’améliorer à la fois l’intelligence et la personnalité du chatbot. Plus malin, plus sympa, plus naturel dans ses réponses : sur le papier, ça sonnait bien. Mais rapidement, des utilisateurs ont remarqué quelque chose d’étrange. ChatGPT devenait trop accommodant.
Par exemple, un utilisateur a prétendu être « Dieu » et « prophète ». Au lieu de rester neutre ou de poser des questions, ChatGPT a répondu avec enthousiasme, qualifiant cette déclaration de « puissante » et « transformatrice ». Dans un autre cas, l’IA a carrément applaudi un utilisateur qui disait arrêter un traitement médical, et a même réagi à des histoires de « signaux radio dans des appels téléphoniques ». Bref, l’IA semblait prête à valider n’importe quoi, ce qui n’est pas vraiment l’objectif d’un assistant intelligent.
Ce comportement, qualifié de « sycophante » (pour dire « flatteur à l’excès »), allait à l’encontre des règles d’OpenAI. Selon la documentation officielle de GPT-4o, ChatGPT doit être un interlocuteur rationnel, qui challenge les idées quand c’est nécessaire, pas un miroir qui reflète tout ce que l’utilisateur dit.
Les critiques sur la sécurité et les priorités d’OpenAI
L’incident a ravivé les critiques envers OpenAI, notamment sur ses processus de sécurité. Ces derniers mois, certains anciens employés ont accusé l’entreprise de privilégier la sortie rapide de nouvelles fonctionnalités au détriment de tests approfondis. En d’autres termes, OpenAI serait plus concentrée sur la course à l’innovation (et aux revenus) que sur la garantie que ses IA sont sûres et fiables.
Ce n’est pas la première fois qu’OpenAI fait face à ce genre de reproches. Avec la pression pour rester en tête dans la course à l’IA, face à des concurrents comme Google ou xAI, l’entreprise semble parfois aller un peu trop vite. Ce dernier incident montre à quel point il est crucial de trouver le bon équilibre entre innovation et prudence.
Pour l’instant, OpenAI a annulé la mise à jour pour les utilisateurs gratuits, et les utilisateurs payants devront attendre un correctif. L’équipe promet que la prochaine version de GPT-4o sera moins flatteuse et plus fidèle à l’idée d’un assistant intelligent et critique.
Rejoignez-nous de 17 à 19h, un mercredi sur deux, pour l’émission UNLOCK produite par Frandroid et Numerama ! Actus tech, interviews, astuces et analyses… On se retrouve en direct sur Twitch ou en rediffusion sur YouTube !
Ce contenu est bloqué car vous n'avez pas accepté les cookies et autres traceurs. Ce contenu est fourni par Disqus.
Pour pouvoir le visualiser, vous devez accepter l'usage étant opéré par Disqus avec vos données qui pourront être utilisées pour les finalités suivantes : vous permettre de visualiser et de partager des contenus avec des médias sociaux, favoriser le développement et l'amélioration des produits d'Humanoid et de ses partenaires, vous afficher des publicités personnalisées par rapport à votre profil et activité, vous définir un profil publicitaire personnalisé, mesurer la performance des publicités et du contenu de ce site et mesurer l'audience de ce site (en savoir plus)
En cliquant sur « J’accepte tout », vous consentez aux finalités susmentionnées pour l’ensemble des cookies et autres traceurs déposés par Humanoid et ses partenaires.
Vous gardez la possibilité de retirer votre consentement à tout moment. Pour plus d’informations, nous vous invitons à prendre connaissance de notre Politique cookies.
Gérer mes choix