En quelques années, les LLM sont entrés dans les usages de nombreux utilisateurs. En France, l’IA générative est utilisée par près de 48% de la population. Une utilisation massive qui nécessite la mise en place de certaines protections dans le cadre de traitement de données sensibles.
Une question à laquelle semble vouloir répondre OpenAI, l’entreprise à l’origine de ChatGPT, avec son nouveau mode « confinement ». Conçu pour offrir une protection supplémentaire contre l’exfiltration des données par injection de code, il dépossède l’IA de certaines « fonctionnalités utiles ».
Une IA confinée
« Le mode de verrouillage n’est pas destiné à tous les utilisateurs », précise OpenAI. Optionnel, ce paramètre désactive la navigation Web en direct. Les utilisateurs n’auront ainsi accès qu’à du contenu mis en cache. De la même manière, la récupération et l’affichage d’images provenant du Web ne seront plus permis. La génération d’images, elle, reste accessible pour les fichiers importés manuellement par les utilisateurs.
Pensé pour automatiser certaines tâches et réagir à la place de l’utilisateur, le mode Agent fait également partie des fonctionnalités restreintes tout comme la recherche approfondie.
L’ensemble de ces mesures devrait permettre de « réduire considérablement le risque d’exfiltration de données par injection de prompts dans ChatGPT et les produits OpenAI compatibles ». Toutefois, OpenAI ne garantit pas une absence totale de fuite.
Cette nouvelle fonctionnalité est en cours de déploiement pour les comptes gratuits, Go, Plus et Pro, ainsi que les comptes ChatGPT Business en libre-service.
Abonnez-vous à Frandroid sur Google pour ne manquer aucun article !
Ce contenu est bloqué car vous n'avez pas accepté les cookies et autres traceurs. Ce contenu est fourni par Disqus.
Pour pouvoir le visualiser, vous devez accepter l'usage étant opéré par Disqus avec vos données qui pourront être utilisées pour les finalités suivantes : vous permettre de visualiser et de partager des contenus avec des médias sociaux, favoriser le développement et l'amélioration des produits d'Humanoid et de ses partenaires, vous afficher des publicités personnalisées par rapport à votre profil et activité, vous définir un profil publicitaire personnalisé, mesurer la performance des publicités et du contenu de ce site et mesurer l'audience de ce site (en savoir plus)
En cliquant sur « J’accepte tout », vous consentez aux finalités susmentionnées pour l’ensemble des cookies et autres traceurs déposés par Humanoid et .
Vous gardez la possibilité de retirer votre consentement à tout moment. Pour plus d’informations, nous vous invitons à prendre connaissance de notre Politique cookies.