Le nouveau ChatGPT, une redoutable arme de stalking ?

OpenAI en est très fier, ses derniers modèles d’IA « constituent une évolution majeure dans le domaine de la compréhension visuelle ». o3 et o4-Mini sont en effet capable d’analyser des photos, même de piètres qualités, pour déterminer où elles ont été prises exactement. Une avancée aussi impressionnante qu’inquiétante.

Des réponses d’une précision inquiétante

Comme le prouve une discussion sur le réseau social X, une simple photo de montagne avec un ciel gris laisse suffisamment d’indices à ChatGPT pour deviner la localisation exacte ou l’image a été prise (au degré de latitude près, ou quasiment). Idem pour une simple photo de plage, correctement identifiée comme étant à Seattle.

ChatGPT

Télécharger ChatGPT gratuitement

Ici, point de triche avec les éventuelles métadonnées d’une photo, la machine déduit la localisation précise de l’image en la comparant juste avec les milliards d’images déjà prédigérés durant sa phase d’entrainement. o3 et o4-mini étant en plus des modèles « Chain of thought », ils laissent apparaître pas à pas le raisonnement qui leur a permis de deviner l’emplacement du cliché.

OpenAI ne cache pas vraiment les capacités de sa nouvelle IA d’ailleurs. Que ce soit dans la vidéo promotionnelle qui accompagne la sortie des nouveaux modèles ou dans les exemples d’utilisation fournis par la marque, l’entreprise montre que sa machine parvient à trouver la localisation exacte d’une photo à partir de très peu d’indices, en fouillant notamment dans les films et séries qu’elle connaît. La simple vue depuis fenêtre suffit à ChatGPT pour deviner où se trouve une personne.

Une localisation trouvée par une simple fenêtre

Au delà de l’exploit technologique, les capacités du nouveau ChatGPT posent d’importants problèmes éthiques. Avec une simple capture d’écran et un abonnement à 20 € par mois à ChatGPT, il est possible de trouver la localisation de n’importe quelle photo postée sur Instagram, Facebook ou ailleurs. De quoi offrir un outil en or aux stalkers en tout genre qui voudront savoir où leurs ex ou des célébrités en tout genre passent leurs vacances.

Bien évidemment, ChatGPT n’est pas absolument incollable et il lui arrive (heureusement) de se tromper largement sur la localisation ou de ne rien trouver du tout comme résultats. De plus, le robot conversationnel n’a pas attendu l’arrivée de o3 ou o4-mini pour réussir à identifier la localisation de certaines photos.

Une résonance mondiale

Néanmoins, les expériences menées par diverses internautes sur les réseaux sociaux montrent bien que le robot d’OpenAI est plus fin que jamais dans son analyse des photos. En postant en plus volontairement des exemples de pistage de photo sur son site, OpenAI ouvre la boite de Pandore. Si ChatGPT n’est pas la première IA à offrir ce genre de service, l’intégration et la promotion de ce genre d’outil au sein de l’Intelligence artificielle la plus célèbre du monde risquent de leur donner une résonance mondiale.

Pour aller plus loin
Vous ne devez rien confier à ChatGPT, Google Bard ou Bing

Contacté à ce sujet par Techcrunch, OpenAI a expliqué avoir « entraîné ses modèles à bloquer le partage d’informations privées » et ajoute même que des garde-fous ont été mis en place pour éviter « les abus en matière de protection de la vie privée ». À voir combien de temps ces derniers tiendront.