« L’IA n’est pas votre ami » : la patronne de Signal tire la sonnette d’alarme

 
Dans une récente interview, Meredith Whittaker, la patronne de Signal, est revenue sur la confiance que les utilisateurs sont en mesure d’accorder aux chatbots IA.
Signal est une application de messagerie gratuite et chiffrée de bout en bout. // Source : AppsHunter pour Unsplash

D’un simple outil conversationnel, les LLM ont évolué pour devenir des outils capables de générer des images, de la vidéo, du son ou encore du code. Une évolution technologique que les industriels ont choisi de pousser à une nouvelle étape : celle des agents autonomes. Des géants comme Google ou Microsoft, avec Gemini ou Claude, ambitionnent ainsi de permettre aux utilisateurs de déléguer certaines tâches professionnelles ou personnelles, comme la gestion d’un projet ou d’un voyage, à une intelligence artificielle. Une approche largement remise en question par Meredith Whittaker, la patronne de Signal.

Dans une interview accordée à Bloomberg, elle a rappelé une vérité essentielle sur ces chatbots : « Ce ne sont pas vos amis. Ce ne sont pas des êtres conscients. Ce ne sont pas des interlocuteurs sensibles. »

Un service contre vos données

Celle qui a fait partie des frondeurs de Google poursuit : « Le moteur économique de l’industrie technologique repose sur la collecte et la monétisation des données. » Elle illustre cette idée à travers un exemple rapporté par une journaliste de Bloomberg concernant Mustafa Suleyman, PDG de la division intelligence artificielle de Microsoft. Ce dernier imagine un futur dans lequel Copilot pourrait prendre en charge l’organisation des cadeaux de Noël. Une aberration pour la patronne de Signal.  

Au-delà de la décharge émotionnelle que représente le fait de confier un événement aussi personnel à une intelligence artificielle, elle insiste sur les implications en matière de données personnelles. Cette situation nécessiterait de donner à une entreprise « l’accès à ma carte de crédit, à mon navigateur, à mon compte Signal, la possibilité d’envoyer des messages à mes frères et sœurs en mon nom, à mon adresse personnelle et à mon agenda ».

De son point de vue, cette évolution s’apparenterait, pour Signal, à la création d’une véritable porte dérobée dans les systèmes de communication. Un sujet sur lequel la dirigeante se montre intransigeante, au nom de la sécurité des conversations privées.

Pour aller plus loin
Pourquoi l’application Signal menace de quitter la France


Les bons plans n’attendent pas : abonnez-vous à notre canal WhatsApp Frandroid Bons Plans ! (zéro spam, promis, juste de super bons plans).

Recherche IA boostée par
Perplexity