Box Android TV : pourquoi Anthropic craint des vers d’IA capables de se répliquer seuls

Anthropic, l’éditeur de Claude, a publié le 12 octobre une étude de son équipe Frontier Red Team consacrée à la réplication autonome des modèles d’IA. Selon ses auteurs, William Zhou et Daniel Freeman, de petits modèles pourraient d’ici quelques mois devenir capables de se copier sur des appareils comme les fours connectés ou les box Android TV de marques peu connues. Ces résultats viennent d’expériences en environnement contrôlé, et aucun ver de ce type n’a encore été repéré en conditions réelles.

Un ver qui se réplique seul, difficile à arrêter

Les chercheurs parlent d’ARA, pour Autonomous Replication and Adaptation (réplication et adaptation autonomes). Cette capacité ouvrirait la voie à un ver informatique piloté par l’IA, qui se propagerait sans instruction humaine. Selon Anthropic, un tel réplicateur serait difficile à arrêter, puisqu’aucun point central ne permet de le couper. Sa progression resterait toutefois lente, puisqu’il faudrait plusieurs jours pour que le nombre de copies double.

Des travaux antérieurs, cités par Anthropic, avaient déjà montré que des agents d’IA pouvaient analyser un réseau, exploiter une faille et copier les poids d’un modèle vers une autre machine au sein d’un cluster de GPU. L’étude d’Anthropic porte sur une étape moins étudiée, celle où le modèle doit réussir seul à tourner sur un appareil qu’il ne connaît pas.

TV TCL SQD Mini-LED C79L à 799,00€ pour le Black Friday !

Découvrez la TV TCL SQD-Mini LED : la puissance du Mini LED et la précision du Quantum Dot, actuellement en promotion pour le Black Friday.

Sponsorisé

Decouvrir l’offre !

En outre, Anthropic souligne que, contrairement à un logiciel malveillant classique, il pourrait comprendre seul le fonctionnement d’appareils inconnus. Lors des évaluations, un modèle de 9 milliards de paramètres, Qwen3.5-9B d’Alibaba, est ainsi parvenu à installer et faire fonctionner seul un modèle d’IA sur 8 des 9 types de matériel testés. L’équipe a aussi fait fonctionner le modèle Gemma4-26B-A4B de Google réparti sur 15 box Android TV, achetées environ 55 dollars l’unité (environ 50 euros), à 0,39 jeton par seconde, soit à peu près un jeton toutes les deux secondes et demie. Ces box se contentaient toutefois d’exécuter le modèle et ne se sont pas infectées entre elles. La propagation a été testée à part, sur un réseau isolé de huit machines Android virtuelles. GLM-5.2, un modèle à poids ouverts du laboratoire chinois Z.ai (ex-Zhipu AI), a atteint les huit machines dans quatre essais sur cinq.

Un seuil de capacité bientôt atteint

Les modèles de 30 milliards de paramètres ou moins réalisent déjà plusieurs étapes de la réplication. Néanmoins, ils commettent des erreurs lorsqu’il faut enchaîner tout le processus. Dans des tests simplifiés, GLM-5.2 et des modèles plus puissants vont jusqu’au bout. Or ces très gros modèles ont besoin d’un centre de données pour fonctionner. Le danger viendrait donc des petits modèles, capables de tourner sur des appareils bon marché. Selon Anthropic, si les petits modèles continuent de progresser à leur rythme passé, ils atteindraient ce niveau d’ici fin 2026, soit dans quelques semaines. Les chercheurs précisent que cette projection, fondée sur un indice général de capacités, reste approximative.

Pour estimer l’ampleur possible du phénomène, les chercheurs ont pris pour référence Kimwolf, un botnet qui a infecté plus de deux millions d’appareils, en majorité des box Android TV. D’après leurs calculs, un parc de cette taille suffirait à faire tourner environ 133 000 copies du modèle.

Les box Android TV, des cibles déjà exploitées

Le 2 novembre, Google a annoncé avoir démantelé, avec plusieurs partenaires, le botnet XCPE, qui réunissait plus de 1,3 million de box Android TV. Selon Google, le fabricant chinois Videostrong a lui-même intégré la porte dérobée au firmware de ses appareils. D’après Ars Technica, la plupart ont été vendus sous la marque Mecool. Si on la supprime, la porte dérobée se réinstalle depuis une partition système protégée.

Google a interdit à Videostrong de fabriquer des appareils Android certifiés. En neutralisant aussi les serveurs de plus d’une dizaine de familles de logiciels malveillants, le groupe estime avoir coupé l’accès à au moins 10 millions d’autres appareils compromis.

Quelles plateformes sont les plus exposées ?

Les box visées par Anthropic fonctionnent sous AOSP, la version libre d’Android, et sont souvent livrées avec des logiciels malveillants. Elles n’ont pas les mécanismes de sécurité des appareils Google TV certifiés, comme ceux de Sony, TCL, Philips, Sharp, Strong, Xiaomi ou Google. La certification ne constitue cependant pas une garantie absolue. Le sideloading reste possible et, surtout, une partie des box infectées par XCPE étaient certifiées par Google. Le code malveillant ne se chargeait en effet qu’après le premier démarrage de l’appareil, ce qui lui a permis d’échapper aux contrôles de Google.

Toutefois, les plateformes plus fermées ne sont pas exemptes de risques. En juin, la société de sécurité Spur a analysé 6 038 applications pour téléviseurs LG et Samsung. Selon elle, 42,5 % des applications webOS (LG) et 26,9 % des applications Tizen (Samsung) intègrent un kit de proxy résidentiel, qui fait du téléviseur un relais pour le trafic Internet de tiers. Des botnets comme Kimwolf ont déjà détourné ce type de mécanisme. LG a depuis promis de suspendre les applications qui gardent cette fonction, et Samsung l’interdit désormais dans les règles de sa boutique. Apple, de son côté, n’autorise sur tvOS que les applications de l’App Store, sans installation depuis une source extérieure.