Google a lancé la famille de modèles Gemma 4 il y a quelques jours à peine. Dérivée des technologies de Gemini 3, cette génération se distingue par son approche ouverte (sous licence Apache 2.0) et sa multimodalité native, lui permettant de traiter des requêtes textuelles, visuelles et vocales. Surtout, la gamme a été conçue pour s’exécuter localement sur des configurations très variées, sans nécessiter de connexion à un serveur. S’il est tout à fait possible de l’installer sur PC et Mac, et même de la déployer gratuitement hors-ligne sur un smartphone, la communauté a déjà décidé de tester les limites matérielles de cet outil sur un support beaucoup plus atypique.
C’est sur le réseau social X que l’utilisatrice @maddiedreese a partagé une vidéo démontrant l’exécution locale de l’IA de Google sur la console hybride de Nintendo. Un exercice de style purement technique qui montre la souplesse des petits modèles de langage, même lorsqu’ils sont confrontés à une puce mobile dont l’architecture accuse plusieurs années d’ancienneté.
Un modèle quantifié tournant uniquement sur le processeur
Pour réaliser ce portage, l’environnement logiciel de la console a d’abord été modifié. La Switch tourne ici sous L4T Ubuntu, une déclinaison de Linux spécifiquement adaptée à la machine de Nintendo. L’exécution du modèle repose ensuite sur une version compilée de llama.cpp, un moteur très populaire pour faire fonctionner des modèles de langage localement avec des ressources limitées.
Sans surprise, il n’était pas question de lancer les versions les plus lourdes de la famille Google. Le choix s’est arrêté sur Gemma 4 E2B, le plus petit modèle de la gamme. Pour contourner la faible quantité de mémoire vive de la console, le fichier a subi une quantification IQ2_M, réduisant artificiellement son poids. Selon Maddie D. Reese, le processus s’effectue uniquement sur le processeur (CPU) de la machine, sans aucune accélération de la puce graphique. Evidemment, la vitesse d’affichage du texte reste assez lente, la puce Tegra X1 de la Nintendo Switch a tout de même fêté son dixième anniversaire l’année dernière.
Retrouvez un résumé du meilleur de l’actu tech tous les matins sur WhatsApp, c’est notre nouveau canal de discussion Frandroid que vous pouvez rejoindre dès maintenant !
Ce contenu est bloqué car vous n'avez pas accepté les cookies et autres traceurs. Ce contenu est fourni par Disqus.
Pour pouvoir le visualiser, vous devez accepter l'usage étant opéré par Disqus avec vos données qui pourront être utilisées pour les finalités suivantes : vous permettre de visualiser et de partager des contenus avec des médias sociaux, favoriser le développement et l'amélioration des produits d'Humanoid et de ses partenaires, vous afficher des publicités personnalisées par rapport à votre profil et activité, vous définir un profil publicitaire personnalisé, mesurer la performance des publicités et du contenu de ce site et mesurer l'audience de ce site (en savoir plus)
En cliquant sur « J’accepte tout », vous consentez aux finalités susmentionnées pour l’ensemble des cookies et autres traceurs déposés par Humanoid et .
Vous gardez la possibilité de retirer votre consentement à tout moment. Pour plus d’informations, nous vous invitons à prendre connaissance de notre Politique cookies.