Ouvrez le Gestionnaire des tâches de Windows pendant une partie ou une session d’IA locale : il affiche la quantité de mémoire vidéo occupée, sans dire par quoi. Scott Hanselman, ingénieur chez Microsoft, s’est attaqué au problème avec gputaskman, un outil libre publié sur GitHub et repéré ce vendredi 6 novembre par Neowin.
Sa page de présentation résume l’idée : quand Windows annonce « 15 Go utilisés », gputaskman cherche s’il s’agit d’un modèle d’IA, du navigateur ou du compositeur de bureau, le programme qui dessine les fenêtres à l’écran. On peut ainsi repérer le logiciel qui monopolise la carte avant de lancer un jeu ou un modèle gourmand.
Pensé d’abord pour l’IA locale
L’outil s’affiche dans le terminal, à la manière de htop, le moniteur de processus bien connu sous Linux. Il reprend les classiques : occupation du GPU et de la mémoire vidéo, température, consommation, fréquences, activité de l’encodeur vidéo. Il reconnaît les modèles de langage lancés avec Ollama, LM Studio ou llama.cpp, et détaille la place qu’ils prennent, jusqu’au cache KV, la mémoire où le modèle garde le contexte de la conversation.
Il montre aussi la part de mémoire graphique repoussée dans la RAM du PC, souvent le signe d’un modèle qui ralentit faute de place sur la carte. Scott Hanselman prévient quand même que le logiciel est expérimental : les compteurs sont mesurés, mais l’identification des modèles reste une estimation, et l’outil ne liste pas les textures d’un jeu.
Pour aller plus loin
Comment installer un modèle LLM type ChatGPT sur PC ou Mac en local ? Voici le guide ultime pour tous
gputaskman est un projet personnel sous licence libre MIT, absent de Windows. Il fonctionne sur Windows avec une carte Nvidia ou AMD, sous Linux et WSL (le sous-système qui exécute Linux dans Windows) avec une carte Nvidia, et sur Mac à puce Apple.
Les versions portables se téléchargent gratuitement sur GitHub, sans installation, pour une utilisation à la volée sur n’importe quelle machine.
Le saviez-vous ? Google News vous permet de choisir les médias que vous suivez. Ne passez pas à côté de Frandroid.
Pour nous soutenir gratuitement, dites simplement à Google d’ajouter Frandroid à vos sources préférées en cliquant ici.
Ce contenu est bloqué car vous n'avez pas accepté les cookies et autres traceurs. Ce contenu est fourni par Disqus.
Pour pouvoir le visualiser, vous devez accepter l'usage étant opéré par Disqus avec vos données qui pourront être utilisées pour les finalités suivantes : vous permettre de visualiser et de partager des contenus avec des médias sociaux, favoriser le développement et l'amélioration des produits d'Humanoid et de ses partenaires, vous afficher des publicités personnalisées par rapport à votre profil et activité, vous définir un profil publicitaire personnalisé, mesurer la performance des publicités et du contenu de ce site et mesurer l'audience de ce site (en savoir plus)
En cliquant sur « J’accepte tout », vous consentez aux finalités susmentionnées pour l’ensemble des cookies et autres traceurs déposés par Humanoid et .
Vous gardez la possibilité de retirer votre consentement à tout moment. Pour plus d’informations, nous vous invitons à prendre connaissance de notre Politique cookies.