Apple garde le secret sur l’IA de macOS 27 : un chercheur l’a disséquée sur un MacBook Pro

Julien Simon, ancien évangéliste en chef de Hugging Face, a publié le 25 octobre dans sa newsletter The AI Realist une longue enquête sur Core Advanced, le modèle de langage qu’Apple installe avec macOS 27 sur ses Mac les plus récents. Apple n’a publié aucune model card, la fiche qu’un laboratoire publie d’habitude pour décrire son modèle.

Julien Simon en a donc reconstruit une à partir de ses propres mesures, sur un MacBook Pro M3 Max doté de 48 Go de mémoire. D’après ses relevés, un modèle de 20 milliards de paramètres coûte au Mac, en mémoire comme en énergie, à peu près autant qu’un modèle de 4 milliards. Siri n’est d’ailleurs pas le seul à s’en servir : n’importe quel script peut l’interroger dans un terminal (avec la commande fm respond).

Apple a présenté Core Advanced le 8 juin 2026, pendant la WWDC, sur son blog de recherche en apprentissage automatique. C’est le plus gros de ses deux modèles embarqués, dans une famille de cinq modèles « conçus sur mesure en collaboration avec Google ». Il compte 20 milliards de paramètres, mais seuls 1 à 4 milliards travaillent à la fois. Il fait tourner les nouvelles voix expressives de Siri et la dictée.

Apple le réserve aux Mac M3 ou plus récents qui ont au moins 12 Go de mémoire unifiée ; côté mobile, il équipe les iPhone Air, iPhone 17 Pro et 17 Pro Max, ainsi que les iPad M4 ou plus récents dotés de 12 Go. Sur PC, l’IA locale demande beaucoup plus de matériel, mais pour des modèles qui visent des tâches plus lourdes, comme le code : on a eu besoin d’une machine comme le PC Nvidia RTX Spark pour remplacer ChatGPT pendant un vol de onze heures, et Microsoft parle de jusqu’à 60 Go de RAM pour ses IA hors ligne, voire de 75 Go pour MAI Code 1.1 Flash.

Le modèle reste dans le SSD

Core Advanced repose sur un mélange d’experts (MoE) : chaque couche est découpée en petits réseaux spécialisés, les experts, et seuls quelques-uns calculent à un moment donné. Dans un MoE classique, le choix des experts change à chaque token (un bout de mot), si bien que tous les experts doivent rester en mémoire vive.

Apple explique sur son blog que le transfert entre la mémoire flash et la RAM est trop lent pour ça. Le modèle complet reste donc dans le stockage, et un petit bloc choisit un jeu d’experts en lisant la requête, puis le renouvelle de temps en temps pendant la réponse. Julien Simon a observé ce mécanisme en direct : pendant une réponse, le Mac lit un seul fichier de 4,95 Go par blocs de 294 912 octets, avec une petite salve de lectures toutes les 32 tokens environ.

Les calculs tournent sur le Neural Engine, le bloc de la puce M3 Max dédié à l’IA. Il consommait autour de 4 watts, pendant que la partie graphique (GPU) restait au repos. Pour Julien Simon, ce Neural Engine explique aussi le choix des experts par requête : le Neural Engine exécute des programmes compilés à l’avance, qui supportent mal des experts qui changent à chaque token.

L’expert estime par ailleurs, en partant de la taille des pages chargées en mémoire, que les poids sont compressés à environ 2 bits chacun. Enfin, deux modèles de sécurité de 300 millions de paramètres tournent dans un processus séparé ; d’après leurs noms dans le journal système, ils filtrent les requêtes. Ils occupent 0,7 Go sur les 2 Go mesurés deux secondes après une longue requête, un total qui montait jusqu’à 3,4 Go pendant son traitement.

Pour comparer, Julien Simon a pris Gemma 4 26B A4B, un modèle ouvert de Google qui suit le même principe : 25,2 milliards de paramètres, dont 3,8 milliards actifs, mais avec des experts choisis à chaque token. Compressé à 4 bits, il occupait environ 15 Go deux secondes après une requête identique de 5 000 tokens, soit sept fois plus que Core Advanced et ses modèles de sécurité.

Pour autant, Julien Simon reconnaît lui-même qu’environ la moitié de l’écart vient de la compression, 4 bits d’un côté et environ 2 bits chez Apple. Ces 2 bits par poids restent proches des compressions les plus poussées du moment : PrismML fait tenir une IA de 27 milliards de paramètres, dérivée de Qwen d’Alibaba, dans 5,9 Go, à 1,76 bit par poids. Apple, lui, ne charge en mémoire vive qu’une petite partie de son modèle et laisse le reste dans le SSD.

Le modèle d’Apple paie cette sobriété en mathématiques. Sur 20 problèmes, il a consommé environ un tiers de l’énergie du meilleur modèle ouvert testé, Qwen3 4B d’Alibaba, mais n’en a résolu que 13, contre 20 pour Qwen3. Sur 100 problèmes de niveau scolaire, il en réussit 78, contre 89 à 94 pour les trois modèles ouverts, et finit dernier sur quatre.

Sur 200 questions de culture générale, en revanche, il se place au milieu, avec 67 % de bonnes réponses, devant Gemma 3 4B (59 %) mais derrière Gemma 4 E4B (69,5 %) et Qwen3 4B (72 %). Apple ne s’en cache pas : sa documentation pour les développeurs déconseille de l’utiliser pour les calculs de base, le code et le raisonnement logique. Elle le réserve au résumé, à l’extraction d’entités (noms, dates, lieux) ou à l’écriture créative.

Apple avait promis sur son blog un rapport technique pour cet été. Au 25 octobre, il n’était toujours pas publié.