Un Mac Mini peut-il VRAIMENT remplacer un abonnement IA à 200 $ ? – Transcript

00:00Depuis quelques temps, une idée commence à circuler dans le monde de l'intelligence artificielle. Au lieu de payer 100 voire 200 dollars dans un abonnement à ChatGPT ou Claude, vous pourriez tout simplement acheter un Mac mini. Vous installez un modèle en local dessus et au bout de quelques mois, la machine serait potentiellement rentabilisée. Et là, c'est vrai que sur le papier, le calcul, il donne envie.

00:22Parce qu'un abonnement à 200 dollars par mois, ça fait 2400 dollars par an. Alors qu'un ordinateur, vous ne l'achetez qu'une seule fois et à la fin de l'année, il est toujours sur votre bureau. Mais il y a un problème dans le calcul et c'est justement ce qu'on va voir dans cette vidéo. Et d'ailleurs, pour savoir si un Mac mini peut vraiment remplacer votre abonnement, il faut déjà comprendre ce que ces 200 dollars achètent réellement. Quand vous payez un abonnement premium à une IA, vous payez trois choses. D'abord, le modèle, c'est lui qui raisonne, écrit du code et

00:49génère les réponses. Ensuite, vous payez toute l'infrastructure nécessaire pour le faire tourner. Quand vous envoyez un gros projet à un agent de code, celui-ci peut devoir analyser vos fichiers, ses instructions, ses outils et une partie de l'historique de votre conversation.

01:02Tout ça, ça demande du calcul avant même de pouvoir répondre. Et enfin, vous payez pour un certain volume d'utilisation. Donc, installer un LLM sur un Mac ne revient pas à déplacer Claude du data center jusqu'à votre bureau. Vous changez le modèle, la machine qui le fait tourner et la quantité de calcul disponible. Mais du coup, pourquoi est-ce que l'on parle spécifiquement des Mac ? Eh bien, les Mac possèdent un gros avantage pour faire tourner des modèles localement, la

01:28mémoire unifiée. Sur un PC classique, vous avez généralement la RAM utilisée par le processeur d'un côté et la mémoire de la carte graphique de l'autre. Sur Apple Silicon, le CPU et le GPU peuvent accéder au même réservoir de mémoire. Avec suffisamment de RAM, un Mac peut donc charger des modèles qui seraient difficiles à faire tenir dans la VRAM de certaines cartes graphiques grand public. C'est donc une des raisons pour lesquelles ces machines attirent autant les utilisateurs de LLM locaux.

01:55Mais réussir à charger un gros modèle, bien ça veut pas forcément dire qu'il va tourner vite. Et c'est là qu'on rencontre une première limite. Lorsqu'un LLM génère sa réponse, il produit progressivement des tokens. Pour générer ces tokens, il doit continuellement accéder aux poids du modèle stocké en mémoire. La vitesse à laquelle ces données peuvent circuler devient donc cruciale. C'est la bande passante mémoire. Prenons ici le cas utilisé dans les données que j'ai consultées. On a environ 170 Go par seconde de bande

02:22passante mémoire avec un modèle quantifié qui occupe environ 16 Go. Dans ces conditions, le plafond théorique de génération tourne autour de 10,6 tokens par seconde. Et les mesures rapportées se situent effectivement autour de 8,3 et 10,1 tokens par seconde selon la configuration et le framework.

02:42Donc ce n'est pas mauvais. Pour discuter avec un modèle ou lancer une tâche en arrière-plan, bah c'est parfaitement exploitable. Mais avec un agent de code, la génération, ce n'est qu'une partie du problème parce que avant d'écrire, il faut lire. Une inférence de LLM peut-être divisée en deux grandes phases, le pré-fill et le décode. Le décode, c'est la génération des tokens.

03:02Le pré-fill, c'est ce qui se passe avant. Le modèle doit d'abord ingérer tout ce que vous lui envoyez. Et avec un agent de code, ça peut devenir énorme parce qu'il ne reçoit pas uniquement votre question. Il peut également recevoir ses instructions système, des informations sur votre projet, l'historique de la conversation, ses skills ou encore la liste des outils qu'il peut utiliser. Et d'ailleurs, je vous ai trouvé un exemple particulièrement parlant. Un utilisateur de local Lama faisait tourner Qwen 3.8 27B en local et il lui a posé une

03:29question très courte. Mais avec tout l'environnement de l'agent, le contexte total atteignait 50111 tokens. La machine ingérait ce contexte à environ 93 tokens par seconde. Résultat, près de 9 minutes avant l'apparition du premier token. Et c'est pas 9 minutes pour terminer la tâche. 9 minutes avant même de commencer à répondre. Et ce qui est assez fou ici, c'est que sa question elle-même ne représentait que 74 tokens.

03:53L'essentiel venait du reste, les instructions système, l'environnement de l'agent, les skills et notamment un serveur MCP qui apportait 73 outils. Évidemment, je vous rassure, ce n'est pas une vitesse universelle pour tous les Macs. Là, c'est un cas qui est particulièrement lourd. Mais il montre quand même quelque chose qu'on oublie facilement. Avec un agent, lire tout le contexte peut parfois devenir plus pénalisant que générer la réponse. Bon, maintenant, imaginons que cette vitesse nous convienne. Il reste un problème

04:20beaucoup plus fondamental. Le modèle qui tourne sur votre Mac n'est pas celui de votre abonnement. Pour fonctionner localement, vous allez utiliser un modèle suffisamment petit et compressé pour tenir dans la mémoire de votre machine. Avec Claude ou ChatGPT, vous accédez à des modèles frontières qui tournent sur des infrastructures de data center. Les modèles locaux, certes, peuvent être très performants, mais remplacer Claude par un modèle différent, puis considérer qu'on économise automatiquement 200 dollars de Claude chaque mois, ben c'est une fausse

04:47comparaison. Là, on ne compare tout simplement pas le même produit. Du coup, la bonne question à se poser, ce serait combien coûterait dans le cloud le modèle que je peux réellement faire tourner sur mon Mac. Du coup, je vous invite à faire un petit calcul ensemble.

05:00Reprenons Claude 3.8 27B, le modèle utilisé dans cette comparaison. Dans les données que j'ai consultées, OpenRouter le facture jusqu'à environ 3 dollars par million de tokens générés. Maintenant, on va donner un avantage complètement absurde au Mac. On prend une vitesse d'environ 10,1 tokens par seconde et on le laisse générer 24h/24 pendant 30 jours. À cette vitesse, il produirait environ 26 millions de tokens au tarif de 3 dollars par million, ce qui

05:26représente environ 79 dollars de génération dans le cloud. Et encore une fois, on parle d'une machine qui génère sans interruption chaque seconde pendant un mois entier. Maintenant, on va prendre quelque chose de plus réaliste, 8h par jour, 22 jours dans le mois. On arrive à environ 6,4 millions de tokens générés. Au même tarif, ça représente environ 19 dollars. Après, ce calcul ne représente évidemment pas tous les coûts possibles d'un service cloud, mais il permet quand même de voir le problème avec l'argument de départ. Si votre seul

05:54objectif, c'est d'économiser sur l'inférence d'un modèle local équivalent, vous ne comparez pas forcément un Mac à 200 dollars de cloud par mois. Dans cet exemple, vous comparez une machine à plus de 1000 euros à quelques dizaines d'euros de génération. Et là, la rentabilité devient beaucoup moins évidente. Mais après, je vous rassure, ça ne veut absolument pas dire qu'un Mac mini n'a aucun intérêt pour l'IA. Parce qu'il existe trois situations complètement différentes dans lesquelles posséder un Mac mini est justement très utile. Déjà,

06:21premier cas, la confidentialité. Vous travaillez avec du code propriétaire, des documents sensibles ou des données que vous ne voulez pas envoyer dans le cloud, faire tourner votre modèle localement permet alors de conserver ces données sur votre propre machine. Et ça, c'est clairement pas négligeable.

06:35Deuxième cas, les tâches qui n'ont pas besoin d'être instantanées. Vous lancez par exemple un traitement avant d'aller dormir, le Mac travaille pendant plusieurs heures et vous récupérez le résultat le lendemain. Dans ce contexte, qu'une tâche prenne 20 minutes au lieu de 2 devient beaucoup moins important.

06:50Et enfin, troisième cas, les agents IA. Et celui-ci est un peu différent des deux autres parce que vous n'achetez même plus forcément le Mac mini pour qu'il remplace Claude, vous l'achetez pour donner un ordinateur à votre agent IA. Donc, imaginez une petite machine dédiée allumée en permanence, votre agent possède son propre environnement, il peut gérer ses fichiers, exécuter des scripts, utiliser un terminal et accéder aux outils que vous lui autorisez sans dépendre de votre ordinateur principal et surtout, cet environnement peut-être

07:17isolé. Parce que pour qu'un agent devienne réellement autonome, ben il faut commencer à lui donner des permissions assez importantes, le terminal, les fichiers, les services externes, les comptes. Et vous n'avez pas forcément envie de donner tout ça à une IA directement sur votre ordinateur personnel. Certains utilisateurs achètent donc une machine séparée précisément pour ça, une sorte de machine de quarantaine pour leur agent.

07:37Donc, le modèle a même pas besoin de tourner localement. Pour une tâche difficile, l'agent peut continuer à utiliser Claude, GPT ou un autre modèle dans le cloud. Le modèle distant réfléchit et le Mac mini exécute. Du coup, en conclusion, c'est peut-être là qu'on se trompe sur le Mac mini. On essaie de savoir s'il peut devenir notre prochain Claude, alors que si demain chacun possède un agent capable d'utiliser des outils, de manipuler des fichiers et d'effectuer des actions de manière autonome, il faudra bien donner à cet agent un endroit où travailler.

08:03Donc non, votre Mac mini ne va pas remplacer votre abonnement de 200 dollars à une IA, mais par contre, elle pourrait devenir son ordinateur. Voilà les nerds, j'espère que vous avez apprécié cette vidéo. En tout cas, c'était un plaisir de vous la faire. On se retrouve très très vite. Je vous fais de gros bisous. Ciao.