Aller au contenu
publicité
Accueil > Intelligence artificielle > IA en local

Quelle IA peut tourner sur mon PC ?

Réponse rapide. C'est la VRAM de votre carte graphique qui décide — ni votre mémoire vive, ni votre processeur. On peut avoir 128 Go de RAM et ne pas faire tourner un modèle qu'une carte de 16 Go avale sans effort. Donnez votre carte ci-dessous : vous saurez ce qui tourne chez vous, en quelle qualité, avec quel logiciel — et si vous avez le droit de vendre ce que vous produisez avec.

Mis à jour le

La mémoire de votre carte graphique décide de tout. Un modèle doit y tenir en entier pour répondre vite. Votre mémoire vive ne vient qu'en second, quand ça déborde — et votre processeur en dernier.
Renseignez au minimum la mémoire de votre carte (ou votre carte dans la liste) pour voir ce qui tourne chez vous. Ajoutez la mémoire vive : elle sert à savoir ce qui passe quand même, en plus lent.

Ou entrez directement par votre mémoire vidéo

4 Go Les petites cartes portables, cartes d'entrée de gamme 8 Go Le cas le plus courant RTX 3070, 4060, 5060 12 Go Le bon compromis RTX 3060 12 Go, 4070, 5070 16 Go Là où ça devient large RTX 4080, 5080, 5070 Ti, RX 9070 XT 24 Go Les grosses cartes RTX 3090, 4090, RX 7900 XTX 32 Go Le haut du panier RTX 5090

Pas encore relevés — 28 modèles

Ces modèles sont bien au catalogue et tournent en local, mais nous n'avons pas encore relevé leur taille chez leur éditeur, ou mesuré ce qu'ils demandent réellement. Nous préférons l'écrire plutôt que de vous donner une estimation qui aurait l'air juste. Ils arriveront dans le tableau au fur et à mesure des essais — chaque ligne du tableau vient d'une source ouverte ou d'une mesure faite sur une vraie carte.

Avec quel logiciel ?

Un modèle est un fichier : il lui faut un logiciel pour tourner. Tous ceux-ci sont gratuits et s'installent en quelques minutes.

ComfyUI ComfyUI LM Studio LM Studio n8n n8n

Notre guide : quel logiciel gratuit pour faire tourner une IA en local

Pourquoi nos chiffres ne sont pas ceux des autres

La plupart des sites qui répondent à cette question calculent un seuil à partir d'une fiche technique. Nous faisons les deux : le calcul de mémoire est expliqué ci-dessous et vous pouvez le refaire vous-même, et les vitesses affichées viennent d'essais réels sur de vraies cartes — pas d'une formule.

Le calcul, en clair. Un modèle occupe son nombre de paramètres multiplié par le poids de chaque paramètre : 2 octets en pleine précision, 1 octet en 8 bits, un demi-octet en 4 bits. Un modèle de 27 milliards en 4 bits demande donc environ 13,5 Go, plus une marge d'environ 15 % pour le contexte et le fonctionnement du logiciel. Quantifier, c'est réduire la précision de chaque paramètre pour tenir dans moins de mémoire : en 4 bits, la perte de qualité est faible et le gain de place énorme. C'est la première chose à essayer.

Et pour les modèles à experts (MoE), la mémoire suit la taille totale, pas les paramètres actifs : tous les experts doivent être chargés, même si quelques-uns seulement travaillent à chaque mot. C'est pourquoi un modèle annoncé « rapide » peut rester impossible à loger chez soi.

Questions fréquentes

Quelle mémoire vidéo faut-il pour faire tourner une IA en local ?
Il n'y a pas de minimum absolu : tout dépend de la taille du modèle. Avec 8 Go on fait tourner confortablement des modèles jusqu'à environ 13 milliards de paramètres en 4 bits. Avec 16 Go on monte vers 27 à 31 milliards. Au-delà de 24 Go, presque tout le catalogue grand public passe. Le formulaire en haut de cette page fait le calcul pour votre carte.
Est-ce que la mémoire vive peut remplacer la mémoire vidéo ?
Non, elle la complète. Quand un modèle dépasse la mémoire de la carte, le surplus bascule sur la mémoire vive : ça continue de fonctionner, mais beaucoup plus lentement, parce que les échanges entre la carte et la mémoire du PC sont bien plus lents que la mémoire de la carte elle-même. Avoir 128 Go de mémoire vive ne compense pas une carte de 8 Go.
Une IA en local est-elle vraiment gratuite et illimitée ?
Oui pour l'usage : aucun abonnement, aucun quota de messages, et vos données ne quittent pas votre ordinateur puisque tout est calculé chez vous. Le coût est ailleurs : la carte graphique, et l'électricité. Attention toutefois à la licence du modèle si vous comptez vendre ce que vous produisez — « ouvert » ne veut pas toujours dire « commercialement libre ».
Faut-il une carte NVIDIA, ou une carte AMD suffit-elle ?
Une carte AMD fait tourner une partie des modèles, et elle le fait honorablement sur le texte. Mais elle n'est pas optimisée comme une NVIDIA : les outils sortent d'abord pour les RTX, beaucoup de modèles n'existent que dans leur format, et il faut souvent bricoler pour démarrer. C'est exactement pour ça qu'une RTX coûte plus cher — vous ne payez pas que de la mémoire, vous payez le fait que tout marche du premier coup. Si vous achetez une carte pour faire de l'IA, et surtout pour générer des images ou des vidéos, prenez une RTX.
Un petit modèle peut-il faire aussi bien qu'un gros ?
Sur une tâche précise, oui. Un petit modèle branché sur vos propres documents (un RAG) ou spécialisé par un LoRA se comporte, dans son domaine, comme un modèle bien plus gros — et il tient sur une carte modeste. C'est la vraie manière de tirer parti d'une machine limitée.
Et sur un Mac ?
Sur les Mac à puce Apple (M1 à M4), il n'y a pas de mémoire vidéo séparée : le graphique partage la mémoire vive. Un Mac de 32 Go se comporte donc à peu près comme une carte de 22 Go — excellent pour le texte, il fait tourner des modèles qu'aucune carte grand public ne loge. En revanche, l'image, la vidéo, la 3D et la musique ne sont pas praticables sur Mac : ces outils sont écrits pour NVIDIA, et ComfyUI n'y est pas utilisable sérieusement. Pour créer des visuels chez vous, il faut une RTX. Choisissez « Mac Apple Silicon » dans le formulaire, le calcul et les avertissements en tiennent compte.
Vous savez ce qui tourne chez vous. Reste à voir ce que valent ces modèles, et ce que coûterait la même chose en ligne.
Voir toutes les IA gratuites et locales → Revenir au choix de départ