Tesseract SA

IA locale en entreprise : un modèle dans vos locaux, pour qui ?

Faire tourner un modèle IA dans vos locaux : à quelles conditions c’est pertinent, quel matériel prévoir, quelle qualité attendre, et dans quels cas un service en ligne reste le meilleur choix.

Petite maison blanche en argile 3D posée sur un socle gris, avec un cadenas rouge à l’entrée, symbole d’un modèle IA gardé dans vos locaux.

Qu’est-ce que l’IA locale en entreprise ?

L’IA locale désigne un modèle de langage qui tourne sur du matériel que vous contrôlez (un serveur dans vos locaux, une machine dédiée, parfois un simple poste), de sorte que les documents et les questions ne quittent pas votre réseau. Le modèle est un modèle « à poids ouverts » (Mistral, Llama, Qwen, Gemma et d’autres) que vous téléchargez et exécutez vous-même, au lieu de l’appeler par une API chez un fournisseur.

Ce n’est pas la même chose que l’IA « souveraine », qui peut très bien être hébergée chez un prestataire en Suisse ou en France. Locale veut dire : sur votre matériel. Souveraine veut dire : sous une juridiction que vous maîtrisez. Les deux se recoupent, sans se confondre.

La question utile pour un dirigeant de PME n’est pas « est-ce possible ? » (oui, depuis longtemps) mais « pour quel usage, et à quelles conditions cela vaut-il l’effort ? ». C’est ce que cet article tranche.

Pour qui l’IA locale a du sens

Trois situations justifient réellement de ramener le modèle chez soi.

  • Les données ne doivent pas sortir. Dossiers clients d’une fiduciaire, pièces d’un gérant indépendant, contrats d’un courtier : si votre règle interne ou votre mandat interdit d’envoyer ces documents à un tiers, un modèle local supprime la question plutôt que de la gérer par contrat.
  • Le volume est élevé et régulier. Un modèle local n’a pas de facture à l’usage. Les prestataires qui chiffrent le point d’équilibre avec le cloud l’annoncent entre 6 et 18 mois selon l’usage, mais ces simulations viennent de sociétés qui vendent du matériel ou de l’intégration : prenez-les comme un ordre de grandeur à refaire sur vos propres volumes.
  • La tâche est étroite et répétitive. Classer des pièces, extraire des champs d’une facture, résumer un échange, préparer un brouillon de réponse. Pour ces tâches, un modèle de taille moyenne suffit souvent.

Si aucune de ces trois situations ne vous décrit, la réponse honnête est plus bas dans l’article : probablement pas encore.

Local, cloud souverain ou poste individuel : trois options à ne pas confondre

OptionOù tourne le modèleAtout principalLimite principale
Serveur sur siteDans vos locauxLes données ne quittent jamais le réseauVous exploitez et mettez à jour la machine
Cloud souverainChez un hébergeur en Suisse ou en EuropePas de matériel à acheter, montée en charge simpleLes données quittent votre réseau, il faut un contrat solide
Poste individuelSur l’ordinateur d’un collaborateurDémarrage rapide, coût marginal faiblePas de partage, peu de puissance, difficile à superviser

Pour une PME de dix à cinquante personnes, la vraie alternative est souvent entre un serveur modeste sur site et un cloud souverain. Le poste individuel sert surtout à tester.

Quel matériel pour quel modèle

La mémoire de la carte graphique (VRAM) est le facteur limitant : un modèle doit tenir en entier dans cette mémoire pour répondre à une vitesse utilisable. Si le modèle déborde sur la mémoire classique, plusieurs guides techniques estiment la perte de vitesse entre 10 et 50 fois, et une inférence sur processeur seul tombe à quelques mots par seconde.

Ordres de grandeur couramment publiés pour des modèles quantifiés en 4 bits (à vérifier au moment de l’achat, les chiffres changent à chaque génération de modèles) :

Taille du modèleMémoire GPU approximativeUsage typique
7 à 8 milliards de paramètres6 à 12 GoClassement, extraction, résumés courts
Environ 24 milliards16 à 24 GoRédaction de brouillons, questions sur documents
Environ 70 milliards40 à 48 Go et plusRaisonnement plus fin, charge partagée entre utilisateurs

Les budgets matériel avancés dans les guides vont de quelques centaines d’euros pour un mini-PC qui fait tourner un petit modèle à plusieurs milliers d’euros pour un serveur à GPU. Cette fourchette est large parce qu’elle mélange des usages très différents : ne retenez pas un chiffre, retenez la méthode. Partez de la tâche, choisissez le plus petit modèle qui la réussit, puis dimensionnez la machine.

Ce que vous perdez en qualité

Un modèle local de 7 à 24 milliards de paramètres n’égale pas les meilleurs modèles en ligne sur le raisonnement long, les consignes complexes ou la langue rare. Il n’a pas non plus accès à des informations récentes sans outil de recherche branché à côté.

Sur une tâche bornée, la différence se réduit fortement. Sur une tâche ouverte (« analysez ce dossier et recommandez »), elle reste visible. C’est pour cela qu’un modèle local est surtout un bon exécutant de tâches précises, et rarement un bon substitut d’un assistant généraliste.

La méthode que suggèrent plusieurs guides est la bonne : prenez un modèle de 7 à 24 milliards de paramètres et testez-le sur 30 à 50 de vos vrais documents avant tout achat. Notez les erreurs. Si le taux d’erreur est acceptable avec une validation humaine, vous avez votre réponse. Sinon, vous venez d’économiser un serveur. Notre article sur les critères pour choisir un modèle détaille la grille de comparaison.

Les coûts cachés d’un serveur sur site

Le prix de la carte graphique n’est que la partie visible. Un budget honnête compte cinq postes : l’achat, l’électricité, la maintenance, la sauvegarde et le temps de quelqu’un pour tout cela.

  1. Mises à jour. Un nouveau modèle ouvert sort tous les quelques mois. Quelqu’un décide quand migrer, et vérifie que rien ne régresse sur vos cas.
  2. Supervision. Un serveur qui tombe un lundi matin se remarque. Il faut une alerte, et une personne qui la reçoit.
  3. Sécurité. Un modèle local ne protège pas à lui seul : accès, journaux, chiffrement du disque et sauvegardes restent à votre charge.
  4. Évaluation continue. Après une mise à jour du modèle ou des documents, les résultats changent. Un jeu de tests fixe permet de le voir.
  5. Disponibilité. Un hébergeur cloud vise une disponibilité très élevée. Votre serveur dans un local technique n’a ni double alimentation, ni astreinte, sauf à les construire.

Ollama, LM Studio ou vLLM : quel outil pour exécuter le modèle

Trois outils reviennent dans presque tous les guides. LM Studio offre une interface graphique : il convient pour essayer un modèle sur un poste sans toucher à la ligne de commande. Ollama télécharge et sert un modèle en une commande, avec une interface de programmation que vos outils peuvent appeler : c’est le choix courant pour un premier pilote. vLLM est conçu pour servir beaucoup d’utilisateurs en parallèle avec un meilleur débit, au prix d’une installation plus technique.

Règle simple : Ollama pour valider l’idée, vLLM seulement si plusieurs dizaines de personnes l’utilisent en même temps. Dans la plupart des PME, vous n’atteindrez jamais ce second cas.

Un exemple chiffré : trier 400 factures par mois

Prenons une hypothèse de calcul, pas une mesure : une fiduciaire reçoit 400 factures fournisseurs par mois et passe 3 minutes à en extraire les champs et à les classer. Cela fait 20 heures par mois. Si un modèle local réalise l’extraction et qu’une personne valide en 30 secondes, le temps tombe à environ 3 heures et 20 minutes, soit près de 17 heures récupérées.

À 80 francs de l’heure de coût complet, cela représente environ 1 300 francs par mois. C’est ce chiffre, à refaire avec vos propres volumes, qui doit être mis en face du coût de la machine et de son exploitation. Le gain est réel, mais il ne justifie pas un gros serveur : un modèle de petite ou moyenne taille suffit pour cette tâche. Pour chiffrer votre propre cas, le diagnostic express sert de point de départ.

Quand l’IA locale n’est pas le bon choix

L’IA locale n’est pas le bon choix quand vous n’avez ni contrainte de confidentialité forte, ni volume régulier, ni personne pour exploiter la machine. Dans ce cas, un service en ligne bien contractualisé coûte moins cher et fonctionne mieux.

  • Usage occasionnel, quelques requêtes par semaine : l’abonnement est moins cher que l’achat.
  • Besoin de la meilleure qualité de raisonnement : les modèles en ligne les plus avancés restent devant.
  • Aucune compétence interne ni prestataire pour la supervision : l’économie sur la facture se paie en incidents.
  • Contrainte réglementaire mal comprise : un modèle local aide pour la résidence des données, mais n’exonère pas d’une infrastructure sécurisée et d’une documentation. Pour le cadre suisse, voyez ce qu’il faut vérifier avant d’envoyer des données à un LLM. Ce texte n’est pas un avis juridique.

L’approche la plus courante en pratique est hybride : modèle local pour les documents sensibles, service en ligne pour le reste.

Ce que cela donne en pratique : un parcours en cinq étapes

  1. Choisissez un cas d’usage étroit, avec une sortie vérifiable (par exemple, extraire le montant, la date et le fournisseur d’une facture).
  2. Constituez un jeu de 30 à 50 documents réels, anonymisés si nécessaire, avec la réponse attendue pour chacun.
  3. Testez un modèle de 7 à 24 milliards de paramètres sur une machine existante ou louée à la semaine, avec un outil d’exécution courant comme Ollama.
  4. Mesurez le taux d’erreur et la vitesse, puis décidez où placer la validation humaine.
  5. Dimensionnez la machine seulement ensuite, à partir du plus petit modèle qui réussit.

Chez Tesseract Studio, ce parcours s’inscrit dans la méthode : un socle, puis des modules, où l’IA locale est une option du socle quand la confidentialité l’exige. Si vous hésitez sur la tâche de départ, le diagnostic express en cinq questions aide à la choisir.

Résumé : la règle de décision

Posez trois questions dans cet ordre. Les données ont-elles l’interdiction de sortir ? Le volume justifie-t-il un investissement fixe ? Une personne peut-elle exploiter la machine ? Trois oui : l’IA locale est un bon choix. Un seul oui sur la confidentialité : envisagez un cloud souverain. Trois non : restez sur un service en ligne et revenez-y dans un an, les modèles ouverts progressent vite.

Questions fréquentes

Qu’est-ce que l’IA locale en entreprise ?

C’est un modèle de langage à poids ouverts exécuté sur du matériel que l’entreprise contrôle, de sorte que les documents et les questions ne quittent pas son réseau. Elle se distingue du cloud souverain, hébergé chez un prestataire.

Un modèle local est-il aussi bon que ChatGPT ou Claude ?

Non sur le raisonnement long et les consignes complexes, où les meilleurs modèles en ligne gardent une avance. Sur une tâche étroite et bien définie (extraction, classement, résumé), un modèle de 7 à 24 milliards de paramètres suffit souvent.

Quel matériel faut-il pour un LLM local ?

Cela dépend de la taille du modèle. En quantification 4 bits, on cite environ 6 à 12 Go de mémoire GPU pour 7 à 8 milliards de paramètres, 16 à 24 Go pour environ 24 milliards et 40 à 48 Go ou plus pour environ 70 milliards.

Comment savoir si l’IA locale vaut le coup pour mon entreprise ?

Testez un modèle de taille moyenne sur 30 à 50 de vos vrais documents avant d’acheter du matériel. Si le taux d’erreur est acceptable avec une validation humaine, dimensionnez la machine à partir de ce modèle.

L’IA locale suffit-elle pour être en règle avec la protection des données ?

Non. Elle aide pour la résidence des données, mais n’exonère pas d’une infrastructure sécurisée ni d’une documentation. Cet article n’est pas un avis juridique : faites valider votre cas.

Sources
À lire aussi