Tous les guides
Guide pratique8 min de lectureMis à jour le 8 novembre 2026

Votre entreprise doit-elle faire tourner l’IA en local ?

Les modèles ouverts méritent désormais d’être pris au sérieux, mais l’IA locale l’emporte rarement sur le seul critère du coût. Voici quand elle a du sens, ce qu’elle coûte et les risques de sécurité qu’elle implique.

Publié le 8 novembre 2026. Tarifs et licences vérifiés à cette date. Ils évoluent vite, en particulier le prix du matériel.

Faire tourner l’IA sur son propre matériel a de quoi séduire : pas de facture au token, aucune donnée qui quitte l’entreprise et aucune dépendance à la feuille de route d’un tiers. Le deuxième argument peut être solide. Le premier l’est rarement.

Pour la plupart des petites entreprises, un modèle hébergé sera moins cher et plus simple. L’IA locale trouve sa place lorsque le contrôle des données compte plus que le coût, ou lorsqu’une charge importante et régulière rentabilise le matériel.

Ce qui a changé

La licence n’est plus vraiment un obstacle. Google a publié Gemma 4 sous Apache 2.0, avec l’appel de fonctions natif. L’annonce de Google Qwen3.6-35B-A3B et Qwen3.8-27B d’Alibaba, ainsi que Small 4 et Devstral Small 2 de Mistral, sont également sous Apache 2.0, tandis que GLM-5.2 est sous MIT. Ces licences permissives conviennent à un usage commercial, mais vérifiez celle du modèle exact que vous comptez déployer, car les conditions varient d’un modèle à l’autre.

L’écart de qualité s’est lui aussi réduit, dans une mesure qui dépend de l’indicateur. L’AI Index 2026 de Stanford plaçait le meilleur modèle fermé 3,3 % devant le meilleur modèle ouvert sur les scores d’Arena, contre 0,5 % en août 2024. L’AI Index Epoch AI estimait le retard à environ trois mois sur son indice général fin 2025, et à six ou sept mois pour les capacités en cybersécurité en octobre 2026. L’estimation générale d’Epoch Ces chiffres ne mesurent pas la même chose et ne se résument donc pas en un seul nombre.

Il y a toutefois un piège : les modèles ouverts en tête de ces classements ne sont souvent pas ceux que l’on peut faire tourner sur un bureau.

Ce qui tourne sur quoi

  • Un bon GPU ou un Mac bien équipé : selon Mistral, Devstral Small 2 et ses 24 milliards de paramètres peuvent tourner sur une seule RTX 4090 ou un Mac doté de 32 Go de mémoire. La fiche du modèle
  • Un ordinateur de bureau dédié à l’IA : NVIDIA annonce pour DGX Spark des modèles jusqu’à 100 milliards de paramètres avec 64 Go de mémoire, et jusqu’à 200 milliards avec 128 Go. Les spécifications de NVIDIA
  • Le domaine du serveur : GLM-5.2 compte 753 milliards de paramètres et sa documentation vise des environnements de service, et non des postes de bureau. La fiche de GLM-5.2
  • Les petits appareils : Gemma 4 va des petits modèles E2B et E4B à une version 31B, si bien que des tâches simples ne nécessitent pas toujours de nouveau matériel. La fiche de Gemma 4

Tenir en mémoire ne signifie pas aller vite. Une analyse publiée retient environ 28 tokens par seconde sur un seul flux pour sa grappe de Mac : c’est correct pour une personne, limitant pour une équipe. Les hypothèses de DecodeTheFuture

Le matériel a aussi renchéri. Au Royaume-Uni, le Mac Studio démarre à 2 499 £ avec la puce M5 Max et à 5 499 £ avec la M5 Ultra. La boutique Apple britannique Le DGX Spark de 128 Go de NVIDIA est passé à 6 950 dollars en octobre, soit près de 75 % de plus qu’un an auparavant, en raison du prix de la mémoire. La version de 64 Go devrait se vendre environ 4 999 dollars. L’article de The Register

Le calcul que la plupart des articles faussent

La comparaison habituelle oppose un modèle local à une API de pointe coûteuse. Elle avantage deux fois l’IA locale : le modèle de pointe fait peut-être un meilleur travail, et il n’est pas la seule solution de rechange. La comparaison la plus juste, c’est le même modèle ouvert, hébergé par quelqu’un d’autre.

D’après les tarifs affichés aujourd’hui sur OpenRouter, plusieurs fournisseurs proposent Qwen3.6-35B-A3B à environ 0,10 dollar par million de tokens en entrée et 0,90 dollar par million en sortie. Les tarifs des fournisseurs Anthropic affiche Sonnet 5.5 à 2 et 10 dollars, et Opus 5.5 à 4 et 20 dollars. Les tarifs d’Anthropic

Faisons le calcul. À ces tarifs, 10 millions de tokens de sortie par mois avec le modèle ouvert hébergé coûtent environ 9 dollars. Une analyse estime qu’une machine d’occasion à trois GPU revient à environ 10 dollars par million de tokens à ce volume, matériel amorti sur trois ans, et ne bat les modèles ouverts hébergés qu’au-delà d’environ un milliard de tokens par mois. L’estimation de Capital & Compute

Une autre analyse compare une grappe de quatre Mac à des API pour une charge importante : 300 millions de tokens en entrée et 20 millions en sortie par mois. La grappe revient à environ 1 425 dollars par mois, avec quatre heures d’administration, contre environ 199 dollars pour le même modèle ouvert via son API, 475 dollars pour Sonnet 5.5 et 907 dollars pour Opus 5.5. La comparaison complète

La situation change face à des modèles plus chers. Digital Applied, un cabinet qui vend ce type de conseil, estime qu’une station de travail à 9 000 dollars peut être rentable face à un ancien modèle haut de gamme à partir d’environ 26 % d’utilisation quotidienne, mais jamais face à des API courantes autour de 0,88 dollar. Son modèle de rentabilité Tout cela repose sur les hypothèses des auteurs : refaites le calcul avec vos propres volumes, vos coûts d’électricité et le temps de vos équipes.

La confidentialité, vraie raison, mais avec des limites

Si vos requêtes contiennent des dossiers clients, des données de santé ou des chiffres financiers non publiés, les garder sur vos machines retire un tiers de la chaîne. Encore faut-il vérifier que c’est bien le cas. Ollama indique ne pas voir vos requêtes lorsque les modèles tournent en local, mais propose aussi des modèles dans le cloud dont il traite les requêtes sur ses serveurs. Le réglage OLLAMA_NO_CLOUD=1 les désactive. La documentation d’Ollama

Le local ne supprime pas non plus vos obligations légales. Si vous traitez des données personnelles, il vous faut toujours une base légale, des mesures de sécurité et un moyen de respecter les droits des personnes. Au Royaume-Uni, les recommandations de l’ICO sur l’IA couvrent ces sujets et sont en cours de révision depuis le Data (Use and Access) Act. Les recommandations de l’ICO Dans l’UE, les autorités de protection des données estiment qu’un modèle entraîné sur des données personnelles ne peut pas toujours être considéré comme anonyme, et qu’une entreprise qui le déploie peut devoir évaluer les conditions de son développement. L’avis 28/2024 du CEPD Ces informations sont générales et ne constituent pas un conseil juridique.

Hébergé ne veut pas dire négligent, mais lisez les détails du routage. Lors de notre vérification, OpenRouter indiquait que Qwen3.6-35B-A3B n’était pas disponible via son routage limité à l’UE, ce qui compte si vos données doivent y rester. La page du fournisseur

Le local peut être moins sûr

Héberger un modèle en interne fait de sa sécurité votre responsabilité, et les serveurs exposés montrent comment cela peut mal tourner.

Ollama écoute par défaut sur 127.0.0.1 : au départ, seule la machine elle-même peut le joindre. L’exposer résulte d’un changement de configuration délibéré. La documentation d’Ollama De nombreux serveurs le sont malgré tout. Intruder a trouvé 1 652 API Ollama répondant sans authentification, sur plus de 5 200 identifiées. L’étude d’Intruder LeakIX a recensé 12 269 instances exposées en février, et Cisco 1 139 en 2025. LeakIX Cisco Les chiffres diffèrent parce que les méthodes diffèrent, mais la tendance reste la même.

L’enjeu s’est accru en mai, lorsque Cyera a révélé une faille critique baptisée Bleeding Llama. Elle pouvait permettre à un attaquant non authentifié d’extraire la mémoire du processus Ollama, y compris les requêtes, les instructions système et les variables d’environnement. La publication de Cyera Les versions antérieures à 0.17.1 sont concernées. La fiche CVE

Si vous faites tourner un modèle local sur un réseau, gardez-le sur un réseau privé, placez une authentification devant lui, appliquez les correctifs comme sur n’importe quel serveur et journalisez les accès.

Quand le local est le bon choix

  • Les données ne peuvent pas sortir. Un contrat, un régulateur ou un client l’exige, et vous avez vérifié qu’une offre hébergée aux bonnes conditions ne suffirait pas.
  • La connexion n’est pas fiable. Usines, navires, travail de terrain ou sites isolés.
  • Le volume est très élevé et régulier. Classification ou extraction en continu, là où un modèle plus petit suffit.
  • Le temps de réponse compte au plus près du terrain. Le modèle doit tourner sur l’appareil ou à proximité.

C’est probablement un mauvais choix si votre usage est faible ou irrégulier, si le travail exige le meilleur raisonnement disponible, ou si personne ne prendra en charge les correctifs et la surveillance.

Beaucoup d’entreprises finiront avec une combinaison des deux, en confiant chaque tâche à l’option la moins chère autorisée à la traiter.

Exemple fictif : cette politique de routage est imaginaire. Elle ne constitue ni une recommandation pour une entreprise donnée, ni la configuration d’un produit réel.

{
  "default_route": "hosted_open_model",
  "routes": [
    {
      "when": "contains_client_confidential_data",
      "use": "local_model",
      "cloud_fallback": false
    },
    {
      "when": "high_volume_classification",
      "use": "local_model",
      "cloud_fallback": true
    },
    {
      "when": "complex_reasoning_no_personal_data",
      "use": "frontier_api"
    }
  ],
  "log": [
    "route",
    "model",
    "tokens",
    "human_correction"
  ]
}

Observez cloud_fallback: false sur la route confidentielle. Si le modèle local échoue, ce travail doit s’arrêter et prévenir quelqu’un, et non partir discrètement vers le cloud. Ces règles ont leur place dans le harnais de l’agent, imposées par le logiciel et non laissées au jugement du modèle.

Testez avant d’acheter

  • Rassemblez de vraies tâches. Réunissez 50 à 100 exemples du travail réel, sans les informations sensibles.
  • Essayez d’abord le modèle ouvert hébergé. Vous jugez ainsi sa qualité sans acheter de matériel.
  • Comparez-le à ce que vous utilisez aujourd’hui. Mesurez le taux de réponses acceptées, les corrections nécessaires, les tokens et le temps consommés.
  • Essayez-le en local. Utilisez une machine que vous possédez déjà, avec un outil comme Ollama ou LM Studio. Les conditions de LM Studio couvrent l’usage interne en entreprise, mais vérifiez qu’elles correspondent à votre situation.
  • Chiffrez ensuite le matériel. Incluez l’administration, l’électricité et la sécurité, puis comparez avec le tarif hébergé à votre volume mesuré.

Si les chiffres ne justifient pas l’achat, vous y aurez consacré quelques heures et non plusieurs milliers d’euros. S’ils le justifient, vous achèterez sur la base de preuves.

Lorsqu’un client d’un secteur réglementé a réellement besoin d’une IA sur site, il s’agit généralement d’un projet sur mesure plutôt que d’un produit à acheter. Si vous y réfléchissez, parlez-nous de votre usage.