SLA IA entreprise : un seul fournisseur d'IA pour vos agents ne peut pas suffire

Ouvrez la page de statut d'Anthropic. Il est probable que vous tombiez sur un taux de disponibilité moyenné entre 99 et 99,5 %. « Two » nines.

On est passé d'une époque où l'on visait les four nines (99,99 %) à une époque où 99,3 % d'uptime ne choque plus (plus assez). Les « vibe codeurs » utilisant Claude s'en contentent, mais est-ce assez pour votre entreprise ? Probablement pas...

Anthropic est-il un cas isolé ? Non, il est opérationnellement très difficile de maintenir un haut niveau de service pour de l'inférence IA sur de grands modèles.

Si vous ne devez retenir qu'une chose

Brancher votre production (RAG, assistant interne, agents) sur un seul fournisseur d'IA (par exemple Claude, ChatGPT, Gemini, Mistral), c'est accepter que votre système puisse subir plusieurs jours d'indisponibilité cumulée par an, selon la mesure retenue. Pour un service métier important, ce risque mérite d'être traité comme une dépendance d'infrastructure.

Rappel de l'impact des nines

Ordres de grandeur d'indisponibilité, toutes causes confondues, sur un an :

Êtes-vous prêts pour plusieurs jours d'indisponibilité par an pour votre projet d'IA ?

Sachant que vos utilisateurs sont habitués, sur les services du quotidien, aux « four nines ». Voici par exemple la disponibilité réelle de Microsoft 365 :

Disponibilité mondiale Microsoft 365 par trimestre, autour de 99,9 % et plus (source Microsoft Learn)

Chez les concurrents d'Anthropic ?

OpenAI et Mistral publient aussi leur disponibilité. Les chiffres ne sont pas directement comparables : chaque page couvre des composants et des périodes différentes. Au 31 juillet 2026, Mistral affichait 99,4 % sur les trois derniers mois.

Une page de statut n'est pas un SLA financier. Certaines offres spécifiques publient toutefois un engagement, comme Gemini Online Inference à 99,5 % ou OpenAI Scale Tier à 99,9 % (option spécifique).

Les hyperscalers peuvent proposer des engagements plus élevés sur certains services managés d'inférence, par exemple 99,9 % sur Azure AI. Cela couvre la disponibilité de l'endpoint, pas nécessairement la latence, la qualité des réponses ou la disponibilité de toute la chaîne RAG.

On reste loin des garanties habituelles des SaaS de productivité, où les trois "nines" sont un standard sans surcoût.

La révolution des open weights et des passerelles IA

Les modèles ouverts changent l'équation. Ils peuvent tourner chez de nombreux fournisseurs d'inférence, ce qui permet de prévoir un chemin de repli lorsque l'un d'eux devient indisponible.

La solution : une passerelle multi-fournisseurs, ou LLM gateway. Concrètement, le logiciel doit pouvoir appeler plusieurs modèles et plusieurs fournisseurs, en fonction de leur performance actuelle, de leur coût, de leur disponibilité et de règles de bascule.

Ces fournisseurs n'affichent pas tous 99,9 %. Utilisés avec une passerelle, des contrôles de santé et un mécanisme de fallback, ils permettent de les atteindre. Voici un extrait de ce que nous observons en production chez Ask This Guy, sur le taux de succès des appels pendant les 30 derniers jours :

Taux de succès par provider d'inférence : Scaleway 99,87 %, Nebius 99,81 %, Cerebras 99,78 %, DeepInfra 99,76 %, Mistral 99,56 %

Il existe des solutions dédiées à ce besoin. Par exemple, Manifest est une passerelle LLM open source qui fournit un point d'accès unique et permet de configurer des fallbacks entre fournisseurs.

Vous pouvez aussi développer la passerelle vous-même, en vous interconnectant à de nombreux fournisseurs, en mesurant leur performance, et en implémentant les mécanismes de priorité et fallback.

Et il y a aussi des plateformes qui l'intègrent nativement, comme on le fait chez Ask This Guy par exemple.

Le SLA RAG entreprise ne se limite d'ailleurs pas à l'uptime du LLM : sources, recherche, outils et mesure comptent autant. Pour les pièges après le POC, voir RAG entreprise : 5 erreurs en production.

Questions fréquentes sur le SLA IA entreprise

Qu'est-ce qu'un SLA IA entreprise ?

Un SLA IA entreprise définit le niveau de disponibilité attendu pour un service d'IA, ainsi que son périmètre de mesure, ses exclusions et les éventuels crédits de service. Une page de statut est utile pour observer les incidents, mais elle ne remplace pas un engagement contractuel.

Quel SLA pour un RAG entreprise ?

Un SLA RAG entreprise doit couvrir plus que l'API du modèle : ingestion des sources, recherche, outils, passerelle, latence et qualité de service. 99,9 % peut servir de référence pour la disponibilité, mais ce chiffre n'a de sens que si le périmètre et la méthode de mesure sont explicitement définis.

SLA assistant IA : comment améliorer la disponibilité ?

Pour améliorer le SLA d'un assistant IA, évitez le point de défaillance unique : utilisez une passerelle multi-provider, plusieurs modèles, des contrôles de santé, une bascule automatique et un monitoring des erreurs et de la latence. Prévoyez aussi un mode dégradé lorsque la génération n'est pas disponible.

Chez Ask This Guy

Notre passerelle de fournisseurs IA sélectionne les modèles disponibles et performants. Objectif côté clients : viser un niveau de service supérieur à 99,9 % sur le périmètre défini, sans dépendre d'un seul modèle de pointe. Politique UE ou monde entier selon votre contrainte de souveraineté ; détail des fournisseurs IA.

Pas de miracle. Une architecture qui part du principe que les LLM cloud tombent, et qui est conçue pour ça. C'est le socle de notre solution RAG entreprise, et la même passerelle alimente un assistant support produit quand les utilisateurs sont vos clients.

Si vous industrialisez un RAG ou un assistant interne et que vous voulez voir cette passerelle en conditions réelles : réservez une démo.