Comment fonctionne l'IA : les 10 concepts à comprendre avant de signer

Cet article s'adresse à celles et ceux qui s'intéressent à l'IA, en perçoivent le potentiel, mais n'ont ni le temps ni l'envie d'en faire leur métier.

Vous voudrez probablement déléguer vos besoins d'IA à une équipe interne ou à des prestataires. C'est légitime. Mais vous ne ferez pas l'économie de les challenger, et pour ça il faut comprendre quelques concepts clés, et surtout ce qu'ils impliquent pour un projet d'entreprise.

Voici donc dix notions à connaître. Pas de maths, pas plus de jargon que le minimum. De quoi comprendre de quoi on parle, suffisamment pour gérer la partie métier d'un projet d'IA.

Le contenu de cet article a d'abord été publié cet été sur LinkedIn, un concept par jour.

Si vous ne devez retenir qu'une chose

Il n'y a rien de magique là-dedans. Des poids numériques réglés par l'exemple, du texte découpé en fragments, des outils branchés autour, vos documents posés au bon moment sur le bureau du modèle, et beaucoup d'ingénierie pour que l'ensemble tienne debout.

Ce que ces dix concepts vous apprennent tient en deux phrases. Votre facture ne dépend presque jamais du modèle que vous choisissez, mais de la façon dont vous vous en servez. Et le POC, la démonstration qui vous a convaincu, représente environ 20 % du coût total du projet.

Rien là-dedans ne justifie de survendre. Rien non plus ne justifie d'attendre.

---

Partie 1 : de quoi un modèle est fait

1. Le réseau de neurones

Un logiciel classique est une suite d'instructions écrites par un humain. « Si le client a plus de trois commandes, applique 10 % de remise. » Une règle, appliquée bêtement, avec un résultat prévisible. Pour l'écrire, encore faut-il pouvoir la formuler.

Écrivez-moi maintenant la règle qui reconnaît si une photo représente un chat. Vous n'y arriverez pas. Un cerveau le fait sans effort, alors les informaticiens s'en sont inspirés.

Un réseau de neurones, c'est une entrée qui traverse des millions ou des milliards de poids numériques et qui ressort en une sortie. Ces poids n'ont pas été programmés : ils se sont réglés d'eux-mêmes à partir d'exemples. Si vous les ouvrez, vous n'y verrez aucune logique.

Schéma d'un réseau de neurones : une couche d'entrée reçoit des photos de chats et de chiens, les signaux traversent plusieurs couches internes de neurones interconnectés, et la couche de sortie sépare les images en deux catégories, chats et chiens

Un chat sur une photo, une phrase à compléter, un contrat à résumer : toujours le même principe. Des poids, pas des règles.

La conséquence est considérable, et elle vous concerne directement. Personne, pas même ceux qui ont construit le modèle, ne peut vous dire précisément pourquoi il a répondu ceci plutôt que cela. Ce n'est pas un défaut de fabrication, c'est la nature de la chose. Sur un chat, on s'en moque. Sur un refus de crédit, un diagnostic ou un devis, beaucoup moins. C'est toute la raison pour laquelle la manière d'encadrer l'IA en entreprise n'est pas un détail d'implémentation.

2. Les paramètres

Ces poids portent un autre nom : les paramètres. Ce sont les fameux « 8B », « 70B », « 405B » que vous voyez accolés aux noms de modèles.

Pour donner une échelle : reconnaître un chat sur une photo demande environ 2,5 millions de paramètres. Comprendre et écrire le langage humain est une autre affaire, et les plus gros modèles dépassent aujourd'hui les 1 000 milliards. À titre de comparaison, l'équivalent biologique du poids serait la synapse : une mouche en a 50 millions, une souris 1 000 milliards, un humain 100 000 milliards.

Ce que contiennent ces poids, personne ne peut le lire. On peut les voir comme deux choses mélangées : de la connaissance et une capacité de raisonnement. La seconde compte davantage, et elle vient surtout de la façon dont le modèle est affiné après son apprentissage initial.

C'est pour cette raison que la course à la taille s'est calmée. En 2020, les 175 milliards de paramètres de GPT-3 étaient un record. Aujourd'hui, un modèle de 8 milliards fait mieux que lui sur la plupart des tâches. Mieux entraîné, mais plus petit.

Nuage de points comparant le niveau des modèles ouverts à leur nombre de paramètres, en échelle logarithmique. La courbe monte fortement jusqu'à une trentaine de milliards de paramètres, puis s'aplatit : au-delà, multiplier la taille par cent ne fait plus gagner que quelques points

À entraînement comparable, un gros modèle reste plus capable qu'un petit. Mais regardez où la courbe s'aplatit : passé quelques dizaines de milliards de paramètres, chaque décuplement de taille ne rapporte plus que quelques points. La taille seule ne dit plus qui gagne.

Pourquoi ça vous concerne : plus gros signifie plus cher, plus lent, plus gourmand en énergie. Comptez 0,35 € le million de tokens générés pour un Mistral Small chez Scaleway, contre 50 $ pour le modèle le plus cher d'Anthropic. Plus de cent fois l'écart, alors que pour résumer un compte rendu de réunion ou détecter des avis négatifs, le petit modèle fait le travail. Les plus petits tournent même en local, sur un portable ou un smartphone, sans que vos données ne sortent.

3. L'entraînement

Si personne ne sait ce que contiennent ces milliards de poids, comment les a-t-on déterminés ? On ne les a pas écrits : on les a fait émerger, par l'entraînement.

C'est un chantier industriel qui mobilise des milliards de dollars en calcul, en énergie et en expertise. Il se déroule en deux temps.

Le pré-entraînement part de paramètres aléatoires. On fait avaler au modèle un corpus énorme, tout Internet, les livres, et on lui demande de prédire le mot suivant. « Le médecin examine le patient avec son… » donne « stéthoscope ». À chaque prédiction, on mesure l'erreur et on corrige les poids. Des milliards de fois. Peu à peu, le modèle construit des représentations internes des structures du langage.

Le post-entraînement affine ensuite cette base : des résultats vérifiables, l'imitation d'un modèle plus performant, des arbitrages humains du type « vous préférez la réponse A ou la réponse B ». À la sortie, on obtient un modèle aux poids figés.

Retenez ce mot, figés. C'est lui qui rend fausse la promesse commerciale la plus répandue du marché, celle qu'on entend dans à peu près toutes les réunions d'avant-projet :

« On va entraîner une IA sur les données de votre entreprise. »

Le modèle que vous utilisez ne change pas quand vous vous en servez, et il n'apprend rien de vos documents.

Classement des modèles selon un indice de niveau général, avec le drapeau du pays d'origine. Les deux premiers sont américains, les deux suivants chinois et très proches, les modèles français arrivent nettement derrière et le modèle suisse ferme la marche

Deux pays dominent aujourd'hui cette étape, les États-Unis et la Chine, et l'Europe a perdu cette bataille pour l'instant. C'est moins grave qu'il n'y paraît : beaucoup de modèles chinois et quelques américains sont ouverts, donc téléchargeables et exécutables chez vous. Nous détaillons ce que « ouvert » recouvre vraiment dans notre article sur l'open source et les open weights. À choisir, perdre la bataille des modèles est moins grave que perdre celle de l'inférence, c'est-à-dire du moment où on les utilise.

---

Partie 2 : ce que vous payez vraiment

4. Le token

Un réseau de neurones a besoin d'entrées exprimées dans un alphabet fermé, un nombre fini de valeurs que la machine sait manipuler. Pour lui faire lire notre langue, il faut donc découper nos textes. Mais comment ?

Par caractères ? Faisable, mais un « c » isolé ne veut rien dire et le modèle mettrait une éternité à calculer le sens d'un paragraphe. Par mots entiers ? Impossible : entre les langues, les conjugaisons, les fautes de frappe, le code et la ponctuation, il faudrait stocker des dizaines de millions d'entrées.

Le compromis trouvé s'appelle le token. Imaginez une boîte de Lego de la langue : au lieu de tous les mots du monde, un dictionnaire de 100 000 à 200 000 fragments. Un mot très courant comme « bonjour » vaut un seul token. Un mot plus long se compose comme un puzzle : « développerait » peut devenir [dé] + [velop] + [per] + [ait], où le quatrième fragment porte à lui seul l'information du conditionnel.

Ce découpage est le travail du tokenizer, un traducteur qui transforme votre texte en une suite de codes avant de l'envoyer au modèle.

Pourquoi ce mot revient sur toutes vos factures. Deux points comptent.

D'abord, la facture dépend de la langue. Les modèles ayant été entraînés majoritairement sur de l'anglais, leur dictionnaire favorise cette langue.

Le même texte découpé en tokens dans trois langues. En français, 2 658 caractères donnent 692 tokens. En anglais, 2 589 caractères n'en donnent que 606. En swahili, 2 688 caractères en produisent 835

Le même texte, à longueur de caractères quasi identique, coûte 14 % de plus en français qu'en anglais, et près de 40 % de plus en swahili. Vous payez une taxe sur votre langue de travail, et elle ne se négocie pas.

Ensuite, l'entrée et la sortie comptent toutes les deux. Vous payez les tokens que vous envoyez, votre question mais aussi les consignes, l'historique et les documents joints, et ceux que le modèle génère. Un document de dix pages n'est pas « un fichier », c'est environ 5 000 tokens d'entrée à traiter, à chaque fois.

5. L'inférence

Entraîner un grand modèle a coûté plus d'un milliard à quelqu'un. Vous n'en paierez jamais un centime. En revanche, vous paierez chaque réponse.

Ce calcul à la demande s'appelle l'inférence. Contrairement à un logiciel classique qui tourne sur des processeurs ordinaires, l'inférence est très gourmande et réclame des puces spécialisées, les GPU. C'est ce qui a permis à Nvidia de multiplier sa valeur par dix en cinq ans.

Plus le modèle est grand, plus l'infrastructure est lourde. Un tout petit modèle tient sur un PC. Un modèle moyen demande des serveurs à quelques dizaines de milliers d'euros, encore envisageables en interne. Un gros modèle est hors de portée : il faut louer, et en pratique passer par un fournisseur d'inférence payé au token.

C'est ici que se concentrent vos coûts, et pas là où vous le croyez. Choisir le bon modèle pour la bonne tâche, et ne pas refaire calculer deux fois la même chose. Ces deux décisions pèsent bien plus lourd que le prix affiché du million de tokens.

Et c'est aussi ici que se joue la souveraineté, puisque celui à qui vous envoyez vos données les voit, et qu'il obéit à son gouvernement. Or sur cette couche, l'écart n'est pas seulement politique, il est technique.

Vitesse de génération d'un même modèle ouvert selon le fournisseur qui l'exécute, avec le drapeau du pays. Les quatre premiers sont américains, le plus rapide dépassant 1 900 tokens par seconde ; les deux fournisseurs européens ferment la marche, à 243 et 159 tokens par seconde

Le modèle est le même dans les six cas. Seul change celui qui le fait tourner, et le rapport entre le fournisseur américain le plus rapide et le meilleur européen dépasse un facteur huit. C'est un point à connaître avant de promettre à vos utilisateurs une IA souveraine aussi réactive que celle qu'ils utilisent chez eux.

Le sujet mérite mieux qu'un paragraphe : nous avons détaillé les sept façons de faire tourner un modèle en entreprise et ce qu'elles coûtent réellement.

6. La fenêtre de contexte

La fenêtre de contexte est la mémoire de travail du modèle : tout ce qu'il peut lire d'un seul coup, vos instructions, les documents joints, l'historique de la conversation et votre question. Elle se mesure en tokens et oscille aujourd'hui entre 128 000 et 1 000 000.

Ce chiffre en forte hausse donne lieu à un genre de publication devenu régulier : « le RAG, c'est fini, on peut tout mettre dans la fenêtre de contexte ».

C'est faux, pour trois raisons.

• Plus la fenêtre se remplit, plus vous payez. Chaque échange relit tout ce qui précède. Une seule requête peut coûter plusieurs euros.
• Plus elle se remplit, moins le modèle est précis. Une information noyée au milieu de 500 pages passe à la trappe bien plus souvent qu'en début ou en fin de document.
• Un million de tokens, ce n'est pas grand-chose au regard des volumes documentaires réels d'une entreprise.

Une grande fenêtre n'est donc pas une invitation à tout y déverser. C'est même précisément pour cela que le RAG existe : mieux vaut cinq bons passages que deux mille pages en vrac.

---

Partie 3 : ce qui rend le modèle utile chez vous

7. Les outils

Un modèle est figé et n'a jamais vu la moindre de vos données. Pourtant votre IA sait commenter l'actualité du matin, répondre sur un contrat confidentiel et analyser votre trimestre commercial. Comment ?

Souvenez-vous de fin 2022 : le ChatGPT des débuts était incapable de vous donner la météo. En 2023, la recherche web arrive, puis d'autres outils, et tout change.

Concrètement, quand vous envoyez une requête à un modèle équipé d'outils, il a deux options : vous répondre directement, ou déclencher un outil. L'outil s'exécute et lui renvoie son résultat. Le modèle le lit, puis choisit à nouveau : répondre, ou appeler d'autres outils. Et ainsi de suite.

Schéma d'un appel d'outil : la question de l'utilisateur arrive au modèle, qui choisit soit de répondre directement, soit de déclencher un outil exécuté par le logiciel de l'entreprise (ERP, CRM, base documentaire, recherche web, calculs, envois d'e-mails) avant de formuler sa réponse

Les rôles sont nets. Le modèle décide, le logiciel exécute. Cette exécution passe par du logiciel traditionnel, ce qu'on appelle parfois le harnais, et c'est là que se gèrent les droits d'accès, les journaux et les validations.

L'idée forte, celle qui change la façon d'évaluer un prestataire : on additionne le logiciel et le réseau de neurones. Le modèle comprend, réfléchit, orchestre. Le logiciel calcule, accède aux vraies données et agit de façon fiable et traçable. Dans un projet d'IA sérieux, le logiciel compte aujourd'hui autant que le modèle, souvent davantage.

Deux approches coexistent pour ces outils. Les outils propriétaires, développés pour un logiciel donné et qui ne fonctionnent que chez lui. Et les outils standard, au premier rang desquels MCP : vous exposez votre système une fois, et n'importe quelle IA compatible s'y branche.

La différence n'est pas technique, elle est contractuelle. Chez les grands éditeurs, vos connecteurs et vos automatisations restent chez eux. Le jour où vous partez, vous repartez de zéro.

8. Le RAG

Un modèle ne connaît rien de vos contrats, de vos procédures ni de votre historique client. Il faut donc lui donner l'information au moment où vous posez la question. C'est le principe du RAG, pour Retrieval-Augmented Generation.

Dans sa forme classique, cela tient en quatre étapes. Vous sélectionnez vos documents et les remettez dans un format exploitable. Vous les découpez en morceaux, stockés dans une base adaptée à la recherche sémantique, c'est-à-dire par proximité de sens. Quand un utilisateur pose une question, le système retrouve les passages les plus utiles et les ajoute à la question. Le modèle répond à partir de ces éléments.

On n'a rien entraîné ni modifié dans le modèle. Vos documents sont consultés au moment de la question, c'est tout. Retenez cette phrase : elle resservira au moment du fine-tuning.

Un exemple pour saisir l'intérêt de la recherche sémantique : si vous demandez « combien de jours de télétravail ? », une recherche par mots-clés peut rater un passage intitulé « travail à distance ». La recherche par le sens comprend que les deux parlent probablement de la même chose. Mais les mots-clés restent indispensables, parce qu'une référence produit comme XR-4471B doit être retrouvée au caractère près. C'est tout l'objet de la recherche hybride.

Le mot RAG donne l'impression d'une recette simple. En production, c'est devenu un système complet : connecteurs, préparation des documents, droits d'accès, choix de la méthode de recherche, citations, évaluation, supervision. Nous avons écrit un guide complet du RAG en entreprise pour ceux qui veulent entrer dans le détail.

9. L'IA agentique

Une IA qui sait appeler un outil n'est pas encore un agent. L'IA agentique, c'est l'étape d'après : quand le modèle décompose un objectif en plusieurs étapes, les orchestre, et se corrige pour atteindre son but.

La différence se voit à l'usage. Avec une IA classique, vous demandez « analyse ce fichier et donne-moi les trois produits les moins rentables », l'IA appelle l'outil qui lit le fichier et répond. Avec une IA agentique, vous demandez « prépare la revue commerciale de la semaine », et elle récupère les chiffres dans le CRM, les compare à la semaine précédente, repère les écarts inhabituels, cherche les explications dans les comptes rendus, rédige une synthèse, demande une validation humaine, puis envoie.

Un agent n'est donc pas un nouveau type de modèle. C'est un modèle placé au centre d'un système qui lui fournit des outils, une mémoire de travail, des règles, des permissions, parfois un budget, et un objectif. Nous détaillons les cas d'usage, les coûts et le retour sur investissement d'un agent IA en entreprise dans un article dédié.

La limite à connaître avant de signer. Un modèle reste probabiliste, donc moins fiable qu'un logiciel simple. Prenez un agent qui enchaîne dix étapes, chacune réussissant dans 95 % des cas. La probabilité que les dix réussissent est de 0,95 puissance 10, soit environ 60 %.

Le calcul est volontairement simpliste, mais l'idée est essentielle : plus on enchaîne d'actions, plus il faut vérifier les résultats intermédiaires. Une bonne automatisation n'utilise l'IA que là où elle est nécessaire, un principe que nous développons dans notre article sur l'automatisation IA minimale.

Et comme il est très difficile de distinguer un bon agent d'un mauvais de l'extérieur, si vous externalisez ces développements, demandez un prix forfaitaire et un engagement de résultat.

---

Partie 4 : les deux confusions qui coûtent cher

10. Le fine-tuning

Nous y voilà. Le fine-tuning consiste à reprendre un modèle déjà entraîné et à retoucher légèrement ses poids sur quelques milliers de vos exemples. C'est une petite reprise d'entraînement, pas un entraînement.

Et c'est le concept le plus survendu du marché, celui que des prestataires vous présentent en promettant « d'entraîner une IA sur les données de votre entreprise ».

Ce qu'il faut retenir tient en une phrase.

Le fine-tuning change le comportement, pas les connaissances.

Vous voulez que le modèle réponde toujours dans un format précis, adopte le ton de votre maison, manie le jargon de votre secteur ? Fine-tuning. Vous voulez améliorer son taux de succès sur une tâche bien délimitée, une classification ou de la génération de code ? Fine-tuning.

Vous voulez qu'il connaisse vos 40 000 documents ? RAG. Pas fine-tuning.

Un dernier point à ne pas oublier : le fine-tuning est à refaire à chaque changement de modèle. C'est-à-dire souvent.

11. L'hallucination

Une hallucination IA, c'est une réponse fausse produite avec l'assurance d'une réponse vraie. Une jurisprudence qui n'existe pas, une clause inventée dans un contrat, un chiffre plausible mais faux.

L'erreur courante consiste à traiter cela comme un bug qu'un éditeur finira par corriger. Ce n'en est pas un. Reprenez le concept numéro 1 : un modèle n'applique pas de règles, il produit la suite la plus probable à partir de poids réglés par l'exemple. Quand il ne dispose pas de l'information, rien dans son fonctionnement ne l'amène à dire « je ne sais pas » plutôt qu'à produire quelque chose de vraisemblable. L'hallucination est structurelle, pas accidentelle.

Ce qui veut dire qu'on ne la supprime pas. On la réduit et on la rend détectable, avec des moyens qui sont tous des choix d'architecture, pas des réglages de modèle : fournir les bons documents au bon moment plutôt que compter sur la mémoire du modèle, exiger des citations vérifiables sur chaque réponse, faire vérifier les résultats intermédiaires par du logiciel déterministe, et mesurer en continu.

Quand un éditeur vous annonce une IA « sans hallucination », il vous vend soit un abus de langage, soit une méconnaissance de son propre produit. La bonne question n'est pas « est-ce que ça hallucine », mais « comment je le vois quand ça arrive ».

---

Ce qui décide de la survie du projet : les LLMOps

Le concept le moins vendeur de la liste, et de loin le plus décisif. Les LLMOps regroupent tout ce qu'il faut autour du modèle pour qu'un projet tienne en production.

Le logiciel classique, on sait faire depuis quarante ans. Avec un agent, plus rien ne fonctionne pareil.

Les tests ne sont plus binaires. Deux fois la même question, deux réponses différentes. Et vos utilisateurs ne suivent pas dix parcours balisés, ils formulent leur demande comme ils veulent. Le « je clique là, il se passe ça » ne suffit plus : il vous faut un jeu de questions avec les réponses attendues, validé par vos experts métier.

Vous n'achèterez pas l'infrastructure. Un H100 loué en continu revient à près de 2 000 € par mois pour une seule carte. Vous dépendrez donc de fournisseurs tiers.

Et ces fournisseurs tombent. Leurs pages de statut affichent 99 à 99,5 % de disponibilité, soit jusqu'à plusieurs jours d'arrêt par an. Soit vous payez très cher un engagement contractuel, soit vous en branchez plusieurs et basculez dès que l'un décroche. C'est tout l'enjeu d'un SLA sur un service d'IA.

La facture se compte en tokens et elle dérive vite, un agent qui boucle quinze fois relisant tout son historique à chaque tour. Pilotez au coût par requête utile, pas au prix du million de tokens.

Les modèles changent tout le temps. Votre fournisseur en sort un meilleur, déprécie l'ancien avec quelques mois de préavis, et votre prompt réglé au millimètre ne rend plus la même chose. Il faut pouvoir tester, basculer et revenir en arrière sans réécrire l'application.

Le comportement se pilote chaque semaine : tracer les questions, les outils appelés, les sources utilisées. Sinon, quand un utilisateur vous dit « il m'a raconté n'importe quoi », vous débattez d'une perception et vous n'améliorez rien.

Le POC réussit presque toujours. C'est justement le problème.

---

Questions fréquentes sur les concepts de l'IA

Qu'est-ce qu'un LLM ?

Un LLM, pour large language model ou grand modèle de langage, est un réseau de neurones entraîné à prédire la suite d'un texte. Il est constitué de milliards de poids numériques, appelés paramètres, qui ont été réglés automatiquement sur d'immenses corpus de textes plutôt que programmés par des humains. Une fois cet entraînement terminé, ces poids sont figés : le modèle ne change plus et n'apprend rien des questions qu'on lui pose. C'est ce qui le distingue radicalement d'un logiciel classique, dont chaque règle a été écrite explicitement et peut être relue.

Comment fonctionne une IA générative ?

Une IA générative produit du texte en prédisant, morceau par morceau, la suite la plus probable de ce qui précède. Votre question est d'abord découpée en tokens, ces fragments de mots que le modèle sait manipuler. Ces tokens traversent ensuite les milliards de poids du réseau, qui calculent le fragment suivant le plus vraisemblable, puis le suivant, jusqu'à la fin de la réponse. Il n'y a ni base de connaissances consultée, ni règle métier appliquée : uniquement un calcul de probabilité sur des poids figés. C'est pourquoi la même question peut donner deux réponses différentes.

Une IA peut-elle apprendre à partir des documents de mon entreprise ?

Non, pas au sens où on l'entend généralement. Les poids d'un modèle sont figés après son entraînement et ne se modifient pas quand vous l'utilisez. Pour qu'une IA réponde sur vos documents, on ne modifie pas le modèle : on lui fournit les bons extraits au moment de la question, une technique appelée RAG. Vos documents sont consultés à la demande puis oubliés. La formulation « entraîner une IA sur vos données », courante dans les propositions commerciales, décrit donc mal ce qui se passe réellement et mérite d'être clarifiée avant de signer.

Qu'est-ce qu'un token IA ?

Un token est l'unité de texte qu'un modèle d'IA manipule réellement : un mot court, ou un fragment de mot plus long. Les modèles disposent d'un dictionnaire de 100 000 à 200 000 fragments, et le texte est découpé selon ce dictionnaire avant d'être traité. C'est l'unité de facturation de la quasi-totalité des services d'IA, en comptant séparément ce que vous envoyez et ce que le modèle génère. Un texte français consomme environ 14 % de tokens de plus que le même texte en anglais, parce que les dictionnaires sont majoritairement construits sur de l'anglais.

Pourquoi l'IA coûte-t-elle plus cher en français qu'en anglais ?

Parce que les dictionnaires de tokens des grands modèles ont été construits majoritairement à partir de textes anglais. Les mots anglais courants y occupent un seul token, alors que leurs équivalents français doivent souvent être reconstitués à partir de plusieurs fragments. À longueur de texte comparable, le français consomme environ 14 % de tokens de plus que l'anglais, et certaines langues peu représentées dépassent 40 %. Comme la facturation se fait au token, cette différence se retrouve directement sur votre facture, sans qu'aucune négociation commerciale puisse l'effacer.

Que signifient 8B, 70B ou 405B dans le nom d'un modèle d'IA ?

Ces mentions indiquent le nombre de paramètres du modèle, exprimé en milliards : 8B signifie huit milliards de poids numériques. Ce chiffre donne un ordre de grandeur de la taille du modèle, donc de son coût d'exécution, de sa vitesse et de la puissance matérielle nécessaire. Il ne mesure pas directement la qualité : depuis 2023, un modèle de 8 milliards de paramètres bien entraîné dépasse GPT-3 et ses 175 milliards sur la plupart des tâches. Au-delà de quelques dizaines de milliards, chaque décuplement de taille n'apporte plus que quelques points de performance.

Qu'est-ce que la fenêtre de contexte d'un modèle d'IA ?

La fenêtre de contexte est la quantité de texte qu'un modèle peut lire en une seule fois : vos instructions, les documents joints, l'historique de la conversation et votre question. Elle se mesure en tokens et va aujourd'hui de 128 000 à environ un million selon les modèles. Deux limites la rendent moins utile qu'il n'y paraît : plus elle se remplit, plus chaque échange coûte cher puisque tout le contenu est relu à chaque tour, et plus la précision baisse, une information noyée au milieu de centaines de pages étant fréquemment ignorée.

Quelle différence entre le fine-tuning et le RAG ?

Le fine-tuning retouche les poids du modèle sur vos exemples et modifie son comportement : format de réponse, ton, jargon métier, taux de succès sur une tâche précise. Le RAG ne touche pas au modèle : il retrouve les passages utiles de vos documents et les lui fournit au moment de la question. Pour qu'une IA connaisse vos documents internes, c'est du RAG. Pour qu'elle réponde toujours d'une certaine manière, c'est du fine-tuning. La confusion entre les deux est à l'origine de la promesse commerciale « entraîner une IA sur vos données », qui ne décrit correctement ni l'un ni l'autre.

Pourquoi une IA hallucine-t-elle ?

Parce qu'un modèle de langage ne consulte pas une base de faits : il produit la suite la plus probable à partir de poids réglés statistiquement sur des exemples. Quand l'information lui manque, rien dans son fonctionnement ne le pousse à répondre « je ne sais pas » plutôt qu'à générer un contenu vraisemblable. L'hallucination est donc structurelle et ne se supprime pas par un correctif. Elle se réduit et se détecte : en fournissant les bons documents au moment de la question, en exigeant des citations vérifiables, et en faisant contrôler les résultats intermédiaires par du logiciel déterministe.

Faut-il choisir le modèle le plus puissant pour un projet d'IA en entreprise ?

Non, et c'est souvent une erreur coûteuse. L'écart de prix entre un petit modèle et un très gros dépasse le facteur cent pour un million de tokens générés, alors que de nombreuses tâches d'entreprise comme le résumé de comptes rendus ou la classification de messages sont correctement traitées par un petit modèle. Depuis 2023, la taille seule ne détermine plus la qualité : un modèle de 8 milliards de paramètres bien entraîné dépasse GPT-3 et ses 175 milliards sur la plupart des tâches. La bonne pratique consiste à affecter le bon modèle à chaque tâche plutôt qu'à en choisir un seul pour tout.

Qu'est-ce que les LLMOps ?

Les LLMOps désignent l'ensemble des pratiques nécessaires pour maintenir un système à base de modèle de langage en production : constituer un jeu de questions avec les réponses attendues pour tester la qualité, tracer les questions posées, les outils appelés et les sources utilisées, piloter le coût par requête utile, et pouvoir changer de modèle ou de fournisseur sans réécrire l'application. Cette discipline diffère du DevOps classique parce qu'un modèle n'est pas déterministe, que les fournisseurs déprécient régulièrement leurs modèles, et que la qualité se dégrade silencieusement plutôt que de provoquer une panne visible.

Peut-on garantir qu'une IA n'hallucine jamais ?

Non. L'hallucination découle du fonctionnement même des modèles de langage, qui produisent une suite probable plutôt qu'un fait vérifié, et aucun éditeur ne peut l'éliminer complètement. Ce qui se maîtrise, c'est sa fréquence et sa détectabilité : fournir les documents pertinents au moment de la question, exiger des citations vérifiables sur chaque réponse, faire contrôler les résultats intermédiaires par du logiciel déterministe, et mesurer la qualité en continu. Une promesse commerciale d'IA « sans hallucination » signale une méconnaissance du produit ou un abus de langage.

Combien d'étapes un agent IA peut-il enchaîner de façon fiable ?

Le nombre d'étapes est limité par la composition des taux de réussite. Si chaque étape réussit dans 95 % des cas, dix étapes enchaînées ne réussissent ensemble que dans environ 60 % des cas, puisque 0,95 puissance 10 vaut 0,60. Ce calcul est simplificateur, mais il explique pourquoi les agents fiables ne sont pas ceux qui enchaînent le plus d'actions : ce sont ceux qui vérifient leurs résultats intermédiaires et qui n'emploient le modèle que là où un logiciel déterministe ne suffirait pas.

Combien coûte un projet d'IA une fois le POC terminé ?

Le POC représente en général autour de 20 % du coût total du projet sur sa durée de vie. Les 80 % restants se répartissent entre l'inférence facturée au token, la maintenance du système autour du modèle, les changements de modèles imposés par les fournisseurs, l'évaluation continue de la qualité des réponses et le pilotage du comportement de l'agent. Un chiffrage qui ne couvre que la phase de démonstration n'est pas un chiffrage de projet, et c'est la principale cause d'abandon des projets d'IA internes après dix-huit mois.

---

Conclusion

Dix concepts, et au fond une seule idée : il n'y a rien de magique là-dedans.

Des poids réglés par l'exemple. Du texte découpé en tokens. Des outils branchés autour. Vos documents posés au bon moment sur le bureau. Et beaucoup de travail d'ingénierie pour que ça tienne debout en production.

Ce que ces notions vous donnent, ce n'est pas une compétence technique. C'est la capacité de poser les trois ou quatre questions qui séparent un prestataire qui sait d'un prestataire qui récite.

Si vous préparez un projet et que vous voulez confronter votre cas d'usage à ces arbitrages : réservez une démo.