L’Open Source dans l’IA : le grand malentendu ?

Introduction

Il ne se passe pas une semaine sans que l’on lise dans les médias ou sur LinkedIn des annonces de sorties de modèles d’IA open source… alors qu’en réalité ils ne le sont pas !

Je joue sur les mots ? La différence me semble assez fondamentale au contraire.

"Open source" et "open weight" (weight = poids) sont deux termes souvent utilisés de façon interchangeable dans les débats sur l'IA. Pourtant, ils recouvrent des réalités fondamentalement différentes.

Cet article explore les vraies différences entre ces deux concepts et pourquoi l'IA générative a du mal à suivre le modèle open source traditionnel.

L'Open Source : la transparence totale comme fondement

Qu'est-ce que l'open source ?

L'open source, c'est la transparence totale : accès au code source complet, possibilité de le modifier, de l'auditer et de le comprendre exactement.

Prenons Linux. Chaque ligne de code est visible. Vous pouvez compiler votre propre version, l'adapter, l'améliorer ou faire auditer le code pour détecter des failles.

Cette transparence permet :

• La confiance : n'importe quel expert peut vérifier qu'il n'y a pas de failles cachées
• La sécurité collective : des milliers d'yeux détectent et corrigent les bugs rapidement
• L'indépendance : aucun risque de dépendre d'une entreprise unique

C'est cette philosophie qui a donné Git, Apache, Firefox, PostgreSQL, Python... Des projets parmi les plus fiables au monde, massivement utilisés en entreprise, y compris dans un cadre commercial. Google et Microsoft comptent même parmi les plus gros contributeurs de l’open source.

Les LLM : une architecture fondamentalement différente

Les poids ne sont pas du code source

Un LLM (modèle de langage) comme GPT-5.2, Mistral 3 ou Gemini 3 n'est pas un programme classique. C'est une architecture mathématique avec des milliards de "poids" (”weight”) - les connexions dans le réseau de neurones, résultat d'un entraînement qui coûte plusieurs millions d'euros.

La différence cruciale : avoir les poids d'un LLM, ce n'est pas comme avoir le code source d'un logiciel.

C'est plutôt comme recevoir un logiciel déjà compilé : vous pouvez l'exécuter, mais vous ne voyez pas :

• Les données d'entraînement utilisées
• Les choix méthodologiques (algorithmes, hyperparamètres)
• Les stratégies d'optimisation
• Les erreurs corrigées en chemin

Résultat : une machine performante... mais opaque.

Qu'est-ce qu'un modèle "open weight" ?

Face aux géants qui gardent leurs grands modèles fermés, certains acteurs comme Mistral AI ou DeepSeek publient les poids de leurs modèles sur Hugging Face. Même OpenAI et Google s'y sont mis pour certains modèles.

Illustration generated by Gemini

Cette ouverture apporte des avantages réels :

• Tester le modèle sur vos serveurs sans dépendre d'une API externe
• L'affiner pour vos besoins spécifiques (vocabulaire juridique, médical...)
• Garder vos données sur votre infrastructure
• Contrôler vos coûts
• Permettre à la communauté d'innover

Pourquoi un vrai open source est si difficile pour les LLM

1. Les données d'entraînement : le casse-tête légal

Les données utilisées pour entraîner les LLM proviennent largement d'œuvres protégées par le droit d'auteur : livres, articles, contenus web, publications scientifiques. Ces données ont été collectées massivement sans consentement explicite des auteurs.

Publier ces données pose des risques légaux. Les litiges se multiplient aux États-Unis et en Europe. Révéler précisément quels contenus ont été utilisés ouvrirait des fronts juridiques massifs. C'est un problème structurel qui demande une évolution du cadre légal.

Même si l’on trouve des centaines de milliers de jeux de données sur Hugging Face, les datas les plus intéressantes ne sont pas libres de droit.

2. La reproductibilité est extrêmement difficile

Avec Linux, si vous avez le code, vous pouvez recompiler exactement la même version.

Pour les LLM, c'est beaucoup plus compliqué, même avec tout (code, données, poids) :

• Les processus d'apprentissage intègrent de l'aléatoire par design
• Le résultat obtenu sur des processeurs distincts sera différent
• Reproduire l'entraînement coûte plusieurs millions d'euros

La reproductibilité parfaite est donc hors de portée pratique, même si elle reste théoriquement possible.

3. Les biais et hallucinations : impossible à détecter dans les poids seuls

Les hallucinations d’un modèle d’IA et leurs biais sont l’équivalent des failles et bugs des logiciels.

Même avec accès aux poids, on ne peut pas "lire" les biais ou hallucinations dans le modèle. Ils sont invisiblement distribués dans des milliards de paramètres.

La seule façon de les détecter : tester le modèle en situation réelle avec des benchmarks. Les biais se révèlent à l'usage, pas à l'inspection.

Les initiatives véritablement transparentes sont des exceptions

Quelques projets tentent de se rapprocher d'une vraie transparence. LLM360 en est un exemple notable : ils publient non seulement les poids finaux, mais aussi les points de vérification intermédiaires, le code d'entraînement complet, et partagent les données de manière responsable.

Ces initiatives restent rares car elles demandent de résoudre d'abord les problèmes légaux, ce qui exige une mobilisation politique.

Quelle approche adopter pour vous ?

Pour une entreprise investissant dans l'IA, la réalité n'est ni "tous les modèles propriétaires" ni "tous les open weights". La bonne approche combine les deux.

Les modèles open weight offrent un intérêt stratégique réel pour la diversification : utiliser une combinaison de modèles open weight (Mistral, Qwen...) et de modèles commerciaux (GPT, Gemini...) peut réduire la dépendance à un seul fournisseur et améliore la continuité et qualité de service.

Chez Ask This Guy, par exemple, nous utilisons à la fois des modèles open weight (que nous pouvons héberger sur une ou plusieurs infrastructures européennes) et des modèles commerciaux selon les besoins. Nous suivons les performances en temps réel de chaque fournisseur.

C'est justement cette diversité même de fournisseurs qui garantit un meilleur niveau de service à nos clients.

(Crédit de l'image d'accueil : Peter Adams, faces of Open Source)