L'IA souveraine pour le service public : faire tourner des modèles ouverts sur une infrastructure qui vous appartient

L’IA souveraine, c’est une institution qui fait tourner son IA sur une infrastructure qu’elle contrôle, avec des modèles qu’elle peut inspecter, et des données qui ne sortent jamais de chez elle. Pour beaucoup de nos partenaires publics, ce n’est pas une préférence mais une ligne rouge : ils ne peuvent pas envoyer de données citoyennes à une API cloud, point final. Nous avons donc conçu la Bayes Platform pour tourner entièrement sur des modèles ouverts que l’institution héberge elle-même. Voici pourquoi ça compte, et comment nous le faisons concrètement.

Pourquoi la souveraineté est une exigence, pas une option

Les institutions publiques détiennent des données qu’elles ont le devoir de protéger : dossiers de santé, parcours d’emploi, pièces juridiques. Pour un hôpital ou une agence pour l’emploi, confier cela à un modèle tiers est souvent tout simplement interdit. Et même quand c’est autorisé, cela crée une dépendance qu’aucun acteur public ne devrait accepter : un prix qui peut changer, une API qui peut disparaître, un prestataire qui s’approprie la relation avec vos usagers.

L’IA souveraine règle la question. Le modèle tourne sur l’infrastructure de l’institution, les données restent chez elle, et le code est ouvert, donc ses équipes peuvent vérifier exactement ce qu’il fait. La confiance cesse d’être une promesse pour devenir quelque chose qui s’inspecte.

Les modèles ouverts sont enfin à la hauteur

Si cela fonctionne aujourd’hui, c’est que les modèles ouverts sont devenus bons. Nos ingénieurs font tourner Gemma 4 27B et Mistral Small 3.1 24B sur vLLM, sur une infrastructure dédiée, et pour les tâches dont le service public a réellement besoin (répondre à partir de documents validés, remplir des formulaires champ par champ, citer chaque source), ils tiennent la route.

Ils nous rendent même meilleurs. En testant nos outils avec un modèle ouvert intermédiaire, sa littéralité a révélé des défauts de conception que les gros modèles cloud pardonnaient en silence. Notre CTO a raconté cette leçon dans pourquoi nous testons chaque outil d’abord avec un modèle intermédiaire. Les modèles plus faibles et plus stricts sont des testeurs honnêtes.

À quoi ressemble la souveraineté en pratique

Les documents sont extraits, découpés et vectorisés sur la propre infrastructure de l’institution, puis stockés dans sa propre base. Quand un agent répond, il puise dans ce stockage et ancre chaque réponse dans les sources validées de l’organisation, sans rien envoyer à une API extérieure. La même plateforme qui tourne sur Google Cloud pour un partenaire qui le souhaite tourne entièrement auto-hébergée pour un partenaire qui ne le peut pas.

L’open-source, c’est la moitié de la souveraineté

La souveraineté, ce n’est pas seulement l’endroit où tourne le modèle, c’est aussi votre liberté de partir. La Bayes Platform est sous licence MIT : un partenaire peut la déployer, la modifier et la reprendre sans nous. Chaque cas d’usage rejoint un commun numérique partagé, réutilisable par d’autres institutions publiques. Aucun enfermement, parce que l’enfermement est le contraire de ce qu’un service public devrait accepter.

Pourquoi ça compte pour la mission

Nous sommes une association. Notre réussite se mesure à l’impact que nous diffusons, pas à la dépendance de nos partenaires. L’IA souveraine et open-source, c’est la façon dont cette conviction devient une réalité technique : France Travail, l’AP-HP et les archives de la justice au Togo font tourner des agents ancrés dans leurs propres connaissances, à des conditions qu’ils maîtrisent. Pour le tableau complet de la façon dont ces agents sont construits et gouvernés, nous l’avons détaillé ici : des agents IA pour le service public.

Faire tourner des modèles ouverts sur une infrastructure souveraine était plus difficile il y a un an. Cela devient plus simple chaque mois, et nous construisons pour cette trajectoire, pas contre elle.