IA locale et souveraine : un LLM privé pour votre entreprise en Corse
Une IA locale est un modèle d'intelligence artificielle qui tourne sur un serveur installé dans vos locaux, ou chez un hébergeur dont vous gardez le contrôle. Vos données ne partent pas chez les grands services en ligne. À Bastia, nous concevons ces LLM privés pour les entreprises et les organismes qui manipulent des informations sensibles.
IA locale, LLM privé, IA souveraine : de quoi parle-t-on ?
Avec un assistant IA grand public, votre texte part vers les serveurs du fournisseur, qui se trouvent parfois hors de l'Union européenne. Là-bas, un LLM (un grand modèle de langage qui comprend et rédige du texte) le traite, puis renvoie la réponse. C'est ce qu'on appelle l'IA dans le cloud.
L'IA locale fonctionne autrement. On installe un modèle ouvert, dont les fichiers se téléchargent et s'utilisent selon les conditions de sa licence, sur une machine que vous contrôlez. On parle aussi d'installation sur site (on-premise, en anglais) ou d'IA sans cloud. Questions, documents, réponses, tout reste sur votre réseau.
Le terme d'IA souveraine va un peu plus loin. Il désigne une IA dont vous tenez l'infrastructure, les données et les dépendances, avec une machine dans vos locaux ou un hébergement en Europe, et des modèles que personne ne peut vous retirer du jour au lendemain.
Pour qui une IA sans cloud a du sens
- 01
Santé
Cabinets médicaux et paramédicaux, structures de soin. Les données de santé obéissent à des règles strictes, et une IA locale aide à classer le courrier ou à rédiger l'administratif sans rien transmettre à un service extérieur.
- 02
Cabinets et professions libérales
Avocats, experts-comptables, notaires. Le secret professionnel supporte mal des outils dont on ne contrôle pas les serveurs. Avec un LLM privé, vous travaillez sur les dossiers clients (résumés, recherches, brouillons) sans que rien ne sorte du cabinet.
- 03
Collectivités et organismes publics
Dossiers d'usagers, délibérations, documents internes. Une IA souveraine permet de garder la main sur des données publiques, entièrement.
- 04
Bâtiment, industrie et bureaux d'études
Des plans, un savoir-faire, des réponses à des appels d'offres. Ce genre d'information a tout intérêt à rester en interne.
- 05
Sites isolés
Une IA locale continue de tourner quand la connexion est lente ou coupée. Pour une structure installée dans l'intérieur de la Haute-Corse, ça compte.
IA locale ou IA dans le cloud, un choix à faire en connaissance de cause
L'IA locale n'est pas toujours la bonne réponse, et nous vous le dirons. Les modèles les plus puissants ne sont disponibles qu'en ligne. Ceux qui tournent sur un serveur d'entreprise sont très capables pour résumer, classer, extraire ou répondre à partir de vos documents. Sur les raisonnements les plus complexes, ils restent en général un peu en retrait.
- 01
Confidentialité
Avantage au local. Rien ne sort de chez vous.
- 02
Qualité brute
Avantage au cloud pour les tâches les plus exigeantes. Sur les tâches courantes, l'écart est souvent faible, mais il faut le vérifier sur vos cas réels.
- 03
Coûts
En ligne, vous payez à l'usage. En local, l'essentiel part dans le matériel, puis dans l'électricité et la maintenance. Tout dépend de vos volumes.
- 04
Approche mixte
Les données sensibles restent en local, et les tâches sans enjeu de confidentialité passent par un service en ligne. C'est souvent le meilleur compromis.
Le serveur d'IA, socle matériel d'un LLM privé
Faire tourner un modèle de langage demande une machine adaptée. Il faut surtout une ou plusieurs cartes graphiques (GPU) avec assez de mémoire, puisque ce sont elles qui font les calculs du modèle. La taille du modèle qu'on peut utiliser en dépend directement, comme la vitesse des réponses ou le nombre de personnes qui s'en servent en même temps.
Nous dimensionnons et installons des serveurs d'IA dédiés dans vos locaux, et nous les entretenons ensuite. Une même machine peut servir à plusieurs choses, par exemple un assistant interne et une recherche dans vos documents, ou l'automatisation de tâches répétitives.
Comment nous déployons votre IA locale
- 01
Comprendre
Les usages visés et les données concernées. Le nombre d'utilisateurs, les contraintes de vos locaux et de votre réseau, puis le budget et le calendrier.
- 02
Concevoir
Choix du modèle ouvert, dimensionnement du serveur, architecture, interfaces. Nous vous montrons les maquettes et, quand c'est possible, des essais sur vos propres exemples avant que vous validiez.
- 03
Réaliser
Installation, configuration, sécurisation, développement des outils. Viennent ensuite des tests de qualité et de vitesse sur vos cas réels, et vous suivez l'avancement.
- 04
Lancer et accompagner
Mise en service et prise en main par vos équipes. Ensuite, la maintenance du matériel et des logiciels, et la mise à jour des modèles quand une meilleure version sort.
Sécurité, sauvegardes et qualité d'un LLM privé
- 01
Local ne veut pas dire sécurisé
Le serveur se protège comme n'importe quel équipement sensible, avec des accès restreints, des mises à jour, du chiffrement et un réseau cloisonné.
- 02
Les sauvegardes
Index de documents, configurations, historiques. Tout ce qui a de la valeur doit être sauvegardé, de préférence hors du site.
- 03
La qualité des réponses
Un modèle plus compact doit faire ses preuves sur vos tâches réelles avant d'être adopté. Nous mesurons sa qualité avec vous, au lieu de croire les promesses.
- 04
Les licences
Chaque modèle ouvert a sa licence, avec parfois des restrictions sur l'usage commercial. Nous les lisons avant de choisir quoi que ce soit.
- 05
Le RGPD
Une IA locale aide à tenir vos données, mais elle ne dispense pas des obligations du RGPD. Finalité, durée de conservation, droits des personnes, tout cela reste à régler.
Ce qui détermine le budget d'une IA souveraine
- 01
La taille du modèle visé
Plus le modèle est gros, plus il réclame de mémoire et de puissance de calcul. Le matériel suit.
- 02
Le nombre d'utilisateurs
Servir une personne à la fois ou une équipe entière en même temps ne demande pas la même machine.
- 03
Les usages à développer
Assistant, recherche documentaire, automatisations. Chaque outil construit par-dessus le modèle représente un travail à part.
- 04
L'environnement et la maintenance
L'emplacement, l'alimentation, la ventilation, le réseau. Puis l'entretien du matériel et la mise à jour des modèles, année après année.
Technologies et méthodes
- Modèles ouverts
- LLM privé
- Serveur GPU
- RAG
- Hébergement sur site
- Linux
Questions fréquentes
Une IA locale est-elle aussi performante que ChatGPT ?
Pas en tout. Les modèles ouverts sont très bons pour résumer, classer, extraire ou répondre à partir de vos documents. Pour les raisonnements complexes, les modèles les plus avancés des grands fournisseurs gardent une longueur d'avance. Avant de recommander quoi que ce soit, nous testons sur vos cas réels.
Faut-il une salle serveur pour héberger une IA locale ?
Pas forcément. Selon la puissance nécessaire, une station de travail peut suffire, ou il faudra un serveur. Ce qu'il faut en revanche, c'est une alimentation fiable, une bonne ventilation et une place sur votre réseau. Nous venons vérifier tout ça sur place.
Une IA locale fonctionne-t-elle sans internet ?
Oui. Une fois installée, elle tourne entièrement sur votre réseau. Une connexion reste utile pour les mises à jour et la maintenance à distance, et vous pouvez l'encadrer.
Une IA locale suffit-elle pour respecter le RGPD ?
Elle aide beaucoup, puisque les données restent chez vous. La conformité dépend pourtant aussi de ce que vous traitez, de la durée de conservation, de qui y a accès. Nous posons ces questions dès la conception.
Peut-on commencer dans le cloud et passer en local ensuite ?
Oui, à condition que l'application sache changer de modèle, et nous la concevons toujours ainsi. Vous démarrez avec un service en ligne pour des données peu sensibles, puis vous basculez sur un serveur local le moment venu.