Quand vous utilisez ChatGPT ou un autre assistant en ligne, vos textes partent sur les serveurs de l'éditeur. Il existe une autre voie : installer un modèle d'IA sur un ordinateur ou un serveur qui vous appartient, ou que vous louez, pour que vos données ne sortent pas de chez vous. Ce guide s'adresse aux professions qui manipulent des informations sensibles (droit, comptabilité, ressources humaines, accompagnement social) et à toute entreprise curieuse de l'idée. Vous y verrez comment cela fonctionne, ce qu'on peut en attendre et pour qui c'est pertinent.
Comment ça marche
Plusieurs éditeurs publient des modèles d'IA dits « à poids ouverts » : le modèle peut être téléchargé et exécuté sur votre machine, selon les conditions de sa licence. C'est le cas de certains modèles de Mistral AI, de Meta (Llama), de Google (Gemma) ou d'Alibaba (Qwen), entre autres. Des logiciels gratuits comme Ollama permettent ensuite de les faire fonctionner et d'y accéder depuis une interface de discussion ou depuis vos propres outils.
Le principe est le même qu'avec un assistant en ligne : vous posez une question, le modèle répond. La différence, c'est que tout se passe sur votre matériel, sans envoyer vos textes à un service extérieur.
Les avantages
- Confidentialité : les documents et conversations restent sur votre machine ou votre serveur, ce qui simplifie l'analyse au regard du RGPD.
- Indépendance : pas de conditions d'utilisation modifiées du jour au lendemain, pas de compte à créer chez un éditeur pour chaque salarié.
- Coût prévisible : une fois le matériel en place, aucune facturation à chaque question.
- Fonctionnement hors connexion : utile dans les lieux mal desservis ou pour des données qu'on ne veut pas faire circuler.
- Personnalisation : on peut relier le modèle à vos propres documents (procédures, catalogue, modèles de courriers) pour qu'il y puise ses réponses.
Les limites à connaître
- Puissance : les modèles qu'on peut faire tourner sur un serveur raisonnable sont en général moins performants que les meilleurs modèles en ligne, surtout pour les raisonnements complexes.
- Matériel : pour des réponses rapides, il faut une carte graphique disposant de suffisamment de mémoire ; sur un processeur classique, les réponses sont nettement plus lentes.
- Entretien : mises à jour du logiciel et des modèles, sauvegardes, sécurité. Un serveur mal protégé exposerait justement les données qu'on voulait garder.
- Erreurs : un modèle local se trompe et invente comme les autres. La relecture reste indispensable.
- Licences : chaque modèle a ses conditions, à vérifier avant un usage commercial.
Pour qui est-ce pertinent ?
L'IA locale a du sens si au moins une de ces situations vous concerne :
- vous traitez des données sensibles ou couvertes par un secret professionnel ;
- vos clients ou donneurs d'ordre exigent que leurs informations ne sortent pas de l'entreprise ;
- vous avez des tâches répétitives et ciblées (classer des courriels, résumer des comptes rendus, préparer des brouillons à partir de modèles) plutôt qu'un besoin d'assistant universel ;
- vous disposez déjà d'un serveur ou d'un prestataire qui l'entretient.
À l'inverse, pour un usage ponctuel et sans donnée sensible, un compte professionnel chez un éditeur sérieux est souvent plus simple et plus performant. Les deux approches peuvent d'ailleurs cohabiter : l'IA locale pour les documents confidentiels, un service en ligne pour le reste.
Par où commencer
- Listez les tâches que vous voudriez confier à l'IA et les données qu'elles impliquent.
- Testez d'abord avec des documents fictifs ou anonymisés, sur un ordinateur récent, pour juger la qualité des réponses.
- Choisissez l'emplacement : un poste dans vos locaux, un serveur chez vous, ou un serveur loué chez un hébergeur situé en France ou dans l'Union européenne.
- Prévoyez la sécurité dès le départ : accès protégés, double authentification, aucune exposition directe sur internet, sauvegardes régulières.
- Fixez des règles d'usage, comme pour n'importe quel outil d'IA.
Notre Labo IA fonctionne justement avec des modèles hébergés sur notre propre serveur : c'est un moyen concret de voir ce qu'un modèle local sait faire, et où il atteint ses limites.
La liste à cocher
- J'ai identifié les données que je ne veux pas confier à un service en ligne.
- J'ai listé deux ou trois tâches précises à tester.
- J'ai jugé la qualité des réponses avec des documents anonymisés.
- J'ai vérifié la licence du modèle choisi pour un usage professionnel.
- Je sais qui entretient et sauvegarde le serveur.
- Le serveur n'est pas accessible librement depuis internet.
- Mes utilisateurs savent qu'il faut relire les réponses.
Vous voulez savoir si une IA locale répond à vos besoins, ou si un service en ligne suffit ? Parlons-en lors d'un échange gratuit. Le guide sur l'utilisation de ChatGPT, Le Chat ou Claude sans exposer vos données, dans la rubrique guides, présente l'autre option.
Questions fréquentes
Faut-il un ordinateur très puissant ?
Pour de petits modèles, un ordinateur récent peut suffire, avec des réponses plus lentes. Pour un usage quotidien à plusieurs, une carte graphique dédiée ou un serveur adapté est préférable.
Une IA locale est-elle aussi bonne que ChatGPT ?
En général, elle est moins performante sur les tâches complexes. Elle est souvent suffisante pour des tâches ciblées comme résumer, classer ou reformuler.
Mes données sont-elles totalement protégées ?
Elles ne quittent pas votre serveur, ce qui réduit fortement les risques. Encore faut-il que ce serveur soit lui-même bien sécurisé et sauvegardé.
Besoin d'un avis sur votre cas ?
Trente minutes offertes pour en parler, en visio ou par téléphone.
Choisir un créneau