RAG privé pour données réglementées : l'IA sur vos documents santé, finance et juridiques

Les équipes de la santé, de la finance et du droit veulent la même aide de l'IA que tout le monde. Elles veulent interroger des politiques, des dossiers, des contrats et des rapports, et obtenir une réponse sourcée en quelques secondes. Mais beaucoup ne peuvent pas envoyer ces documents à un service d'IA public. Les dossiers patients, les dossiers clients et les données financières s'accompagnent de contrats, de régulateurs et de réputations.

Il en résulte souvent un immobilisme discret. On interdit au personnel d'utiliser des outils d'IA, ou il les utilise quand même sur des comptes personnels. Aucune de ces situations n'est bonne. Le RAG privé offre une voie intermédiaire : la partie utile de l'IA, sur une infrastructure que vous contrôlez.

Ce que fait cet assistant

La génération augmentée par récupération (RAG) signifie que le système recherche d'abord dans vos documents, puis qu'un modèle de langage répond en s'appuyant uniquement sur les passages trouvés. Dans une configuration privée :

• Les documents restent dans votre environnement. L'index, le modèle d'embedding et le modèle de langage tournent dans votre compte cloud, votre centre de données ou sur des ordinateurs portables individuels.
• Les questions restent aussi dans votre environnement. Les prompts et les réponses ne sont pas envoyés à un service d'IA public.
• Les réponses citent leurs sources et respectent les droits d'accès aux documents de chaque utilisateur.
• Tout est journalisé dans votre propre système d'audit, selon vos propres règles de conservation.

Options de déploiement

« Privé » recouvre un éventail de choix. Du moins au plus de contrôle :

• API hébergée sous conditions professionnelles. Un grand fournisseur de modèles, avec un accord de traitement des données, un hébergement régional et une conservation limitée. Le plus simple, mais les données quittent tout de même votre réseau.
• Modèle open source dans votre compte cloud. Des instances GPU dans votre propre réseau virtuel. Les données restent dans votre compte, et vous gérez les serveurs.
• Serveurs sur site. Des modèles sur du matériel dans votre propre centre de données. Contrôle maximal, avec le plus de travail d'exploitation.
• Sur l'appareil. Des modèles plus petits sur les ordinateurs portables des employés, pour le travail individuel sur des fichiers très sensibles.

Beaucoup d'organisations les combinent. Les contenus à faible risque peuvent utiliser un modèle hébergé, tandis que les contenus réglementés restent sur une infrastructure privée.

Choisir parmi les options

Quelques questions suffisent généralement à trancher :

• Vos contrats ou vos régulateurs autorisent-ils seulement le traitement de ces données par un tiers ?
• Si oui, quelles régions et quels types d'accords sont acceptables ?
• Combien de personnes utiliseront le système, et à quelle fréquence ?
• Disposez-vous de personnel capable d'exploiter des serveurs GPU, ou un partenaire s'en chargera-t-il ?
• Quelle part de qualité de réponse êtes-vous prêt à sacrifier au profit du contrôle ?

Vos équipes sécurité, protection des données et juridique doivent s'accorder sur les réponses avant le début de tout développement.

Comment ça marche, étape par étape

1. Ingestion des documents. Des connecteurs lisent votre système de gestion documentaire, vos partages de fichiers ou vos bases de données à l'intérieur de votre réseau. Les champs sensibles peuvent être masqués avant l'indexation lorsqu'ils ne sont pas nécessaires.
2. Découpage et indexation. Les documents sont découpés en sections et transformés en embeddings, des représentations numériques du sens, par un modèle d'embedding hébergé localement. Ils sont stockés dans une base de données vectorielle chiffrée avec des métadonnées de droits d'accès.
3. Recherche pour chaque question. Le système vérifie qui pose la question et ne cherche que dans les documents qu'il a le droit de lire.
4. Réponse avec citations. Un modèle de langage privé rédige la réponse à partir des passages récupérés et renvoie à chaque source.
5. Journalisation et amélioration. Les requêtes et les sources sont consignées dans votre environnement pour l'audit et le contrôle qualité.

Les outils que nous utilisons

• Backend : Python avec FastAPI, déployé dans votre compte cloud ou sur vos serveurs.
• Base de données vectorielle : pgvector dans votre Postgres existant, ou Qdrant, tous deux auto-hébergés.
• Modèles : des familles à poids ouverts comme Llama, Mistral ou Qwen, servies avec des outils comme vLLM ou Ollama, ainsi que des modèles d'embedding locaux.
• Infrastructure : des instances GPU sur AWS, Azure ou Google Cloud dans la région de votre choix, ou du matériel sur site.

Vérifiez les licences des modèles, les tarifs du cloud et la disponibilité des GPU avant de planifier. Les conditions de licence diffèrent selon les modèles, et la capacité GPU varie selon les régions.

Compromis par rapport aux API hébergées

Qualité

Une bonne recherche fait l'essentiel du travail dans les questions-réponses sur des documents, et les modèles à poids ouverts actuels s'en acquittent bien. Les plus grands modèles hébergés restent généralement en tête pour le raisonnement complexe. Testez les deux sur vos propres questions avant de décider.

Coût

Les API hébergées facturent à l'usage. Les modèles privés coûtent en matériel ou en temps GPU, qu'ils soient utilisés ou non. À volume élevé et régulier, l'hébergement privé peut coûter moins cher. Nous avons réalisé un déploiement d'IA privée embarquée pour un grand compte soumis à réglementation. Il a supprimé 4,2 k$ de dépenses OpenAI par mois, et aucune donnée client ne quitte l'ordinateur portable. Vos chiffres dépendront de votre volume.

Maintenance

Avec un modèle privé, les mises à jour, les correctifs de sécurité, la supervision et la planification des capacités vous incombent. Prévoyez ce temps dans votre budget, ou celui d'un partenaire qui s'en charge.

De nouveaux modèles à poids ouverts apparaissent souvent. En changer est généralement simple, mais chaque changement doit être retesté sur votre jeu d'évaluation avant la mise en production. Traitez les changements de modèle comme tout autre changement en production.

Ce qu'il vous faut pour démarrer

• Un cas d'usage clair et les sources documentaires dont il a besoin.
• Une décision, prise avec la sécurité et le juridique, sur l'option de déploiement acceptable.
• Un accès à un compte cloud ou à des serveurs, y compris de la capacité GPU si nécessaire.
• Un ensemble de vraies questions aux réponses connues pour l'évaluation.

Périmètre et délais types

Une première version prend généralement 2 à 4 semaines, selon les sources, l'infrastructure et les intégrations. Il s'agit d'une estimation. L'attente de capacité GPU ou d'approbations de sécurité peut l'allonger : lancez ces démarches tôt.

Comment nous garantissons des réponses exactes

• Un jeu d'évaluation de vraies questions, exécuté avant chaque changement de modèle ou de prompt.
• Des citations pour chaque réponse, pour que les experts puissent vérifier rapidement.
• Un refus en cas de doute, en particulier pour les questions cliniques, financières ou juridiques.
• Un suivi des questions sans réponse, des retours et des temps de réponse, entièrement dans votre environnement.

Les risques et notre façon de les gérer

• Vie privée et conformité : l'hébergement privé aide mais ne garantit pas à lui seul la conformité. HIPAA, la LPRPDE et le RGPD fixent chacun des exigences en matière d'accès, de sécurité et de conservation. Examinez-les avec votre propre conseiller juridique. Consultez notre article sur la protection de la vie privée dès la conception pour le RAG pour les bonnes pratiques techniques.
• Droits d'accès : appliqués au moment de la recherche à partir de votre fournisseur d'identité, jamais laissés au modèle.
• Réponses erronées : citations, règles de refus et relecture par un expert pour tout ce qui concerne un client ou un patient.
• Documents obsolètes : réindexation programmée et retrait des documents archivés.
• Sécurité de l'ensemble : chiffrement, isolation réseau, correctifs et journaux d'accès pour chaque composant.

Quand ne pas le construire

• Vos données ne sont pas réellement sensibles, ou une API hébergée sous conditions professionnelles est acceptable. C'est plus simple et souvent meilleur.
• Votre volume est faible et le matériel resterait inutilisé.
• Personne ne peut maintenir l'infrastructure, et vous ne voulez pas de partenaire.
• Vous avez davantage besoin du meilleur raisonnement disponible que du contrôle de vos données.

Comment UnlockLive peut vous aider

Nous concevons et exploitons des systèmes de RAG privé, du choix du modèle et du dimensionnement des GPU jusqu'à la recherche respectueuse des droits d'accès et à l'évaluation. Découvrez nos services de développement RAG et de développement IA et ML.

À lire aussi : l'assistant questions-réponses sur les politiques RH et les contrats, la checklist de sécurité des serveurs MCP et notre comparatif n8n auto-hébergé, Zapier ou Make. Pour discuter de vos données et de vos options, réservez un appel gratuit de 30 minutes.