Le consensus pour les décisions IA
Pulse soumet les décisions IA critiques à un comité de validateurs indépendants plutôt qu'à un seul modèle. Quand ils sont d'accord, la décision est appliquée. En cas de désaccord, elle est bloquée, mise en quarantaine et remontée à un humain, avec la traçabilité complète conservée pour audit.
Le problème que nous résolvons
Les modèles de langage se trompent. La plupart des erreurs sont sans gravité. D'autres, valider un remboursement frauduleux, fuiter des données sensibles, mal extraire une clause contractuelle, sont catastrophiques. Les défenses classiques (prompt engineering, un seul relecteur humain) échouent de manière prévisible :
- Dérive des prompts, ce qui fonctionne aujourd'hui casse après une mise à jour du fournisseur demain.
- Fatigue humaine, quand un relecteur valide 95 % des décisions par habitude, les 5 % qui comptent passent sans contrôle.
- Aucune piste d'audit, quand un incident survient, impossible de prouver ce que le modèle a réellement considéré.
Notre réponse : ne pas faire confiance à un seul modèle, faire confiance à un comité. Rendre ce comité auditable. N'escalader vers un humain que lorsqu'il y a désaccord.
Comment ça marche
Quand un événement critique arrive, Pulse le route vers un petit comité de validateurs IA indépendants. Chacun relit la décision proposée selon votre politique et vote. Si la majorité est d'accord, la décision est appliquée et journalisée. Sinon, elle est bloquée, envoyée dans une Dead-Letter Queue, et un relecteur humain reçoit le contexte complet, l'événement, le raisonnement de chaque validateur, le détail des votes.
- 1
Un événement critique arrive
Une action à conséquences réelles, un remboursement, une recommandation de triage, un octroi d'accès.
- 2
Un comité est sélectionné
Pulse choisit un petit groupe de validateurs depuis un pool que vous contrôlez. La sélection est imprévisible, donc non manipulable.
- 3
Chaque validateur vote
Des relecteurs indépendants, modèles ou prompts différents, évaluent la décision selon votre politique.
- 4
La majorité applique, le désaccord escalade
L'accord applique la décision avec une trace inviolable. Le désaccord la bloque et alerte un humain.
- 5
Les humains entraînent le système
Chaque override humain est capté par le Learning, affinant les décisions futures.
Plusieurs validateurs, pas un seul
Un seul LLM peut halluciner. Plusieurs validateurs indépendants, avec des prompts et fournisseurs différents, ne peuvent pratiquement pas halluciner la même chose.
Une sélection non manipulable
Un attaquant ne peut pas prédire quels validateurs reliront un événement donné, il ne peut donc pas fabriquer une charge qui ne tromperait que les bons.
Majorité, pas unanimité
Exiger l'unanimité bloquerait trop. La majorité attrape les vraies erreurs sans bloquer sur des désaccords mineurs.
Audit inviolable
Chaque vote est signé et enregistré. On peut prouver ce que chaque validateur a dit sur une décision, des mois plus tard.
Escalade humaine prévue
Le désaccord ne tombe pas en silence, il devient un élément à relire avec tout le contexte, pas une simple stack trace.
Deux modes, une plateforme
La plupart des pipelines empruntent la voie rapide. Le consensus est réservé aux décisions où « à peu près correct » ne suffit pas.
Voie rapide
Exécution sub-milliseconde, flux agent-à-agent direct, audit complet. Par défaut pour ~95 % de vos automatisations.
Voie consensus
Relecture multi-validateurs pour les ~5 % de décisions qui le justifient. Ajoute un peu de latence en échange de sûreté et de traçabilité.
Un agent en voie rapide peut basculer automatiquement vers le consensus. Exemple : les factures courantes passent directement ; au-delà d'un seuil que vous fixez (disons 10 k$), la facture déclenche une relecture par le comité avant validation.
Où le consensus prouve sa valeur
Appliquez le consensus aux agents dont une mauvaise sortie coûterait cher, finance, médical, sécurité, juridique. Évitez-le sur le volume routinier à faible enjeu.
Finance
- Validation automatique de remboursements, accord du comité requis avant tout mouvement d'argent.
- Exécution automatisée d'ordres, les validateurs doivent s'accorder sur la thèse avant l'envoi.
- Validation de factures, les montants extraits sont revérifiés contre le document original avant comptabilisation.
Santé
- Recommandations de triage, plusieurs modèles spécialisés doivent s'accorder avant de proposer une orientation.
- Brouillons d'accord préalable, le libellé est contrôlé pour éviter toute déformation de l'état du patient.
Sécurité & conformité
- Classification d'hameçonnage, un phishing sophistiqué qui trompe un modèle en trompe rarement plusieurs.
- Recommandations de contrôle d'accès, accord du comité requis avant tout octroi d'accès élevé.
Juridique
- Extraction de clauses contractuelles, la différence entre « A paie B » et « B paie A » est rattrapée à la relecture.
- Revues de conformité, un « feu vert » n'est journalisé que si les validateurs concordent.
Quand NE PAS l'utiliser
- ·Volume routinier à faible enjeu (auto-tagger des emails, catégoriser un flux), la latence ajoutée n'en vaut pas la peine pour des décisions dont le pire scénario est un désagrément mineur.
- ·Décisions où les humains se contenteraient de tamponner, c'est du travail de comité gaspillé.
- ·Chemins strictement sensibles au temps (intervention temps réel, HFT), le consensus ajoute de la latence par construction.
Ce qui peut être validateur
Les validateurs existent en trois formes. Pulse route chaque événement vers le bon type selon le domaine, un événement finance va vers des validateurs finance, un événement médical vers des validateurs médicaux, etc.
Validateurs IA
Des modèles de langage avec un prompt de relecture précis. En général 3 à 5 par domaine, sur des fournisseurs différents pour échouer indépendamment.
Validateurs à règles
Vérifications déterministes, par exemple : « toute facture au-dessus d'un seuil doit porter une approbation signée ». Rapides, gratuits, attrapent beaucoup d'erreurs de catégorie.
Validateurs outils externes
Des validateurs qui appellent un système externe via MCP, par exemple croiser la valeur vie client avant d'approuver un gros remboursement.
Conçu pour l'audit, pas seulement pour la sûreté
Chaque décision sous consensus laisse une trace inviolable : quel événement, quels validateurs l'ont relu, comment chacun a voté, le raisonnement de chacun, et le résultat final. Six mois plus tard, on peut prouver exactement ce que le système a pris en compte avant d'agir.
Clarté post-mortem
Quand une décision est contestée, le raisonnement complet est disponible, pas perdu dans un historique de chat volatil.
Munitions pour les audits
Les auditeurs préfèrent « plusieurs validateurs indépendants ont concordé avant l'action » à « on fait confiance à l'IA ».
Résolution de litiges
Si un client conteste un résultat, vous disposez du raisonnement des validateurs verbatim, prêt à partager.
Des validateurs qui gagnent (ou perdent) la confiance
Avec le temps, Pulse apprend quels validateurs sont fiables. Quand un humain contredit un validateur, sa réputation diminue. Les validateurs qui changent d'avis sur des événements similaires sont rétrogradés. À précision égale, les validateurs moins coûteux sont préférés. Les mauvais peuvent être retirés, manuellement ou automatiquement, selon des seuils que vous fixez.
Pulse face aux autres plateformes IA
Les autres outils livrent soit des frameworks bruts (vous construisez vous-même la couche de sûreté), soit des intégrations mono-modèle sans relecture. Pulse est la seule plateforme auto-hébergée qui livre le consensus comme primitive de premier ordre.
| Capacité | Pulse | Frameworks IA | Outils workflow |
|---|---|---|---|
| Plusieurs validateurs par décision critique | Inclus | À construire | — |
| Audit inviolable | Inclus | — | — |
| Sélection non manipulable | Inclus | — | — |
| Dead-letter queue pour décisions bloquées | Inclus | À construire | — |
| Escalade humaine en cas de désaccord | Inclus | À construire | — |
| Suivi de réputation par validateur | Inclus | — | — |
| Routage par domaine vers le bon pool | Inclus | — | — |
Pourquoi c'est inclus sur tous les plans
Nous incluons délibérément le consensus sur tous les plans, y compris FREE. Deux raisons :
- 1La sûreté ne doit pas être derrière un paywall. Si quelqu'un fait tourner un agent IA qui peut causer de vrais dégâts, il a besoin de la couche de validateurs. La facturer la refuserait aux utilisateurs qui en ont le plus besoin, particuliers et prosumers.
- 2C'est notre capacité distinctive. Les équipes qui deviendront un jour clientes ENTERPRISE découvrent d'abord Pulse via FREE. Si FREE n'inclut pas ce qui rend Pulse architecturalement unique, on ne les rencontre jamais.
Les validateurs eux-mêmes consomment des tokens du fournisseur LLM que vous avez configuré, ce coût vous revient. La mécanique de consensus qui les orchestre, elle, est gratuite.
FAQ
Réponses rapides sur la latence, le coût, quand activer la couche de consensus et ce qui se passe en cas de désaccord.
À lire ensuite
Confidentialité & sécurité
Comment le consensus s'inscrit dans la posture de sécurité globale.
Confidentialité & sécuritéCas d'usage
Scénarios réels où la relecture par comité justifie sa latence.
Cas d'usageConcepts & fonctionnalités
Où le consensus s'insère dans l'architecture Pulse globale.
Concepts & fonctionnalités