Comment prouver ce que votre IA a fait avec les données d'un client
Réponse courte
Senthex enregistre ce que votre IA a fait sous forme de registre d'audit centré sur les métadonnées : pour chaque appel, il journalise le modèle, les verdicts et scores des shields, les horodatages et les comptes de tokens. Dans le pilote d'audit vérifiable (v1.1.7), les enregistrements sont chaînés en SHA-256 et ancrés à un horodatage RFC 3161, pour qu'un auditeur vérifie la trace hors-ligne — tamper-evident, pas tamper-proof.
Qu'est-ce que Senthex enregistre exactement à chaque appel ?
Senthex est un reverse proxy qui s'interpose entre votre application et le fournisseur de modèle ; il voit donc chaque requête et réponse en flux. Par conception, il journalise des métadonnées, pas les prompts et complétions bruts :
- le modèle et le fournisseur routés, et le statut de la requête ;
- le verdict, le score et la version de règle de chaque shield (ce qui a déclenché, et pourquoi) ;
- les horodatages et les comptes de tokens.
Le corps brut des requêtes et des réponses est exclu du stockage par défaut (minimisation des données). C'est suffisant pour répondre à « qu'a vu le modèle, qu'a-t-il renvoyé, et quels contrôles ont tourné » sans faire de votre journal d'audit une seconde copie des données de vos clients.
Un auditeur peut-il vérifier la trace sans faire confiance à Senthex ?
C'est tout l'objet du pilote d'audit vérifiable (v1.1.7). Les enregistrements sont liés en chaîne de hachage SHA-256, et la tête de chaîne est ancrée à un horodatage de confiance RFC 3161. Un vérifieur offline recalcule la chaîne et contrôle le jeton d'horodatage face au certificat public de l'autorité — sur la machine de l'auditeur, sans aucun rappel vers Senthex. « Vérifier, ne pas faire confiance » ne tient que s'il n'a pas à nous croire sur parole. Vous pouvez lancer ce contrôle dans votre navigateur sur un bundle réel (synthétique) dès maintenant.
Le registre d'audit est-il tamper-proof ?
Non — et nous ne le prétendons jamais. Un journal logiciel ne peut pas empêcher une modification. Une chaîne de hachage rend toute modification détectable : changez un octet et la chaîne recalculée ne correspond plus. Un horodatage RFC 3161 indépendant empêche l'antidatage silencieux. C'est le claim honnête et défendable — tamper-evident, pas tamper-proof — et c'est exactement ce dont un auditeur a besoin. Nous avons détaillé la distinction.
Comment cela se mappe-t-il à l'EU AI Act ?
La tenue de registres se mappe aux articles 12 (générer les logs) et 19 (les conserver — au moins six mois) — pas à l'article 15, qui couvre l'exactitude, la robustesse et la cybersécurité. Garder les deux distincts compte dans votre documentation technique : aucun fournisseur ne vous rend « conforme article 15 » à lui seul, car c'est une obligation système. Senthex fournit la preuve opérationnelle à citer, pas un certificat à brandir. La page EU AI Act mappe chaque contrôle ligne à ligne.
Qu'y a-t-il dans le pilote par rapport à la version publiée ?
Nous sommes explicites là-dessus pour que cela ne vous surprenne jamais en revue technique. La version publiée fait de la journalisation de métadonnées — modèle, verdicts et scores des shields, horodatages, comptes de tokens. La chaîne vérifiable et tamper-evident (SHA-256 + RFC 3161 + vérifieur offline) est une capacité pilote (v1.1.7), pas encore la version publiée. L'horodatage de démo utilise freeTSA, une autorité de démonstration publique non eIDAS-qualifiée ; la production utilise un horodatage eIDAS qualifié (QTSP) avec le même mécanisme RFC 3161.
Après un incident, pouvez-vous répondre à ça ?
| Question d'un régulateur ou d'un client | Logs applicatifs / base de données ordinaires | Registre d'audit vérifiable Senthex (pilote v1.1.7) |
|---|---|---|
| Prouver que l'enregistrement n'a pas été édité après coup ? | Non — l'app qui écrit le log peut le réécrire | Oui — une chaîne SHA-256 rend toute édition détectable (tamper-evident) |
| Laisser un auditeur vérifier sans vous appeler ? | Non | Oui — un vérifieur offline recalcule la chaîne sur sa propre machine |
| Preuve indépendante anti-antidatage ? | Non | Horodatage RFC 3161 ancrant la tête de chaîne (démo : freeTSA, non eIDAS-qualifié ; prod : eIDAS QTSP qualifié, même mécanisme) |
| Prouver que la trace est complète ? | Non | Non — un bundle vérifie ce qui a été exporté, pas ce qui n'a jamais été journalisé |
| Tenue de registres EU AI Act ? | Ad hoc | Conçu pour les articles 12 et 19 — pas l'article 15 |
Questions fréquentes
Comment prouver ce que mon IA a fait avec les données client ?
Senthex tient un enregistrement par appel, centré sur les métadonnées — modèle, verdicts et scores des shields, horodatages, comptes de tokens. Dans le pilote (v1.1.7), ces enregistrements sont chaînés en SHA-256 et ancrés à un horodatage RFC 3161, et un vérifieur offline permet à quiconque de recontrôler la chaîne. La version publiée fait la journalisation de métadonnées ; la chaîne vérifiable et tamper-evident est un pilote.
Le registre d'audit est-il tamper-proof ?
Non. Nous disons tamper-evident, jamais tamper-proof. Un journal logiciel ne peut pas empêcher une modification ; une chaîne de hachage la rend détectable, et un horodatage RFC 3161 indépendant empêche l'antidatage silencieux. C'est le claim honnête et défendable — et c'est ce dont un auditeur a réellement besoin.
Un auditeur peut-il le vérifier sans faire confiance à Senthex ?
Oui. Le vérifieur offline recalcule la chaîne SHA-256 et contrôle le jeton d'horodatage face au certificat public de l'autorité, sur le portable de l'auditeur — sans serveur ni base Senthex. « Vérifier, ne pas faire confiance » ne tient que s'il n'a pas à nous appeler.
À quels articles de l'EU AI Act cela se mappe-t-il ?
La tenue de registres se mappe à l'article 12 (générer les logs) et à l'article 19 (les conserver, au moins six mois) — pas à l'article 15, qui couvre l'exactitude, la robustesse et la cybersécurité. Gardez les deux distincts dans votre documentation technique.
L'horodatage est-il reconnu légalement ?
La démo publique utilise freeTSA, qui n'est pas eIDAS-qualifié. La production utilise un horodatage eIDAS qualifié d'un QTSP, avec le même mécanisme RFC 3161. Ne laissez personne présenter un horodatage de démo comme un horodatage eIDAS qualifié.
Voyez une vraie preuve, puis déployez
Lancez la vérification dans le navigateur sur un bundle d'audit réel (synthétique) — changez un octet et regardez la chaîne le détecter. Quand vous êtes prêt, le plan Free (1 000 requêtes/mois, sans carte) donne accès aux mêmes shields et au dashboard de métadonnées ; Business ajoute une rétention de logs plus longue, des limites de requêtes plus élevées et le rapport OWASP LLM Top 10.