Cas type — Gouvernance IA : registre des modèles et audit trail

Cas type · Étape 04 — Gouvernance IA

Registre des modèles IA et audit trail : un cadre de confiance aligné sur l’AI Act

Plusieurs équipes d’une banque utilisent déjà des outils d’IA, développés en interne ou achetés, sans vision d’ensemble. Nous construisons le registre, la charte et la comitologie qui permettent de savoir ce qui tourne, qui en répond et comment le contrôler.

Le contexte

L’AI Act (règlement (UE) 2024/1689) impose de qualifier les systèmes d’IA selon leur niveau de risque, et le scoring crédit des personnes physiques figure parmi les cas à haut risque de l’annexe III. Au-delà de la conformité, la direction des risques doit pouvoir répondre à une question simple : quels modèles et outils d’IA sont utilisés dans l’établissement, avec quelles données, sous la responsabilité de qui ? Sans registre, la réponse est incomplète. Le calendrier d’application des obligations a lui-même évolué : nous le suivons dans notre veille réglementaire.

Notre méthode, pas à pas

Direction générale et comité IAcharte, principes, arbitrages et approbation avant mise en production
1re ligne : métiers et ITpropriétaires des systèmes, usage au quotidien
2e ligne : risques et conformitéqualification AI Act, validation, suivi du risque de modèle
3e ligne : audit internecontrôle indépendant du dispositif
Registre des modèles IA et audit trailfinalité · propriétaire · données · version · validation · prestataire · décisions journalisées
Un registre central, alimenté par les trois lignes de défense et piloté par un comité.
Phase 1

Inventorier

Recensement de tous les systèmes d’IA, y compris ceux intégrés à des logiciels achetés et les usages non déclarés par les équipes. Un questionnaire et des entretiens par direction.

Livrable : inventaire consolidé

Phase 2

Qualifier

Classement de chaque système selon l’AI Act (pratique interdite, haut risque, transparence, risque minimal) et selon la politique de risque modèle de la banque. Chaque qualification est justifiée par écrit.

Livrable : fiche de qualification par système

Phase 3

Structurer le registre

Fiche type par modèle : finalité, propriétaire, données utilisées, version, performances, validation, prestataire. Lien avec le registre des prestataires TIC exigé par DORA.

Livrable : registre des modèles IA opérationnel

Phase 4

Définir la gouvernance

Charte IA, rôles des trois lignes de défense, comité IA ou intégration au comité des modèles, circuit d’approbation avant mise en production.

Livrable : charte et comitologie validées

Phase 5

Assurer la traçabilité

Journalisation des décisions importantes, des changements de version et des revues. Contrôles de supervision humaine pour les cas sensibles.

Livrable : dispositif d’audit trail et plan de contrôle

Résultat attendu

Un registre complet et vivantTous les systèmes d’IA identifiés, qualifiés et rattachés à un propriétaire.
Une charte approuvéePrincipes, rôles et seuils de décision validés par la direction générale.
Un circuit d’approbation clairAucun nouvel usage d’IA en production sans passage par le comité.
Un dossier prêt pour les contrôlesRéponses documentées en cas de demande du superviseur, de l’audit interne ou d’un client.

Points de vigilance

  • L’IA « cachée » : fonctionnalités d’IA intégrées dans des outils bureautiques ou métiers, rarement recensées.
  • La qualification juridique des cas limites doit être argumentée et revue, notamment avec la conformité et le juridique.
  • Un registre non mis à jour perd sa valeur : un processus de revue périodique est indispensable.
Cas type construit à partir de notre expérience du secteur bancaire. Il ne décrit pas un client précis. Les durées et résultats indiqués sont des cibles à confirmer lors du cadrage, sans engagement de résultat. Cette page est un contenu informatif et ne constitue pas un avis juridique.

← Retour à notre méthodologie en 5 étapes

Poser le cadre de votre gouvernance IA ?

Un état des lieux rapide permet de mesurer l’écart avec les exigences de l’AI Act.

Échanger avec un partner →

Retour en haut