Registre des modèles IA et audit trail : un cadre de confiance aligné sur l’AI Act
Plusieurs équipes d’une banque utilisent déjà des outils d’IA, développés en interne ou achetés, sans vision d’ensemble. Nous construisons le registre, la charte et la comitologie qui permettent de savoir ce qui tourne, qui en répond et comment le contrôler.
Le contexte
L’AI Act (règlement (UE) 2024/1689) impose de qualifier les systèmes d’IA selon leur niveau de risque, et le scoring crédit des personnes physiques figure parmi les cas à haut risque de l’annexe III. Au-delà de la conformité, la direction des risques doit pouvoir répondre à une question simple : quels modèles et outils d’IA sont utilisés dans l’établissement, avec quelles données, sous la responsabilité de qui ? Sans registre, la réponse est incomplète. Le calendrier d’application des obligations a lui-même évolué : nous le suivons dans notre veille réglementaire.
Notre méthode, pas à pas
Inventorier
Recensement de tous les systèmes d’IA, y compris ceux intégrés à des logiciels achetés et les usages non déclarés par les équipes. Un questionnaire et des entretiens par direction.
Livrable : inventaire consolidé
Qualifier
Classement de chaque système selon l’AI Act (pratique interdite, haut risque, transparence, risque minimal) et selon la politique de risque modèle de la banque. Chaque qualification est justifiée par écrit.
Livrable : fiche de qualification par système
Structurer le registre
Fiche type par modèle : finalité, propriétaire, données utilisées, version, performances, validation, prestataire. Lien avec le registre des prestataires TIC exigé par DORA.
Livrable : registre des modèles IA opérationnel
Définir la gouvernance
Charte IA, rôles des trois lignes de défense, comité IA ou intégration au comité des modèles, circuit d’approbation avant mise en production.
Livrable : charte et comitologie validées
Assurer la traçabilité
Journalisation des décisions importantes, des changements de version et des revues. Contrôles de supervision humaine pour les cas sensibles.
Livrable : dispositif d’audit trail et plan de contrôle
Résultat attendu
Points de vigilance
- L’IA « cachée » : fonctionnalités d’IA intégrées dans des outils bureautiques ou métiers, rarement recensées.
- La qualification juridique des cas limites doit être argumentée et revue, notamment avec la conformité et le juridique.
- Un registre non mis à jour perd sa valeur : un processus de revue périodique est indispensable.
Poser le cadre de votre gouvernance IA ?
Un état des lieux rapide permet de mesurer l’écart avec les exigences de l’AI Act.