Qu’est-ce qu’un modèle, au sens de l’E-23?
Par Nick Jang, fondateur de MINERVA Studio ·
La réponse courte
Selon la ligne directrice E-23 du BSIF, un modèle est l’application d’hypothèses théoriques, empiriques ou fondées sur le jugement, ou de techniques statistiques, y compris l’IA et l’apprentissage automatique, qui traite des données d’entrée pour produire des résultats. En pratique : si quelque chose prend des données, applique une méthode qui suppose des hypothèses ou une estimation, et produit un résultat sur lequel des gens s’appuient pour décider, c’est un modèle, qu’il soit écrit en Python, intégré à un produit de fournisseur ou caché dans un tableur.
La définition, en trois morceaux
Ramenée à l’essentiel, la définition a trois morceaux. Des données entrent. Quelque chose les transforme en estimation. L’estimation sort sous une forme sur laquelle une personne ou un système agit.
C’est le morceau du milieu qui fait débat. Demandez-vous si la chose pourrait se tromper parce que quelqu’un a dû deviner. Si elle repose sur un paramètre ajusté, une méthode choisie ou l’idée que l’an prochain ressemblera à l’an dernier, la réponse est oui : c’est un modèle. Si elle se contente d’additionner des soldes ou de convertir des dollars au taux publié de la Banque du Canada, il n’y a rien à deviner : c’est de l’arithmétique.
Le BSIF n’a pas laissé l’IA à l’interprétation : les méthodes d’IA et d’apprentissage automatique sont incluses dans la définition. Votre cote de fraude par arbres de décision est un modèle. Le réseau de neurones qui lit les talons de paie du dossier hypothécaire aussi, tout comme le grand modèle de langage derrière le clavardage de votre site.
Un test pratique
- Prend-il des données d’entrée et produit-il un résultat (une cote, une estimation, une classification, une prévision, un texte généré)?
- Le résultat dépend-il d’hypothèses, d’une estimation, de statistiques ou d’une méthode apprise, plutôt que d’une règle fixe et vérifiable?
- Quelqu’un s’appuie-t-il sur le résultat pour prendre ou appuyer une décision, ou le système agit-il seul?
- Le résultat pourrait-il être faux d’une façon qui compte : argent, clients, capital, conformité, réputation?
Deux oui aux deux premières questions, et vous avez un modèle. Les deux suivantes ne changent rien à cela; elles disent quelle attention il mérite, ce qui est le rôle de la cote de risque. Un modèle peut être clairement visé et pourtant à faible risque. Il va dans l’inventaire de toute façon.
Exemples : modèle ou pas?
| La chose | Un modèle? | Pourquoi |
|---|---|---|
| Modèle de probabilité de défaut ou de perte en cas de défaut | Oui | Des estimations statistiques qui pilotent le capital et le crédit. |
| Modèle de pertes de crédit attendues IFRS 9, et son ajustement de la direction | Oui | Des estimations prospectives; l’ajustement est un jugement appliqué au résultat et doit figurer au dossier. |
| Surveillance des opérations LBC ou filtrage des sanctions | Oui, s’il note ou classe | Les seuils et scénarios sont des hypothèses calibrées. |
| Cote d’un bureau de crédit achetée à un fournisseur | Oui | Un modèle de tiers, que l’E-23 demande d’inventorier et de coter séparément. |
| Agent conversationnel fondé sur un grand modèle de langage | Oui | De l’IA qui produit des résultats sur lesquels les clients s’appuient. |
| Tableur qui prévoit les effectifs à partir des volumes passés | Souvent oui, risque faible | Il estime; son importance décide de sa cote. |
| Tableur qui additionne des soldes | Habituellement non | Aucune estimation; un contrôle d’informatique d’utilisateur final suffit. |
Les cas limites
- Les modèles cachés dans les logiciels de fournisseurs. Bien des systèmes d’octroi de prêts contiennent une grille de pointage intégrée que le contrat appelle « moteur de décision ». C’est quand même un modèle, et l’E-23 comme B-10 s’attendent à ce que vous alliez le chercher.
- Les agents d’IA. Un agent d’IA, c’est un modèle qui agit. Le modèle sous-jacent va à l’inventaire de l’E-23; ce que l’agent peut toucher et qui approuve ses actions risquées relèvent aussi des attentes du BSIF.
- Les modèles qu’on vient de retirer. L’E-23 compte aussi les modèles récemment retirés : la grille retirée en août garde sa ligne, avec la date et la raison.
Dans le doute, inscrivez-le. Trop inscrire coûte une ligne de tableur et un examen léger. Pas assez inscrire coûte la conversation où un examinateur trouve, dans un contrat de fournisseur, un modèle de notation dont l’équipe de risque n’avait jamais entendu parler.
Questions connexes
Un grand modèle de langage est-il un modèle selon l’E-23?
Oui. La définition de l’E-23 inclut les méthodes d’IA et d’apprentissage automatique, et un grand modèle de langage qui traite des données pour produire des résultats sur lesquels on s’appuie y répond.
Un tableur Excel est-il un modèle?
Lorsqu’il applique des hypothèses ou des techniques statistiques à des données pour produire des résultats sur lesquels on s’appuie, oui. Un tableur qui ne fait qu’additionner ou chercher des valeurs relève plutôt des contrôles d’informatique d’utilisateur final.
Les modèles des fournisseurs sont-ils visés par l’E-23?
Oui. L’E-23 demande que les modèles de tiers soient repérés, inventoriés et cotés séparément, en conformité avec la ligne directrice B-10.
Qui décide si une chose est un modèle?
La politique de l’institution fixe la définition, et l’équipe de risque de modèle de deuxième ligne tranche habituellement les cas incertains, raisonnement à l’appui.
Sources
Les nouvelles réponses sont publiées sur la page LinkedIn de MINERVA. Suivez-nous, ou envoyez la question à laquelle vous aimeriez une réponse à minerva@minerva.studio.
Une explication en langage clair, pas un avis juridique. Le texte du régulateur fait foi; lisez-le, et obtenez un avis sur la façon dont il s’applique à votre institution.