Le CCN publie un rapport de constats et prépare le lancement d’un programme d’accréditation de l’IA
Notre programme pilote d’accréditation de l’intelligence artificielle (IA) a permis d’observer les considérations qui pèsent sur l’élaboration d’un cadre d’accréditation et de certification des systèmes de management de l’IA. Vous trouverez les détails dans notre tout nouveau rapport de constats.
Le rapport présente également les grandes conclusions du programme pilote de mise à l’essai des exigences de certification de systèmes de management d’IA (SMIA) émergents. Cette initiative révolutionnaire visait à explorer l’application de la norme ISO/IEC 42001 et sa relation avec l’évaluation de la conformité des systèmes d’IA.
Le rapport arrive à point nommé, car les systèmes d’IA continuent d’influencer divers secteurs à l’échelle internationale. Le rapport souligne les enseignements importants tirés de l’évaluation de systèmes de management et d’applications d’IA au niveau des produits, et offre des orientations pratiques à l’aube de l’entrée en vigueur de la Loi sur l’intelligence artificielle et les données au Canada.
Principaux constats du programme pilote
Les principaux acteurs du projet pilote, Ernst & Young LLP (EY), organisme d’évaluation de la conformité, et ATB Financial, utilisateur d’IA, ont fourni des commentaires qui orienteront l’avenir de l’accréditation de l’IA au pays. Des leçons clés en ont été tirées, dont la nécessité de préciser les rôles des organismes d’évaluation de la conformité et de bien saisir comment les exigences propres aux secteurs influencent la gouvernance de l’IA.
Nous avons constaté que les SMIA peuvent rehausser la capacité d’un organisme de cerner et d’atténuer les risques liés à l’IA. En conjuguant évaluations d’organismes et examens de produits, le programme a fourni des occasions d’améliorer la gouvernance et la confiance de l’IA à l’échelle de nombreux secteurs, y compris les services financiers.
Le rapport souligne également le besoin d’orientations supplémentaires dans ce domaine en évolution rapide, particulièrement en ce qui a trait à la gestion des risques pour les tierces parties, à la mesure de la conformité et à l’évolution constante des technologies d’IA.
Observations : perspectives du CCN et des chefs de file du secteur
« Ce projet pilote a joué un rôle instrumental dans la préparation au lancement de notre programme d’accréditation de l’IA. En mettant à l’essai la norme ISO/IEC 42001 bien en amont, nous avons acquis de précieux savoirs pour perfectionner notre approche et nous préparer à répondre aux besoins des organismes à mesure qu’évolue la gouvernance de l’IA. Nous attendons avec intérêt le lancement du programme d’accréditation des SMIA et encourageons les organismes à y adhérer préalablement. C’est une occasion en or de contribuer à l’avenir de la gouvernance et de la certification de l’IA. »
— Elias Rafoul, vice-président, Services d’accréditation
« Nous avons toujours tenté de faire concorder nos démarches avec les dernières normes et pratiques exemplaires en vigueur. Mais cela était difficile en ce qui concerne nos outils d’IA, car jusqu’à présent il n’y avait aucun cadre internationalement reconnu pour nous confirmer que nous faisions les choses correctement – ni pour le confirmer à notre clientèle et aux autres parties prenantes. Participer à ce projet était donc une occasion inestimable de voir si nous étions engagés sur la bonne voie et de pallier nos lacunes aussi tôt que possible. L’amélioration de la gouvernance de l’IA, ça ne se fait pas en criant ciseau, alors il a été précieux de pouvoir procéder très vite à l’évaluation de notre société par rapport à la norme, puis d’en incorporer les leçons dans notre plan d’action pour l’année qui venait.
Se soumettre à des évaluations de la conformité n’est pas nouveau pour ATB, mais c’est la toute première fois que je prends part à l’élaboration d’une norme. Le CCN a toujours été là pour répondre à nos questions, encadrer nos discussions avec EY et le Responsible AI Institute, faire le pont avec le comité parallèle, et nous accompagner dans tout le processus. »
— Yukun Zhang, directrice, gouvernance de l’IA et IA responsable, ATB Financial
Prochaines étapes : expressions d’intérêt
À l’aube du lancement d’un programme complet d’accréditation des SMIA, nous encourageons les organismes d’évaluation de la conformité à exprimer leur intérêt pour adhérer préalablement au programme. Il s’agit d’une occasion en or de façonner l’avenir de la gouvernance de l’IA et de faire rayonner le rôle d’impulsion du Canada dans la normalisation de l’IA à l’international.
Pour obtenir de plus amples renseignements ou exprimer son intérêt, communiquer avec votre chargée ou chargé de compte ou envoyer un courriel à l’adresse accreditation@ccn-scc.ca.
