Infléchir l’évolution responsable de l’IA et des autres technologies numériques
Les technologies numériques comme l’intelligence artificielle (IA) recèlent un potentiel immense pour le Canada et pour le monde, mais seulement si elles sont développées et utilisées de manière responsable. Les normes et les évaluations (ou autres assurances) de conformité sont ici vitales. C’est pourquoi le CCN mène la charge afin d’établir de telles normes et de veiller à leur bonne application.
Collaborer à la normalisation d’une gestion responsable de l’IA
Il y a toujours eu un délai entre la conception d’une norme et la mise en application subséquente d’un mécanisme d’évaluation de conformité, délai qui s’est souvent mesuré en années. Or, l’IA est une technologie qui évolue trop vite pour ce paradigme. Si l’on voulait qu’elle encadre efficacement la création, l’utilisation et la gestion des systèmes d’IA, la norme ISO/IEC 42001 établissant un système de management de l’intelligence artificielle devait prendre effet dès sa publication en décembre 2023. Pour ce faire, nous avons fait appel à trois partenaires pour tenter une nouvelle approche de conception et de mise à l’essai d’un programme d’évaluation de la conformité en parallèle avec la rédaction de la norme.
C’est ainsi que nous avons demandé à ATB Financial, une société albertaine de services bancaires aux particuliers dont l’écosystème d’IA était relativement mature, de se prêter au processus d’évaluation. Le cabinet Ernst & Young (EY) a quant à lui été chargé d’évaluer les processus et systèmes organisationnels de l’entreprise à l’aune de la norme ISO/IEC. Enfin, nous avons fait appel au Responsible Artificial Intelligence Institute afin qu’il soumette les applications d’ATB Financial employant l’IA à son propre programme de certification des produits d’IA. Le projet pilote, qui a pris fin en décembre 2023, nous aura servi de cas de figure réel pour juger de la facilité ou de la difficulté de démontrer et d’évaluer la conformité à la nouvelle norme ISO/IEC et pour étudier l’articulation de multiples normes traitant de différents aspects de l’IA.
À travers les échanges itératifs et les discussions ouvertes entre tous les partenaires, nous sommes arrivés à établir un mécanisme d’évaluation de la conformité en un temps record. Nous avons aussi pu transmettre à l’ISO/IEC, par voie du comité parallèle canadien mené par le CCN, la rétroaction obtenue dans le cadre du projet afin de parfaire la norme pendant qu’elle était encore sur la table à dessin. Résultat : à sa publication, l’instrument était plus facile à comprendre et à appliquer pour les entreprises.
Histoires vraies; effets concrets
« Nous avons toujours tenté de faire concorder nos démarches avec les dernières normes et pratiques exemplaires en vigueur. Mais cela était difficile en ce qui concerne nos outils d’IA, car jusqu’à présent il n’y avait aucun cadre internationalement reconnu pour nous confirmer que nous faisions les choses correctement ni pour le confirmer à notre clientèle et aux autres parties prenantes. Participer à ce projet était donc une occasion inestimable de voir si nous étions engagés sur la bonne voie et de pallier nos lacunes aussi tôt que possible. L’amélioration de la gouvernance de l’IA, ça ne se fait pas en criant ciseau, alors il a été précieux de pouvoir procéder très vite à l’évaluation de notre société par rapport à la norme, puis d'en incorporer les leçons dans notre plan d’action pour l’année qui venait.
Se soumettre à des évaluations de la conformité n’est pas nouveau pour ATB, mais c’est la toute première fois que je prends part à l’élaboration d’une norme. Le CCN a toujours été là pour répondre à nos questions, encadrer nos discussions avec EY et le Responsible Artificial Intelligence Institute, faire le pont avec le comité parallèle, et nous accompagner dans tout le processus. »
— Yukun Zhang, Directrice, Gouvernance de l’IA et IA responsable, ATB Financial
« J’ai déjà pris part à l’élaboration d’une norme, mais ceci était une toute nouvelle expérience. Normalement, on doit travailler avec des cas d’usage théoriques et essayer d’anticiper les questions ou les problèmes d’une entreprise. Mais ici, on bénéficiait de conversations réelles avec l’équipe d’ATB Financial, dont plusieurs échanges sur son interprétation des exigences de la norme, les difficultés qu’elle rencontrait pour y satisfaire, et ainsi de suite. On en ressortait avec beaucoup de matériel à fournir au comité parallèle pour cerner les passages qui n’étaient pas assez clairs ou étoffés, et où il fallait probablement plus d’encadrement pour aider les entreprises qui chercheraient à se faire certifier plus tard.
Excellent partenaire pour accomplir ce travail, le CCN voyait à la transmission de renseignements aux bonnes personnes pour optimiser les efforts de tout le monde. En cette nouvelle ère de l’IA, la rédaction des normes doit s’accélérer, d’où l’importance de l’agilité et de la créativité dont a fait preuve ici le CCN. »
— Cathy Cobey, Coleader, IA responsable, EY Global
« Nous avions déjà évalué l’outil d’intelligence artificielle de la firme ATB Financial; nous plier de nouveau à l’exercice avec la norme ISO/IEC en parallèle nous a permis de mieux saisir comment les deux normes allaient fonctionner ensemble, et aussi de voir l’effet des gestes posés pour satisfaire à la norme organisationnelle sur la conformité aux normes logicielles, et vice versa. C’est tout spécial que de pouvoir transmettre cet apprentissage à l’industrie, et de voir comment les divers rouages de la gouvernance de l’IA – les lois, les normes, les programmes de certification — s’emboîtent de manière à fournir des garanties concernant les logiciels employant l’IA ou les organisations qui les utilisent.
Le processus nous a aussi montré l’importance que revêtent la nature et l’ampleur de la participation des êtres humains dans toutes les facettes d’une utilisation responsable de l’IA. Cela nous a amenés à revoir nos propres mécanismes d’évaluation afin de donner suffisamment de poids à l’aspect « supervision par l’humain » dans l’évaluation des applications de l’IA en entreprise. »
— Var Shankar, Directeur général, Responsible Artificial Intelligence Institute
Un nouveau guide collaboratif pour encadrer la gouvernance de l’IA et des données
En 2023, nous avons lancé le Collectif canadien de normalisation en matière d’IA et de gouvernance des données pour nous attaquer à des enjeux d’ampleur nationale et internationale : stratégies de normalisation en appui à l’économie du Canada; priorité accordée au leadership autochtone dans l’économie numérique et de l’IA; harmonisation des normes nationales et internationales; mise de l’avant des innovatrices et innovateurs canadiens dans le façonnement de l’IA responsable; etc.
Le Collectif, qui se compose de membres du gouvernement, du secteur privé, de la société civile, d’organisations autochtones, du milieu universitaire et d’organismes d’élaboration de normes, est né de l’expansion du Collectif canadien de normalisation en matière de gouvernance des données formé en 2019. La nouvelle mouture du Collectif a pour assises dans son travail les recommandations de l’ancienne feuille de route du Collectif canadien de normalisation en matière de gouvernance des données.
Certification pour les identifiants numériques et les services de confiance numérique
Nous avons travaillé tout au long de l’année avec 20 développeuses et développeurs de produits, un organisme d’évaluation de la conformité et un comité d’observation de plus de 110 membres pour mettre à l’essai un programme d’évaluation de la conformité de la spécification technique pour les identifiants numériques et les services de confiance numérique publiée en mai 2023. À la conclusion du projet pilote, un programme d’évaluation de la conformité à grande échelle devrait être mis au point dans les prochaines années pour garantir l’application uniforme de la spécification technique.
S’impliquer : contribuez à l’élaboration des normes internationales
L’élaboration des normes internationales est le fruit du travail de professionnelles et professionnels qui se joignent à différents comités pour représenter leur pays. Nos membres offrent leur temps et leur expertise pour promouvoir les intérêts du Canada dans le cadre de comités parallèles et de travaux de gouvernance au sein de l’Organisation internationale de normalisation ou de la Commission électrotechnique internationale. Découvrez comment devenir membre.
Intégrer le personnel évaluant
Nous cherchons toujours à élargir notre équipe d’évaluatrices et évaluateurs, d’inspectrices et inspecteurs ainsi que d’expertes et experts techniques qualifiés. Embauchées sur une base contractuelle, ces personnes ont la possibilité d’accepter des missions d’évaluation ponctuelles. Outre la rémunération offerte pour l’ensemble du travail lié aux évaluations, le CCN assume également les frais de déplacement et d’hébergement. Postulez en ligne pour vous joindre à notre équipe.
Faites passer le mot
Si vous avez trouvé cet article intéressant, passez le mot! Diffusez-le sur vos réseaux et apprenez à d’autres comment la normalisation peut être bénéfique pour toutes et tous. Ensemble, nous avons la possibilité de bâtir un avenir plus radieux et durable grâce au pouvoir de l’accréditation et de l’innovation.
