Les organisations élaborent et utilisent de plus en plus de produits et de services fondés sur l’intelligence artificielle (IA). Toutefois, l’utilisation de ces technologies suscite de nombreuses préoccupations, qu’il s’agisse de leur sécurité ou de leurs répercussions sur la vie privée et la protection des renseignements personnels. Puisqu’il n’existe aucun cadre réglementaire régissant l’utilisation des technologies de l’IA, le secteur s’est vu confier le soin de créer ses propres normes. Une nouvelle norme pour gérer ces systèmes garantirait la qualité des produits et la sécurité des applications de l’IA pour l’ensemble des entreprises et des secteurs.

À compter de 2019, le CCN a travaillé de concert avec d’autres organismes nationaux d’élaboration de normes sur une proposition de nouvelle norme sur les systèmes de gestion de l’intelligence artificielle, ISO/IEC 42001. Cette norme permettra aux organisations qui fournissent ou utilisent des produits et services d’IA de gérer les problèmes liés à ces technologies et de montrer qu’elles ont mis en place et améliorent continuellement des processus propres à l’évolution ou à l’utilisation de l’IA. À titre d’exemple, la norme sur les systèmes de gestion de l’intelligence artificielle abordera des questions telles que la détermination et le traitement des biais des données relatives à l’apprentissage automatique, ou des questions plus générales telles que l’équité, l’inclusivité, la sûreté, la sécurité, la protection des renseignements personnels, la responsabilisation et la transparence.

Cette norme contribuera à accroître l’interopérabilité, harmoniser les exigences et renforcer la confiance envers les systèmes d’IA. Elle donnera également au secteur une mesure uniforme à respecter, renforçant ainsi la crédibilité des organismes qui obtiennent la certification. L’augmentation de la demande peut également exercer une influence sur les exigences législatives et réglementaires.