Norme de sécurité pour les produits basés sur l’IA
Porté:
La portée de cette norme concerne les produits basés sur l’IA, qui peuvent être des applications AI/ML (produits logiciels avec des capacités basées sur l’IA ou ML) comme un modèle ML de détection de défaillance ou un robot conversationnel basé sur un modèle de grande langue (LLM) pour le service à la clientèle; ou des produits existants avec des capacités ou des composants basés sur l’IA ajoutés.
Cette norme vise à spécifier un ensemble horizontal d’exigences de sécurité pour divers produits basés sur l’IA, et elle doit être utilisée conjointement avec d’autres normes de sécurité des produits existantes (verticales).
Toutes les exigences spécifiées dans ce document ne s’appliquent pas à tous les produits basés sur l’IA. Selon l’application ou le produit d’IA particulier, seul un sous-ensemble de ces exigences peut être pertinent.
Les produits et services basés sur l’IA qui seront couverts par ces exigences comprennent, sans s’y limiter, les appareils électroménagers, la conduite autonome, les batteries, l’électronique grand public, les meubles, le CVCA/R, les nettoyants ménagers et industriels, l’éclairage, les fils et câbles, la robotique et les appareils médicaux.
Les normes ISO/IEC pertinentes liées à l’intelligence artificielle sont incluses comme références normatives.
Raison d’être du projet
Le paysage de l’intelligence artificielle (IA) évolue avec une vitesse sans précédent, introduisant des fonctionnalités basées sur l’IA dans un large éventail de produits de consommation et industriels. Cette évolution est marquée par des étapes importantes telles que l’avènement de l’apprentissage automatique (apprentissage automatique), la résurgence des technologies d’apprentissage profond (DL) et l’émergence de l’IA générative. Ces progrès ont permis de trouver des applications dans divers secteurs, améliorant le bien-être, la commodité, la productivité, l’efficacité et l’innovation, tout en posant de nouveaux défis en matière de considérations éthiques et de risques pour la sécurité.
Ce projet vise à élaborer une norme nationale conjointe Canada-États-Unis en utilisant un cadre complet pour évaluer la sécurité des produits basés sur l’IA. Ce cadre d’application décrira les exigences, les procédures et les lignes directrices nécessaires pour s’assurer que ces produits peuvent être utilisés en toute sécurité et qu’ils sont conformes aux normes les plus élevées en matière de sécurité de l’IA, aux règlements et aux meilleures pratiques de l’industrie. Il est aligné sur les normes et méthodologies existantes et à venir définies par des organismes de normalisation reconnus tels que ISO/IEC JTC 1/SC 42 et IEEE-SA et des organismes de réglementation tels que les États-Unis. Décret exécutif de l’IA et la Loi de l’UE sur l’IA, assurant un processus d’évaluation holistique et rigoureux. Cette norme vise également à combler l’écart entre l’avancement technologique rapide et le développement de normes de sécurité correspondantes, en veillant à ce que les produits basés sur l’IA soient non seulement novateurs et efficaces, mais aussi sûrs, éthiques et dignes de confiance. L’établissement de la sécurité du système d’IA est essentiel pour renforcer la confiance du public et assurer l’adoption responsable des technologies d’IA bénéfiques.
Les principaux intervenants de cette activité de normalisation comprennent les producteurs de logiciels basés sur l’IA, les consommateurs qui utilisent des produits basés sur l’IA et les fabricants de produits qui utilisent des logiciels basés sur l’IA. Cette norme conjointe ANSI/CAN/UL soutiendra les programmes de certification au Canada et aux États-Unis, facilitant l’uniformité transfrontalière et assurant l’harmonisation avec les meilleures pratiques de l’industrie. Son processus d’entretien permettra des mises à jour rapides pour répondre aux besoins émergents, en veillant à ce que la norme évolue parallèlement aux progrès technologiques et aux demandes du marché.
Note : L’information ci-dessus a été recueillie et est diffusée par le Conseil canadien des normes (CCN) pour les besoins de son système de notification centralisé et transparent pour l’élaboration de nouvelles normes. Le système permet aux organismes d’élaboration de normes (OEN) accrédités par le CCN et aux membres du public d’être informés des nouveaux travaux d’élaboration de normes au Canada. Il donne aussi aux OEN accrédités la possibilité de repérer et de résoudre les cas de doubles emplois éventuels dans les normes et les travaux de normalisation.
Les OEN sont eux-mêmes responsables du contenu et de l’exactitude de l’information présentée ici. Cette information n’existe que dans la langue dans laquelle elle a été fournie au CCN.