Conception éthique et utilisation des systèmes de décision automatisés

La présente norme établit les exigences minimales visant la protection des valeurs humaines et l’enchâssement de règles éthiques organisationnelles dans la conception et l’utilisation de systèmes de décision automatisés. Elle se limite à l’intelligence artificielle (IA) utilisant l’apprentissage machine pour les décisions automatisées. La présente norme s’applique à toutes les organisations : sociétés ouvertes et fermées, organismes gouvernementaux et organismes sans but lucratif. Elle établit un cadre et un processus aidant les organisations à intégrer les principes éthiques sur l’IA, comme ceux de l’Organisation de coopération et de développement économiques (OCDE) : - L’IA doit avoir des retombées positives pour les personnes et la planète en assurant une croissance inclusive, un développement durable ainsi que le bien-être général. - Les systèmes d’IA doivent respecter l’état de droit, les droits de la personne, les valeurs démocratiques et les principes de diversité et prévoir des mécanismes adéquats – p. ex. intervention humaine, au besoin – pour créer une société juste et équitable. - Les systèmes d’IA doivent être assortis de principes de transparence et de divulgation responsable afin qu’il soit possible de bien comprendre leurs résultats et de les remettre en question. - Les systèmes d’IA doivent être solides et sûrs tout au long de leur cycle de vie, et il faut continuellement évaluer et gérer les risques potentiels. - Il incombe aux organisations et aux personnes qui conçoivent, déploient ou exploitent des systèmes d’IA de veiller à ce que leurs activités soient en phase avec les principes ci-dessus. Les exigences énoncées dans la présente norme sont fondées sur des principes, et il est entendu que les pratiques de gouvernance d’une organisation peuvent dépendre de sa taille et de sa structure de propriété, ainsi que de la nature, de la portée et de la complexité de ses activités, de sa stratégie et de son profil de risque. Les organisations sont tenues de prendre des mesures raisonnables et responsables pour adopter et appliquer les principes énoncés dans la présente norme. La présente norme doit être utilisée conjointement avec les programmes de conformité de l’organisation (programmes juridiques et en matière de protection de la confidentialité, de cybersécurité, de gouvernance des données, de plaintes et d’appels, etc.) et y être intégrée.