Mise en œuvre de l’apprentissage automatique et de l’intelligence artificielle dans les établissements de recherche

Malgré les discussions internationales et nationales approfondies sur l’éthique et la politique sur l’IA qui ont eu lieu au cours de la dernière année, le secteur de l’enseignement supérieur et de la recherche a largement été exclu de ce débat. Toute exploration de la politique de l’enseignement supérieur s’est principalement concentrée sur les enjeux d’intégrité académique. Les discussions sur la politique de recherche se sont concentrées sur les risques liés au développement de puissants modèles linguistiques de grande taille et de modèles d’IA d’avant-garde, plutôt que sur les risques liés à l’utilisation d’outils d’IA et d’apprentissage automatique existants ou futurs au sein des systèmes internes des institutions de recherche. Toutefois, la mise en œuvre de systèmes automatisés et d’autres systèmes d’apprentissage automatique dans les bibliothèques de recherche et autres répertoires de données et d’informations sur la recherche présente un risque important pour la fiabilité et la sécurité des systèmes d’information, tout en offrant une occasion importante de maximiser et d’améliorer les capacités de recherche dans un paysage de recherche futur changeant et dynamique. Il est également important de noter que les grandes sociétés de logiciels de services de bibliothèque et les sociétés qui contrôlent la majorité des documents protégés par le droit d’auteur cédés sous licence aux universités canadiennes sont des multinationales provenant des États-Unis. Le système de recherche canadien dépend donc en grande partie de sociétés privées américaines. La présente norme vise à: (1) Garantir la fiabilité et la sécurité des informations au sein des principaux instituts de recherche du Canada afin de favoriser l’excellence et la durabilité de la recherche à l’avenir, (2) Lutter contre la désinformation, l’empoisonnement des données et d’autres menaces pour la cohérence et la fiabilité des informations qui pourraient être introduites dans les systèmes d’information par des modèles de fondations imparfaits ou par des dysfonctionnements de l’apprentissage automatique et de l’IA. (3) Promouvoir un environnement d’expérimentation et d’innovation en matière de méthodes et de systèmes au sein des institutions de recherche, ce qui permettra de créer une communauté de pratique avec des normes élaborées de manière organique qui pourront servir de base à de futures normes plus robustes pour les domaines de risque émergents. (4) Promouvoir l’expérimentation et l’élaboration d’outils internes pour contribuer à protéger le marché canadien contre la menace de domination des multinationales externes sur l’espace politique de l’IA pour l’enseignement supérieur en raison de l’absence d’autres options. (5) Diminuer la dépendance à l’égard des monopoles externes des États-Unis en matière de licences de droits d’auteur et contribuer à promouvoir la recherche ouverte, la publication d’informations à source ouverte, les accords de libre accès qui profitent aux Canadiens et à la recherche en général. (6) Appuyer les objectifs déclarés du gouvernement canadien envers la promotion de la sécurité de la recherche pour la propriété intellectuelle sensible. Bien que cette norme concerne des systèmes qui ne sont pas directement liés à la gouvernance des données sensibles relatives au développement de la propriété intellectuelle, cette approche systémique favorisera la résilience, la fiabilité et l’autonomie des systèmes de recherche canadiens, ce qui contribuera à la sécurité de la recherche dans des domaines plus sensibles. Il s’agit d’une norme nationale qui créera un précédent et jettera les bases de normes internationales, car il n’y a pas encore eu de travaux internationaux sur cette question urgente. La nature internationale et interconnectée des réseaux de recherche signifie qu’il sera impératif de passer d’une normalisation nationale à une normalisation internationale. Aucune norme existante ne traite directement de cette question. Il existe de nombreux contextes dans lesquels les régimes de gouvernance des données, les licences de droits d’auteur, la législation sur la protection de la vie privée et d’autres normes ou politiques existantes peuvent être pertinents, mais la présente norme les regroupera lorsque cela s’avérera nécessaire. Il s’agit notamment d’informations et de données sensibles telles que les collections relatives aux communautés vulnérables ou aux communautés des Premières Nations, en s’appuyant sur les efforts déployés par les universités et les bibliothèques de recherche pour mieux traiter les questions de souveraineté des données et de gestion éthique des documents des Premières Nations et d’autres communautés. Cette norme s’inspirera et soutiendra l’exigence existante selon laquelle tous les bibliothécaires canadiens doivent être certifiés par l’American Library Association (ALA), mais ne proposera pas de nouveau processus de certification. Cette norme initiale servirait de base pour établir des orientations à un moment où de nombreuses normes et pratiques, ainsi que des innovations, sont en train d’émerger. Il est possible que d’autres normes viennent s’y ajouter en fonction des besoins émergents, mais il est peu probable qu’elle soit remplacée, car elle est destinée à être une norme d’orientation de base. Un entretien périodique sera nécessaire pour suivre l’évolution du paysage de l’IA et de l’apprentissage automatique. Cette norme sera disponible dans les deux langues officielles du Canada.