Québec impose des balises pour l'usage de l'IA dans la fonction publique

MONTRÉAL — Le ministère québécois de la Cybersécurité et du Numérique (MCN) adopte des mesures afin d'encadrer l'utilisation de l'intelligence artificielle générative (IAG) par les organismes publics. Ces balises s'inscrivent dans les meilleures pratiques, selon des experts, qui redoutent tout de même une mise en oeuvre difficile.

Quelques jours avant Noël, Québec a annoncé dans un communiqué l'entrée en vigueur d'une «indication d'application». Ce document contient des mesures pour l'usage de l'IAG dans l'administration publique.

Elles englobent, entre autres, la protection des données, la formation du personnel et les critères à considérer pour choisir les cas d'usage de l'IAG. Le document prévoit aussi un cadre de gouvernance, la gestion de risques et des mesures de contrôle.

En plus de cette indication, le MCN a aussi fait une mise à jour de son «énoncé de principes pour une utilisation responsable de l'intelligence artificielle par les organismes publics».

Ces deux documents lèvent par ailleurs la suspension de la dernière année concernant l'utilisation des assistants virtuels s'appuyant sur l'IAG dans l'administration publique, indique le MCN.

«Des travaux d'expérimentation menés par le MCN en collaboration avec 14 organismes publics ont permis d'évaluer les risques d'utilisation de l'IAG et de rédiger des lignes directrices pour les contrôler», précise le cabinet du ministre du MCN.

Dans les meilleures pratiques

La démarche de Québec pour l'encadrement de cette technologie est alignée avec les meilleures pratiques reconnues dans le secteur public, notamment à l'échelle internationale, avancent des spécialistes contactés par La Presse Canadienne.

Un professeur au département informatique de l'Université du Québec à Montréal (UQAM), Sébastien Gambs, juge positive l'instauration de ce cadre québécois.

«Il y a une volonté d'être certain que, quand il y a un système d'IA mis en place, ce n'est pas juste une expérimentation d'apprenti sorcier, mais que beaucoup d'enjeux soient pris en compte pour être sûr que ça bénéficie à la société», dit M. Gambs, qui est titulaire de la Chaire de recherche du Canada en analyse respectueuse de la vie privée et éthique des données massives.

Selon un éthicien de la technologie et de l'intelligence artificielle, Lahcen Fatah, Québec adopte une «approche assez pragmatique» avec l'indication d'application.

«Le document ne célèbre pas nécessairement l'IA générative comme une solution miracle. (...) L'IA est présentée ici comme un outil d'assistance, jamais comme un substitut au jugement administratif ou politique», affirme M. Fatah, doctorant à l'UQAM.

Il salue d'ailleurs, parmi les bonnes mesures intégrées par Québec, «le maintien d'un humain responsable» derrière l'usage de l'IAG. Le cadre prévoit une obligation de supervision humaine et «un refus de toute délégation complète à un système d'IA génératif», souligne-t-il.

Ali Ekber Cinar, doctorant à la Faculté de droit de l'Université McGill et spécialiste dans le domaine du droit et de la technologie, considère globalement que l'indication d'application «est structurellement solide et attentive aux risques».

Il «note particulièrement l’exigence explicite de réaliser des évaluations d’impact sur la vie privée (...) à toutes les phases des projets».

«Ce qui me semble remarquable, car cela témoigne d’un niveau élevé de prudence et assure que les considérations éthiques et de protection de la vie privée sont traitées comme une responsabilité continue», affirme par courriel M. Cinar.

«Cependant, des lacunes subsistent» sur le plan de la protection des données personnelles, bien que le cadre prévoit des «mesures solides», selon lui.

Il soulève notamment que le cadre offre «des indications limitées sur l’information des personnes concernées, l’obtention de leur consentement ou la possibilité de contestation et de recours». M. Cinar souligne également le «peu de précisions» sur certains aspects, dont «les durées de conservation» des données.

M. Gambs trouve également intéressants plusieurs aspects de l'énoncé de principes. Il cite notamment le volet portant sur l'efficience et l'efficacité des systèmes d'IA qui doivent permettre, selon l'énoncé, d'offrir «des services publics simplifiés».

«Pour moi, c'est un peu la question de base à se poser: est-ce que le système d'IA qu'on va mettre en place améliore un processus gouvernemental ou apporte quelque chose? Ce n'est pas juste une usine à gaz qu'on met en place. (...) Est-ce que c'est vraiment quelque chose qui va bénéficier à la population avec un coût maîtrisé?», soutient-il.

Un défi de mise en oeuvre

Le professeur de l'UQAM estime que l'exécution de ces principes et balises au sein de la fonction publique constitue un «gros défi». Selon lui, leur mise en application pourrait nécessiter de la formation auprès du personnel existant et l'embauche d'employés.

«Je pense qu'il y a déjà pas mal de compétences dans chaque ministère pour être capable de respecter les enjeux de vie privée. Mais il y a de nouveaux principes qui apparaissent, qui sont un peu spécifiques à l'IA, qui demandent, à mon avis, une montée en compétence à l'interne et peut-être d'avoir de nouvelles personnes qui ont cette expertise-là», dit M. Gambs.

M. Fatah souligne que l'indication revêt un caractère «obligatoire», puisqu'elle vise les organismes et ministères assujettis à la Loi sur la gouvernance et la gestion des ressources informationnelles. Ce qui est «susceptible de produire des effets concrets sur les pratiques administratives», selon lui.

«Leur mise en application reste tout de même difficile, malgré l’aspect obligatoire», reconnaît toutefois M. Fatah.

«Le cadre est robuste sur le papier, mais son effectivité dépendra fortement des ressources, de la maturité numérique des organisations et de leur capacité à opérationnaliser ces exigences dans la durée», avance-t-il.

Bien que les mesures adoptées par le MCN soient loin d'être symboliques, M. Fatah croit que l'adoption d'une loi-cadre reste nécessaire pour renforcer le développement et le déploiement responsables de l’IA au Québec.

Le Conseil de l'innovation du Québec recommandait dans son rapport sur l'IA, publié en janvier 2024, que la province entame rapidement des travaux pour l'adoption d'une loi-cadre.

Cette dernière «aurait pour objectif d'instaurer des balises applicables dans le secteur tant privé que public» afin de protéger les citoyens en présence de systèmes d'IA «comportant un risque élevé d’impact sur les droits de la personne», écrivait le Conseil.

Frédéric Lacroix-Couture, La Presse Canadienne