Le ministre de l’Innovation, François-Philippe Champagne, a annoncé cette semaine un nouveau code de conduite volontaire qui identifie les mesures relatives au développement et à la gestion responsables des systèmes avancés d’intelligence artificielle (IA) générative.
Il a fait cette annonce lors de ALL IN, une conférence de deux jours à Montréal, organisée par Scale AI, qui réunit des poids lourds de l’industrie de plus de 20 pays pour discuter de l’IA canadienne.
« Les percées de l’IA générative ont des impacts importants sur la société », a déclaré le ministre Champagne. « Nous sommes au point où nous devons agir. Des cadres clairs sont nécessaires pour garantir que nous instaurons la confiance. »
Le code présente des mesures autour des principes suivants :
- Responsabilité – Mettre en œuvre un cadre clair de gestion des risques, proportionné à l’ampleur et à l’impact des activités. Partager des informations sur les meilleures pratiques de gestion des risques et employer plusieurs lignes de défense, y compris des audits tiers.
- Sécurité – Effectuer des évaluations d’impact, prendre des mesures pour atténuer les risques, les utilisations malveillantes ou inappropriées
- Justice et équité – Tester les systèmes pour déceler les préjugés tout au long de leur cycle de vie, mettre en œuvre diverses méthodes de formation
- Transparence – Publier des informations sur les capacités et les limites des systèmes d’IA, développer des méthodes pour identifier les résultats générés par l’IA, divulguer le type de données de formation utilisées et garantir que les systèmes qui pourraient être confondus avec des humains sont clairement identifiés comme étant de l’IA.
- Surveillance humaine – S’assurer que les systèmes sont surveillés et que les incidents sont signalés et traités.
- Validité et robustesse – Effectuer des tests, des séances d’équipes rouges et des analyses comparatives par rapport aux normes reconnues pour garantir que les systèmes fonctionnent efficacement et sont protégés contre les attaques.
Ces mesures, a révélé Innovation, Sciences et Développement économique Canada (ISDE), constitueront un pont essentiel d’ici l’entrée en vigueur du projet de loi C-27, la Loi sur l’IA et les données (LIAD) proposée par le gouvernement.
Proposé il y a plus d’un an, le projet de loi C-27 vise à promouvoir la conception, le développement et l’utilisation responsables de systèmes d’IA dans le secteur privé canadien, en mettant l’accent sur les systèmes à fort impact affectant la santé, la sécurité et les droits de la personne.
Le projet de loi a fait l’objet d’un examen approfondi, y compris hier au Comité permanent de l’industrie et de la technologie de la Chambre des communes, où les critiques ont exhorté le ministre à remédier au langage mal défini dans la LIAD, à s’engager à consulter plus activement les parties prenantes au-delà des initiés de l’industrie et à étendre la réglementation de l’IA au secteur public également.
Le ministre Champagne a expliqué à ALL IN : « Après avoir rencontré des experts, nous avons réalisé que pendant que nous élaborons une loi ici au Canada, cela prendra du temps », ajoutant : « si vous demandez aux gens dans la rue, ils veulent que nous agissions maintenant pour s’assurer que nous disposons de mesures spécifiques que les entreprises peuvent prendre dès maintenant pour développer et faire confiance à leurs produits d’IA.
Des entreprises comme Cohere, OpenText, Appen, Blackberry et bien d’autres se sont engagées à respecter le code de conduite.
Dans les prochains jours, le gouvernement publiera une synthèse des commentaires reçus lors de la consultation qu’il a menée auprès des parties prenantes pour l’élaboration du code de conduite.
Adaptation et traduction française par Renaud Larue-Langlois.
