NuEnergy.ai et une équipe de la GRC élaboreront un cadre de gouvernance de l’IA

NuEnergy.ai, une entreprise technologique basée à Ottawa et axée sur la gouvernance de l’intelligence artificielle (IA), a lancé la semaine dernière un logiciel hébergé nommé Machine Trust Platform (MTP), conçu pour soutenir une gouvernance éthique et transparente des déploiements d’IA.

Image : Getty

Développé en collaboration avec la Gendarmerie royale du Canada (GRC), le logiciel propose aux organisations un accès configurable à des outils de mesure et d’évaluation de la gouvernance de l’IA reconnus dans le monde, pour se protéger contre les dérives dans quatre paramètres de confiance clés des applications d’IA : confidentialité, éthique, transparence et biais, a expliqué le directeur général de NuEnergy.ai, Niraj Bhargava, lors d’une conversation avec IT World Canada.

« Vous devez lever les glissières de sécurité tôt lorsque vous construisez une autoroute. Vous n’attendez pas le premier accident pour décider que vous en avez besoin. Les glissières de sécurité ne sont peut-être pas assez parfaites pour empêcher chaque accident, mais c’est une responsabilité que nous devons assumer. Nous savons assez pour commencer avec ces glissières de sécurité, mais ces dernières doivent continuer à évoluer. Nous pensons donc que nous avons des techniques pour mesurer les biais et les problèmes de confidentialité et d’explicabilité, afin que nous puissions bien dormir pendant que nous appliquons l’IA », a déclaré Bhargava.

Lire l’article au complet sur le site d’IT World Canada (en anglais), une publication soeur de Direction informatique.

Lire aussi :

La GRC et la police de Calgary ont aidé à arrêter à l’étranger des opérateurs de rançongiciels

La GRC en quête d’un système de déchiffrement

Cyberattaque : accusations de la GRC contre deux Montréalais

Articles connexes

La GRC toujours intéressée par les logiciels de reconnaissance faciale

Malgré les critiques selon lesquelles les logiciels de reconnaissance faciale actuels sont biaisés contre les personnes de couleur, la GRC s'intéresse toujours à la technologie, selon le chef de l'équipe de soutien technique de la GRC.

Le rôle essentiel d’un responsable de la protection de la vie privée

Toute entreprise qui traite des informations personnelles ou confidentielles doit nommer un responsable de la protection de la vie privée pour superviser les obligations de conformité et protéger les intérêts des personnes concernées.

Bris de la confidentialité de renseignements personnels de candidats à Québec

Des documents et des fichiers du gouvernement du Québec contenant des renseignements personnels au sujet de 31 540 personnes ont été trouvés sur des supports informatiques externes au domicile d’un employé de la fonction publique.

Québec veut plus de numérique en éducation

Un montant de 10,6 millions de dollars sera utilisé sur deux ans par le gouvernement du Québec pour intégrer plus d'outils numériques de gestion et de prise de décisions au ministère de l’Éducation et au réseau scolaire.

Une PME sur deux prête à partager des données avec des institutions financières

Un entreprise sur deux se dit prête à partager des données commerciales avec des fournisseurs de services bancaires, en échange de services technologiques personnalisés qui répondent à des besoins, selon EY.