NuEnergy.ai, une entreprise technologique basée à Ottawa et axée sur la gouvernance de l’intelligence artificielle (IA), a lancé la semaine dernière un logiciel hébergé nommé Machine Trust Platform (MTP), conçu pour soutenir une gouvernance éthique et transparente des déploiements d’IA.
Développé en collaboration avec la Gendarmerie royale du Canada (GRC), le logiciel propose aux organisations un accès configurable à des outils de mesure et d’évaluation de la gouvernance de l’IA reconnus dans le monde, pour se protéger contre les dérives dans quatre paramètres de confiance clés des applications d’IA : confidentialité, éthique, transparence et biais, a expliqué le directeur général de NuEnergy.ai, Niraj Bhargava, lors d’une conversation avec IT World Canada.
« Vous devez lever les glissières de sécurité tôt lorsque vous construisez une autoroute. Vous n’attendez pas le premier accident pour décider que vous en avez besoin. Les glissières de sécurité ne sont peut-être pas assez parfaites pour empêcher chaque accident, mais c’est une responsabilité que nous devons assumer. Nous savons assez pour commencer avec ces glissières de sécurité, mais ces dernières doivent continuer à évoluer. Nous pensons donc que nous avons des techniques pour mesurer les biais et les problèmes de confidentialité et d’explicabilité, afin que nous puissions bien dormir pendant que nous appliquons l’IA », a déclaré Bhargava.
Lire aussi :
La GRC et la police de Calgary ont aidé à arrêter à l’étranger des opérateurs de rançongiciels
La GRC en quête d’un système de déchiffrement
Cyberattaque : accusations de la GRC contre deux Montréalais
