Les hypertrucages alimentent l’anarchie en ligne : des chercheurs se penchent sur les complexités de la réglementation

Du président américain Joe Biden prononçant un discours transphobe, du Pentagone en flammes et de Donald Trump résistant à son arrestation au pape adoptant la doudoune, nous avons tout vu mais rien de cela est réel, et chaque image est plus invraisemblable que la suivante.

Avec les avancées sans précédent de l’intelligence artificielle (IA), l’hypertrucage, cette capacité à modifier l’existant voire à générer du contenu totalement nouveau quasiment indiscernable de la « réalité », devient de plus en plus convaincant et sophistiqué, alors que ses usages deviennent incontrôlables.

Lundi dernier, la CBC a signalé une publicité frauduleuse qui a fait surface sur Facebook et Instagram de Meta, mettant en vedette un hypertrucage du présentateur populaire Ian Hanomansing promettant à ses téléspectateurs de « transformer 28 000 $ par an en 28 000 $ par mois » grâce à une sorte de plan d’investissement. Une personne a déclaré être tombée dans le panneau, ayant fait confiance à l’image et à la crédibilité d’Hanomansing et ayant fini par perdre de l’argent, a noté la CBC.

Les cybercriminels sautent sur l’occasion d’utiliser la technologie pour, par exemple, se faire passer pour les enfants de personnes âgées et demander à leurs parents d’envoyer de l’argent, ou se faire passer pour le patron de quelqu’un exigeant un transfert de fonds.

Le principal problème est la démocratisation des modèles et des outils d’IA, facilitée par une technologie bon marché et des avancées significatives dans la production technique, a noté le responsable des connaissances chez Capgemini Canada, Steven Karan.

La technologie sous-jacente aux hypertrucages, connue sous le nom d’IA générative, a été fondamentalement améliorée vers 2018-2019, a-t-il expliqué. Elle est apparue en même temps que Google a introduit le Transformateur qui a révolutionné les performances des grands modèles de langage en 2017, car il a fourni une nouvelle façon d’encoder et de décoder les informations qui entrent dans les algorithmes d’IA.

Parallèlement, a-t-il ajouté, le coût du calcul et du stockage chutait considérablement, permettant aux centres de données à très grande échelle d’exploiter leurs plates-formes et leurs technologies de manière rentable.

Maintenant, la technologie s’est immiscée dans nos vies et le gouvernement est encore à la traîne pour s’attaquer aux failles et aux dangers qui l’accompagnent, a déclaré M. Karan. Même si le gouvernement prend des mesures, a-t-il ajouté, la technologie est toujours mondiale ; les cybercriminels des États voyous ne sont pas gênés par les lois et réglementations d’un autre pays.

Cela nous laisse avec les plates-formes qui, selon Bill Wong, chercheur en IA et en analyse de données chez Info-Tech Research Group, ont été totalement inefficaces, car elles ne sont pas proactives. Il a ajouté que ce n’est que lorsque quelqu’un perd de l’argent ou se plaint beaucoup que des mesures sont parfois prises.

Être proactif signifie également que les plateformes doivent être en mesure d’attribuer la source du contenu généré, a ajouté M. Karan. Si quelqu’un publie du contenu, la plate-forme doit exécuter un algorithme d’attribution pour déterminer d’où il vient et s’il provient d’une source fiable.

Il existe une technologie, souvent basée sur l’IA, pour filtrer les hypertrucages et autres contenus similaires, a déclaré Bill Wong, mais le mode opératoire de ces plateformes est de s’excuser et d’expliquer pourquoi il est si difficile de supprimer un tel contenu.

La CBC, en fait, a affirmé que la publicité frauduleuse mettant en vedette l’hypertrucage de M. Hanomansing a été signalée à plusieurs reprises, mais elle a continué à réapparaître.

Supprimer un contenu comme celui-ci, a affirmé M. Karan, est ce qui « trouble les forces de l’ordre depuis plusieurs décennies maintenant, depuis l’avènement d’Internet ». C’est encore plus difficile lorsque le fournisseur d’hébergement se trouve en dehors de la juridiction d’un pays ou d’un État, ce qui nécessite des efforts internationaux pour supprimer le contenu.

Mais il existe désormais, a-t-il déclaré, « un oligopole du nuage », dans lequel tous les grands fournisseurs sont basés en Amérique du Nord, en Europe ou en Asie, créant un degré de concentration de la responsabilité. Les organismes chargés de l’application de la loi doivent coopérer avec ces fournisseurs et tirer parti des outils de traçabilité pour déterminer où le contenu existe ailleurs.

Cependant, nous, en tant que consommateurs et partageurs de contenu en ligne, avons également un rôle à jouer. En tant que société, nous devons donner la priorité à l’enseignement de la pensée critique aux utilisateurs, à différents niveaux et groupes démographiques, a noté M. Karan, ajoutant qu’il espère que cela arrivera à un point où il sera mis au programme dans les écoles afin que la nouvelle génération soit mieux équipée que nous le sommes aujourd’hui.

Bill Wong a convenu que la principale ligne de défense reste l’éducation et la formation, notamment sur la prévalence des hypertrucages ainsi que sur les moyens de les détecter.

Être conscient de la cybersécurité est également essentiel, a souligné M. Wong. « Tout le monde doit savoir que vous devez faire des choses comme vérifier la source. Et si vous recevez un appel téléphonique d’une personne qui ressemble à votre petite-fille demandant de l’argent, vous devez informer les gens qu’une forme courante d’escroquerie consiste à vous présenter quelque chose de familier et à toujours vous mettre dans une situation difficile. Et puis un temps de réponse déraisonnable.

Les personnes qui finissent par être victimes, en particulier d’hypertrucages, ont malheureusement un long combat devant elles, surtout lorsque les dommages sont financiers, de réputation ou pour leur sécurité. Obtenir des plateformes qu’elles suppriment du contenu est une chose, mais la bataille juridique est une lutte ardue et coûteuse, et cela appelle à nouveau le besoin d’une législation, qui, selon M. Karan, n’existe presque pas aujourd’hui.

Il a ajouté : « Au Canada, nous sommes fondamentalement en retard en termes de protection des citoyens contre la cybercriminalité, les hypertrucages et les dommages causés par l’IA générative. Nous n’avons pas de réglementation en place au niveau national pour protéger adéquatement nos citoyens. Et c’est une lacune fondamentale. Il n’y a tout simplement pas moyen de contourner cela. »

Bill Wong pense que les dommages causés par l’IA générative continueront de s’aggraver avant de s’améliorer. La nature humaine, a-t-il dit, est de ne rien faire tant que la catastrophe ne frappe pas. Pendant ce temps, cela va tourmenter les campagnes électorales et faire jaillir de faux récits. Le seul avantage, a-t-il ajouté, est d’espérer que les personnes bienveillantes utiliseront la même technologie pour les contrer.

Steven Karan s’inquiète des « téraoctets » de contenu d’hypertrucage qui peuvent être diffusés si rapidement qu’ils submergent toutes les mesures de contrôle existantes que les plateformes ont mises en place aujourd’hui.

Il spécule : « Cela pourrait-il progresser à un point où le volume d’hypertrucages est si élevé qu’on ne puisse faire confiance à aucune source d’information ? Qu’est-ce que cela fait au niveau de la société ? Est-ce que tout le monde retourne dans un monde analogique et se déconnecte ? »

L’article original (en anglais) est disponible sur IT World Canada, une publication sœur de Direction informatique.

Adaptation et traduction française par Renaud Larue-Langlois.

Ashee Pamma
Ashee Pamma
Ashee est rédactrice pour IT World Canada. Elle a obtenu son diplôme en communication et études médiatiques à l'Université Carleton à Ottawa. Elle espère devenir chroniqueuse après d'autres études en journalisme. Vous pouvez lui envoyer un courriel à [email protected].

Articles connexes

Un duo montréalais lance une plateforme gratuite de formation en cybersécurité.

Deux amis d'enfance, tous deux entrepreneurs basés à Montréal,...

Intel se lance dans l’aventure avec de nouvelles offres centrées sur l’IA

Le lancement d'un produit majeur par Intel Corp. jeudi dernier a prouvé que l'organisation est clairement en plein essor, affirme Denis Gaudreault, directeur national d'Intel Canada, ajoutant qu'il espère que dans quelques années, « les gens écriront des livres sur notre redressement ».

Les protecteurs canadiens de la vie privée publient des principes pour le développement responsable de l’IA

Dans la foulée des directives de cybersécurité pour les systèmes d’IA générative publiées par le gouvernement fédéral, les régulateurs fédéraux, provinciaux et territoriaux de la protection de la vie privée du Canada ont publié leur propre ensemble de lignes directrices liées à la confidentialité.

Des pirates abusent d’OAuth pour automatiser des cyberattaques, selon Microsoft

Selon Microsoft, des acteurs malveillants utilisent à mauvais escient les applications basées sur OAuth comme outil d'automatisation d'authentification.

Lancement de Coveo Relevance Generative Answering

Coveo, un fournisseur montréalais de plateformes d'IA d'entreprise, lance Coveo Relevance Generative Answering, une solution basée sur l’IA qui peut générer des réponses aux requêtes complexes des utilisateurs en tirant parti des grands modèles de langage (GML).

Emplois en vedette

Les offres d'emplois proviennent directement des employeurs actifs. Les détails de certaines offres peuvent être soit en français, en anglais ou bilinguqes.