Un expert en cybersécurité est surpris par les récentes actions entreprises par un groupe de chercheurs travaillant au Samsung AI Center à Moscou, affirmant que leur travail pourrait inévitablement finir par faire plus de mal que de bien.
Dans un document de recherche, ils ont écrit qu’ils avaient inventé quelque chose appelé Mega Portraits, qui est l’abréviation de portraits mégapixels, basé sur un concept appelé avatars de tête neurale, qui, ont-ils dit, « offrent une nouvelle façon fascinante de créer des modèles de tête virtuels. Ils contournent la complexité de la modélisation réaliste basée sur la physique des avatars humains en apprenant la forme et l’apparence directement à partir des vidéos de personnes qui parlent ».
Lou Steinberg, l’ancien directeur de la technologie (CTO) de TD Ameritrade.et le fondateur de CTM Insights, un laboratoire et un incubateur de recherche sur la cybersécurité basé à New York, a déclaré que les images modifiées intentionnellement, également connues sous le nom d’hypertrucages, sont un problème croissant et troublant avec des possibilités qui incluent la modification d’une photo de quelqu’un pour causer un tort à sa réputation, souvent avec des outils d’intelligence artificielle (IA) qui deviennent de plus en plus performants.
« Nous le voyons aujourd’hui avec des images et des vidéos pornographiques de vengeance, des clips audio et vidéo de paiement frauduleux prétendant provenir du PDG, des images et des vidéos de fausses informations publiées sur les réseaux sociaux et des campagnes de désinformation des États-nations (par exemple, de fausses images ont circulé concernant le guerre en Ukraine) », a-t-il dit.
Il existe également des cas de modification d’une image pour contourner les « empreintes digitales » afin qu’elle ne puisse pas être comparée à une base de données d’images connues ainsi que des images truquées dans des articles de recherche médicale et scientifique.
Dans le cas de Samsung, a-t-il dit, les chercheurs ont potentiellement commis une erreur en publiant publiquement leurs découvertes avant de contacter « des gens comme nous et d’autres qui construisent des défenses et en suggérant que nous devrions peut-être commencer à y penser parce que ça arrive ».
Adaptation et traduction française par Renaud Larue-Langlois.
