La gestion par Samsung de la recherche sur les hypertrucages remise en question

Un expert en cybersécurité est surpris par les récentes actions entreprises par un groupe de chercheurs travaillant au Samsung AI Center à Moscou, affirmant que leur travail pourrait inévitablement finir par faire plus de mal que de bien.

Dans un document de recherche, ils ont écrit qu’ils avaient inventé quelque chose appelé Mega Portraits, qui est l’abréviation de portraits mégapixels, basé sur un concept appelé avatars de tête neurale, qui, ont-ils dit, « offrent une nouvelle façon fascinante de créer des modèles de tête virtuels. Ils contournent la complexité de la modélisation réaliste basée sur la physique des avatars humains en apprenant la forme et l’apparence directement à partir des vidéos de personnes qui parlent ».

Lou Steinberg, l’ancien directeur de la technologie (CTO) de TD Ameritrade.et le fondateur de CTM Insights, un laboratoire et un incubateur de recherche sur la cybersécurité basé à New York, a déclaré que les images modifiées intentionnellement, également connues sous le nom d’hypertrucages, sont un problème croissant et troublant avec des possibilités qui incluent la modification d’une photo de quelqu’un pour causer un tort à sa réputation, souvent avec des outils d’intelligence artificielle (IA) qui deviennent de plus en plus performants.

« Nous le voyons aujourd’hui avec des images et des vidéos pornographiques de vengeance, des clips audio et vidéo de paiement frauduleux prétendant provenir du PDG, des images et des vidéos de fausses informations publiées sur les réseaux sociaux et des campagnes de désinformation des États-nations (par exemple, de fausses images ont circulé concernant le guerre en Ukraine) », a-t-il dit.

Il existe également des cas de modification d’une image pour contourner les « empreintes digitales » afin qu’elle ne puisse pas être comparée à une base de données d’images connues ainsi que des images truquées dans des articles de recherche médicale et scientifique.

Dans le cas de Samsung, a-t-il dit, les chercheurs ont potentiellement commis une erreur en publiant publiquement leurs découvertes avant de contacter « des gens comme nous et d’autres qui construisent des défenses et en suggérant que nous devrions peut-être commencer à y penser parce que ça arrive ».

Pour plus de détails, l’article original (en anglais) est disponible sur IT World Canada, une publication sœur de Direction informatique.

Adaptation et traduction française par Renaud Larue-Langlois.

Paul Barker
Paul Barker
Paul est le fondateur de PBC Communications, une firme de rédaction spécialisée dans le journalisme indépendant. Son travail est apparu dans un certain nombre de magazines technologiques et en ligne sur des sujets allant des problèmes de cybersécurité et du monde en évolution de l'informatique de pointe à la gestion de l'information et aux progrès de l'intelligence artificielle.

Articles connexes

Des experts en science des données explorent les subtilités des hypertrucages

Le Deepfakes Day 2022, qui s'est tenu en ligne la semaine dernière, était organisé par la division CERT (Computer Emergency Response Team) du Software Engineering Institute (SEI) de l'Université Carnegie Mellon, qui s'associe au gouvernement, à l'industrie, aux forces de l'ordre et aux universités pour améliorer la sécurité et la résilience des systèmes et réseaux informatiques, dans le but d’examiner la menace croissante des hypertrucages (deepfakes).

CTM Insights s’apprête à concéder sous licence ses avancées en détection d’images hypertruquées à Allure Security

Allure Security, une société de cybersécurité qui utilise un moteur d'intelligence artificielle (IA) breveté conçu pour fournir une protection de marque en ligne, a annoncé un accord de licence technologique avec CTM Insights, spécialisée dans la technologie avancée « d'empreintes digitales » d'images.

Inquiétudes croissantes au sujet des hypertrucages

Les hypertrucages sont de retour dans l'actualité après qu'il eut été rapporté qu'un groupe de chercheurs travaillant au Samsung AI Center de Moscou a lancé une initiative appelée Mega Portraits (portraits mégapixels).

Samsung vise le milieu de gamme avec le Galaxy A53

Le modèle de téléphone Galaxy A53 5G de Samsung pourrait être le meilleur appareil phare de milieu de gamme en 2022.

Hashtag Tendances, 3 mars 2022 — Effets boule de neige du conflit en Europe; et plus

Hashtag Tendances, 2 mars 2022 — Enjeux d’externalisation; restrictions technologiques; des pirates informatiques choisissent leur camp; et plus.