Zoom a annoncé lors de sa conférence annuelle des développeurs qu’il compte transformer ses utilisateurs en avatars photoréalistes animés par l’IA, mais pas avant l’année prochaine. La fonctionnalité à venir permettra de convertir un clip vidéo enregistré par les utilisateurs en un clone numérique composé d’une tête, de bras supérieurs et d’épaules. Les utilisateurs pourront écrire un script de ce qu’ils veulent que le double numérique dise, et Zoom générera un audio qui se synchronisera avec les mouvements des lèvres de l’avatar.
Smita Hashim, directrice des produits de Zoom, a déclaré à TechCrunch que les avatars personnalisés ont été conçus pour aider les gens à discuter “asynchrone” avec leurs collègues de manière “plus rapide et plus productive”. “Les avatars économisent un temps précieux aux utilisateurs et leur permettent d’enregistrer des clips et de créer des vidéos à grande échelle”, a déclaré Hashim. Cependant, cette fonctionnalité pourrait également présenter un risque de deepfake.
“Un certain nombre d’entreprises ont développé une technologie d’IA pour “cloner” numériquement le visage d’une personne et associer ce clone à une parole synthétique relativement naturelle.”
Des sociétés comme Tavus, qui aide les marques à créer des personas virtuels pour des publicités vidéo personnalisées, et Microsoft, qui a lancé l’année dernière un service capable de générer des doublures numériques convaincantes pour une personne, ont mis en place des protections spécifiques et strictes pour éviter les abus. Tavus exige des déclarations de consentement verbal, et Microsoft exige que ses clients obtiennent la permission écrite et le consentement de toute personne représentée par un avatar.
Zoom a été un peu plus vague sur ses mesures de sécurité. Faisant référence aux politiques d’utilisation de Zoom qui interdisent toute utilisation abusive, Hashim a déclaré que l’entreprise intégrait “de nombreuses protections” à sa fonction d’avatar personnalisé, y compris une “authentification avancée” et un filigrane. “Nous continuerons à examiner et à ajouter des mesures de protection si nécessaire à l’avenir”, a déclaré Hashim. “Nous utilisons (…) la technologie pour rendre évident qu’un clip a été généré avec un avatar, et (…) pour garantir l’intégrité du contenu généré par avatar.”
Les ressemblances numériques de Zoom s’alignent avec la vision plus large du PDG Eric Yuan de créer des IA qui pourront un jour parler pour vous lors des réunions Zoom, répondre à vos emails et prendre vos appels téléphoniques. Mais ces ressemblances arrivent à un moment où les deepfakes se propagent comme une traînée de poudre sur les médias sociaux, rendant plus difficile de distinguer la vérité de la désinformation. Rien que cette année, les deepfakes mettant en scène le président Joe Biden, Taylor Swift, et la vice-présidente Kamala Harris ont cumulé des millions de vues et de partages. Plus récemment, de fausses images génératives d’IA de destruction et de souffrance humaine ont inondé le web après l’ouragan Helene. Les deepfakes ont également été utilisés pour cibler des individus – en se faisant passer pour ceux qu’ils aiment par exemple. Les pertes liées aux arnaques par usurpation d’identité ont dépassé le milliard de dollars l’année dernière, selon la FTC.
Comment Zoom prévoit-elle de prévenir l’utilisation de son outil par des escrocs pour générer des vidéos de personnes disant des choses qu’elles n’ont pas dites à des fins malveillantes ? Ce n’est pas encore clair. Une maquette fournie par l’entreprise montre un filigrane visible dans le coin supérieur droit d’une vidéo d’avatar personnalisé. Mais ces filigranes peuvent être facilement recadrés avec des outils d’enregistrement d’écran. Nous espérons en apprendre plus d’ici le premier semestre 2025, date à laquelle Zoom prévoit de lancer des avatars personnalisés pour Zoom Clips, son outil de vidéo asynchrone, dans le cadre d’un supplément premium de 12 $ par utilisateur et par mois. Quelles que soient les mesures que Zoom prendre – ou ne prendra pas – il existe des efforts réglementaires en cours pour essayer de repousser le déluge de deepfakes. En l’absence d’une loi criminalisant les deepfakes au niveau fédéral aux États-Unis, plus de 10 États ont adopté des lois contre l’usurpation d’identité assistée par l’IA. La loi de la Californie – actuellement en attente – serait la première à donner aux juges le pouvoir d’ordonner aux afficheurs de deepfakes de les supprimer ou de potentiellement faire face à des sanctions financières.
