OpenAI a annoncé jeudi avoir suspendu la possibilité pour les utilisateurs de créer des vidéos ressemblant au défunt activiste des droits civiques Martin Luther King Jr. à l’aide de son modèle vidéo IA, Sora. Cette décision intervient à la demande de la succession de Dr. King, après que certains utilisateurs de Sora ont généré des « représentations irrespectueuses » de son image. OpenAI a déclaré dans un post sur X, via son compte de salle de presse officiel, que « bien qu’il existe de forts intérêts en matière de liberté d’expression pour représenter des figures historiques, OpenAI pense que les personnalités publiques et leurs familles devraient avoir le contrôle sur l’utilisation de leur image ».
Le modèle Sora, qui permet aux utilisateurs de créer des vidéos réalistes générées par IA ressemblant à des figures historiques, des amis ou des utilisateurs ayant choisi d’avoir leur image recréée sur la plateforme, a été lancé il y a quelques semaines. Ce lancement a suscité un vif débat public sur les dangers liés aux vidéos générées par IA et sur la manière dont les plateformes devraient mettre en place des garde-fous autour de cette technologie. Dr. Bernice King, la fille de Dr. King, a récemment partagé sur Instagram sa demande pour que les gens cessent de lui envoyer des vidéos d’IA ressemblant à son père.
OpenAI semble apprendre à gérer la distribution de cette technologie tout en s’attaquant aux préoccupations liées à la génération de vidéos IA.
Des utilisateurs de Sora ont créé des vidéos générées par IA montrant Dr. King produisant des bruits de singe et luttant avec un autre grand nom des droits civiques, Malcolm X. En parcourant l’application Sora d’OpenAI, il est facile de trouver des vidéos grossières ressemblant à d’autres figures historiques, comme l’artiste Bob Ross, la chanteuse Whitney Houston et l’ancien président John F. Kennedy. L’entreprise a également reçu de nombreuses critiques concernant la manière dont les vidéos d’IA représentent des œuvres soumises à des droits d’auteur.
En réponse, OpenAI a commencé à ajouter d’autres restrictions à Sora depuis son lancement. Plus tôt en octobre, l’entreprise a annoncé qu’elle prévoyait de donner aux détenteurs de droits d’auteur un contrôle plus précis sur les types de vidéos d’IA qui peuvent être générées avec leur image. Cette démarche pourrait être une réponse à la réaction initiale peu enthousiaste d’Hollywood face à Sora. Par ailleurs, bien que certaines restrictions soient mises en place dans Sora, OpenAI adopte une approche plus laxiste en matière de modération de contenu pour ChatGPT, permettant des discussions « érotiques » dans les mois à venir.
Alors qu’OpenAI navigue dans la complexité de la génération de vidéos IA, son PDG Sam Altman a exprimé son “appréhension” le jour du lancement de Sora. Nick Turley, responsable de ChatGPT, a déclaré que la meilleure façon d’apprendre le monde sur une nouvelle technologie est de la déployer. Bien que cela ait retenu l’attention, l’entreprise semble déterminer à affiner ses méthodes de distribution en tenant compte des préoccupations éthiques et pratiques qui accompagnent cette innovation.
