Le gouverneur de la Californie, Gavin Newsom, examine actuellement 38 projets de loi liés à l’intelligence artificielle (IA), dont le très controversé SB 1047, que le législateur de l’État a envoyé sur son bureau pour approbation finale. Ces projets de loi tentent de répondre aux problèmes les plus pressants de l’intelligence artificielle : tout, des systèmes d’IA futuristes créant un risque existentiel, des nus deepfake générés par des images IA, jusqu’aux studios hollywoodiens créant des clones d’IA de performers décédés. “Foyer de la majorité des principales entreprises d’IA dans le monde, la Californie travaille à maîtriser ces technologies transformatrices pour aider à relever des défis urgents tout en étudiant les risques qu’elles présentent”, a déclaré le bureau du gouverneur Newsom dans un communiqué de presse. Jusqu’à présent, le gouverneur Newsom en a promulgué neuf en loi, dont certaines sont les lois américaines les plus ambitieuses sur l’IA à ce jour.
Le vendredi, le gouverneur Newsom a promulgué une loi exigeant que les robocalls divulguent s’ils ont utilisé des voix générées par l’IA. L’AB 2905 vise à prévenir un autre cas de deepfake robocall ressemblant à la voix de Joe Biden qui a confus de nombreux électeurs du New Hampshire plus tôt cette année.
Newsom a signé deux lois jeudi qui traitent de la création et de la diffusion de nus deepfake. L’SB 926 criminalise l’acte, rendant illégal le fait de faire chanter quelqu’un avec des images de nus générées par l’IA qui lui ressemblent. L’SB 981, également devenue loi jeudi, oblige les plateformes de médias sociaux à mettre en place des canaux pour que les utilisateurs signalent les nus deepfake qui leur ressemblent. Le contenu doit ensuite être temporairement bloqué pendant que la plateforme l’examine, et permanentement supprimé si il est confirmé.
Newsom doit décider de l’avenir de 29 autres projets de loi liés à l’IA d’ici la fin de septembre. Pendant une discussion avec le PDG de Salesforce, Marc Benioff, mardi, lors de la conférence Dreamforce 2024, Newsom a peut-être évoqué le projet de loi SB 1047, et comment il envisageait de réglementer plus largement l’industrie de l’IA.
Jeudi également, Newsom a promulgué une loi pour aider le public à identifier le contenu généré par l’IA. L’SB 942 exige que les systèmes d’IA génératifs largement utilisés divulguent qu’ils sont générés par l’IA dans les données de provenance de leur contenu. Par exemple, toutes les images créées par Dall-E d’OpenAI doivent maintenant comporter une petite balise dans leurs métadonnées indiquant qu’elles sont générées par l’IA. De nombreuses entreprises d’IA le font déjà, et il existe plusieurs outils gratuits qui peuvent aider les gens à lire ces données de provenance et à détecter le contenu généré par l’IA.
Plus tôt cette semaine, le gouverneur de Californie a signé trois lois qui s’attaquent aux deepfakes générés par l’IA susceptibles d’influencer les élections. L’une des nouvelles lois de Californie, l’AB 2655, oblige les grandes plateformes en ligne, comme Facebook et X, à supprimer ou à étiqueter les deepfakes générés par l’IA liés aux élections, et à créer des canaux pour signaler ce type de contenu. Les candidats et les élus peuvent demander un recours injonctif si une grande plateforme en ligne ne se conforme pas à la loi. Une autre loi, l’AB 2839, vise les utilisateurs de médias sociaux qui publient, ou republient, des deepfakes générés par l’IA qui pourraient tromper les électeurs sur les prochaines élections. La loi est entrée en vigueur immédiatement mardi, et Newsom a suggéré qu’Elon Musk pourrait être à risque de la violer. Désormais, les publicités politiques générées par l’IA nécessitent des divulgations explicites en vertu de la nouvelle loi californienne, l’AB 2355.
Deux lois que Newsom a signées mardi – que SAG-AFTRA, le plus grand syndicat d’acteurs de films et de diffusion du pays, poussait – créent de nouvelles normes pour l’industrie médiatique de la Californie. L’AB 2602 oblige les studios à obtenir la permission d’un acteur avant de créer une réplique générée par l’IA de sa voix ou de sa ressemblance. Pendant ce temps, l’AB 1836 interdit aux studios de créer des répliques numériques de performers décédés sans le consentement de leurs succession (par exemple, des répliques légalement autorisées ont été utilisées dans les récents films “Alien” et “Star Wars”, ainsi que dans d’autres films).
