L’auteur de la controversée SB 1047 de Californie, la loi sur la sécurité de l’IA la plus controversée du pays en 2024, est de retour avec un nouveau projet de loi sur l’IA qui pourrait bouleverser la Silicon Valley. Le sénateur de l’État de Californie, Scott Wiener, a introduit vendredi un nouveau projet de loi visant à protéger les employés des principaux laboratoires d’IA, leur permettant de s’exprimer s’ils estiment que les systèmes d’IA de leur entreprise pourraient constituer un « risque critique » pour la société. Le nouveau projet de loi, SB 53, créerait également un cluster de calcul en nuage public, appelé CalCompute, pour donner aux chercheurs et aux startups les ressources informatiques nécessaires pour développer une IA bénéfique pour le public.
Le dernier projet de loi sur l’IA de Wiener, la SB 1047 de Californie, a suscité un débat animé dans tout le pays sur la manière de gérer les systèmes d’IA massifs qui pourraient causer des catastrophes. La SB 1047 visait à prévenir la possibilité que de très grands modèles d’IA créent des événements catastrophiques, tels que des pertes de vie ou des cyberattaques coûtant plus de 500 millions de dollars de dommages. Toutefois, le gouverneur Gavin Newsom a finalement opposé son veto au projet de loi en septembre, estimant que la SB 1047 n’était pas la meilleure approche.
“C’est peut-être une année plus difficile pour faire passer des lois sur la sécurité de l’IA en 2025 comparée à 2024, la Californie ayant adopté 18 projets de loi liés à l’IA en 2024.”
Mais le débat sur la SB 1047 a rapidement pris une tournure désagréable. Certains dirigeants de la Silicon Valley ont déclaré que la SB 1047 nuirait à la compétitivité des États-Unis dans la course mondiale à l’IA, et ont prétendu que le projet de loi était inspiré par des craintes irréalistes que les systèmes d’IA pourraient provoquer des scénarios apocalyptiques dignes de la science-fiction. Pendant ce temps, le sénateur Wiener a allégué que certains capitalistes de risque avaient mené une « campagne de propagande » contre son projet de loi, se référant en partie à l’affirmation de Y Combinator selon laquelle la SB 1047 enverrait les fondateurs de startups en prison, une affirmation que les experts ont qualifiée de trompeuse.
La SB 53 reprend essentiellement les parties les moins controversées de la SB 1047 — comme la protection des lanceurs d’alerte et la création d’un cluster CalCompute — et les reconditionne dans un nouveau projet de loi sur l’IA. Il est à noter que Wiener ne se dérobe pas face au risque existentiel de l’IA dans la SB 53. Le nouveau projet de loi protège spécifiquement les lanceurs d’alerte qui croient que leur employeur crée des systèmes d’IA qui posent un « risque critique ». Le projet de loi définit ce risque critique comme un « risque prévisible ou matériel qu’un modèle de fondation développé, stocké ou déployé par un développeur entraînera la mort de, ou des blessures graves à plus de 100 personnes, ou plus d’un milliard de dollars de dommages aux droits en argent ou en propriété ».
La SB 53 interdit aux développeurs de modèles d’IA de pointe — probablement y compris OpenAI, Anthropic et xAI, entre autres — de prendre des mesures de représailles contre les employés qui divulguent des informations préoccupantes au procureur général de Californie, aux autorités fédérales ou à d’autres employés. Selon le projet de loi, ces développeurs seraient tenus de faire rapport aux lanceurs d’alerte sur certains processus internes que les lanceurs d’alerte jugent préoccupants. Quant à CalCompute, la SB 53 établirait un groupe chargé de construire un cluster de calcul en nuage public. Ce groupe serait composé de représentants de l’Université de Californie, ainsi que d’autres chercheurs publics et privés. Il ferait des recommandations sur la manière de construire CalCompute, sur la taille que devrait être le cluster, et sur les utilisateurs et les organisations qui devraient y avoir accès.
