Garry Tan, président et PDG de Y Combinator, a déclaré cette semaine lors d’un discours au Economic Club de Washington D.C. que la “réglementation est probablement nécessaire” pour l’intelligence artificielle. Tan s’est entretenu avec Teresa Carlson, membre du conseil d’administration de General Catalyst, lors d’une interview en tête à tête où il a discuté de tout, de la façon d’intégrer Y Combinator à l’IA, notant qu’il n’y a “pas de meilleur moment pour travailler dans la technologie qu’en ce moment”. Tan a déclaré qu’il était “globalement favorable” à la tentative du National Institute of Standards and Technology (NIST) de construire un cadre de mitigation des risques pour l’IA générative, et a déclaré que “de grandes parties du décret du président Biden sont probablement sur la bonne voie”.
Le cadre proposé par le NIST prévoit des choses comme la définition du fait que l’IA générative doit se conformer aux lois existantes régissant des choses comme la confidentialité des données et le droit d’auteur ; la divulgation de l’utilisation de l’IA générative aux utilisateurs finaux ; l’établissement de réglementations interdisant à l’IA générative de créer des matériaux d’abus sexuels sur enfants, etc. L’ordonnance exécutive de Biden couvre un large éventail de dictats, de l’obligation pour les entreprises d’IA de partager les données de sécurité avec le gouvernement à la garantie que les petits développeurs ont un accès équitable. Cependant, Tan, comme de nombreux investisseurs de la Silicon Valley, se méfie d’autres efforts de réglementation. Il a qualifié de “très préoccupants” les projets de loi liés à l’IA qui sont en cours de discussion dans les législatures de Californie et de San Francisco.
“Ce qui me fait peur, c’est que nous essayons de nous attaquer à une préoccupation de science-fiction qui n’est pas présente ici et maintenant”, a déclaré Tan.
Comme un projet de loi californien qui fait beaucoup parler de lui, présenté par le sénateur de l’État Scott Wiener, qui permettrait au procureur général de poursuivre les entreprises d’IA si leurs produits sont néfastes, rapporte Politico. “La grande question en termes de politique actuellement est : à quoi ressemble une bonne version de cela ?”, a déclaré Tan. “Nous pouvons nous tourner vers des personnes comme Ian Hogarth, au Royaume-Uni, pour réfléchir. Ils sont également conscients de cette idée de concentration du pouvoir. En même temps, ils essaient de comprendre comment nous soutenons l’innovation tout en atténuant les pires dommages possibles”. Hogarth est un ancien entrepreneur de YC et un expert en IA qui a été sollicité par le Royaume-Uni pour participer à une task force sur les modèles d’IA.
En ce qui concerne la responsabilité de YC, Tan a déclaré que si l’organisation n’est pas d’accord avec la mission d’une start-up ou avec ce que le produit ferait pour la société, “YC ne la finance tout simplement pas”. Il a noté qu’il y a eu plusieurs fois où il a lu à propos d’une entreprise dans les médias qui avait postulé à YC. “Nous revenons en arrière et regardons les notes de l’entretien, et c’est comme, nous ne pensons pas que cela soit bon pour la société. Et heureusement, nous ne l’avons pas financée”, a-t-il déclaré.
Tan a également déclaré que San Francisco est au centre du mouvement de l’IA. Par exemple, c’est là que Anthropic, démarrée par des anciens de YC, a commencé, tout comme OpenAI, qui était une société dérivée de YC. Tan a également plaisanté sur le fait qu’il ne comptait pas suivre les traces d’Altman, notant qu’Altman “avait mon travail il y a plusieurs années, donc pas de plans pour créer un laboratoire d’IA”. L’une des autres réussites de YC est la start-up de technologie juridique Casetext, qui a été vendue à Thomson Reuters pour 600 millions de dollars en 2023. Tan croyait que Casetext était l’une des premières entreprises au monde à avoir accès à l’IA générative et a été l’une des premières à sortir de l’IA générative. En regardant l’avenir de l’IA, Tan a déclaré qu'”évidemment, nous devons être intelligents à propos de cette technologie” en ce qui concerne les risques autour du bioterrorisme et des cyberattaques. En même temps, il a déclaré qu’il devrait y avoir “une approche beaucoup plus mesurée”. Il suppose également qu’il n’y aura probablement pas un modèle “gagnant-prend-tout”, mais plutôt un “jardin incroyable de choix pour les consommateurs, de liberté et de fondateurs capables de créer quelque chose qui touche un milliard de personnes”. Du moins, c’est ce qu’il aimerait voir se produire. Cela serait dans l’intérêt de lui et de YC – beaucoup de startups réussies rapportant beaucoup d’argent aux investisseurs. Ainsi, ce qui effraie le plus Tan, ce n’est pas les IA maléfiques en liberté, mais une pénurie de IA parmi lesquelles choisir. “Nous pourrions nous retrouver dans une autre situation vraiment monopolistique où il y a une grande concentration dans quelques modèles. Ensuite, vous parlez d’extraction de rente, et vous avez un monde dans lequel je ne veux pas vivre”.
