La dernière semaine a été marquée par une décision inattendue du gouvernement américain, obligeant Anthropic à retirer de la circulation ses deux modèles les plus récents, Fable 5 et Mythos 5. Cette mesure intervient après que des chercheurs d’Amazon auraient découvert une faille permettant de contourner les garde-fous de Fable 5, soulevant ainsi des préoccupations de sécurité nationale. Cependant, cette décision suscite la controverse dans la communauté technologique, certains estimant qu’il s’agit d’un excès de prudence, voire d’une mesure politique visant à freiner la montée en puissance de cette IA.
Les chercheurs en cybersécurité ont rapidement réagi en signant une lettre ouverte qualifiant cette interdiction de dangereuse, arguant que la présence de jailbreaks — méthodes permettant de déjouer les protections d’un modèle d’IA — n’est pas propre à Fable 5, mais concerne aussi d’autres modèles d’Anthropic. L’entreprise elle-même a reconnu que ces brèches existent dans plusieurs de ses créations, questions soulevées quant à la réelle gravité de la menace et à la sincérité des préoccupations de sécurité nationale. Au cœur du débat, la question demeure si cette interdiction est motivée par des véritables problématiques de sécurité ou si elle reflète plutôt des tensions entre Anthropic et l’administration Trump, ou ses successeurs.
Les enjeux dépassent le simple cadre technique, révélant aussi des profondes rivalités politiques et commerciales.
Dans le contexte plus large de la tech, cette interdiction soulève également des réflexions sur l’avenir de l’intelligence artificielle et ses régulations. Sur le podcast Equity de TechCrunch, les animateurs Anthony Ha, Sean O’Kane et Rebecca Bellan analysent les implications pour les développeurs et pour le futur de l’IPO d’Anthropic. Certains estiment que cette interdiction pourrait, paradoxalement, s’avérer bénéfique pour la société en accentuant son exposition médiatique et en renforçant sa réputation de pionnier dans le domaine de l’IA sécurisée. D’autres craignent que cela freine l’innovation et la collaboration à l’échelle mondiale, dans un secteur où la compétition est de plus en plus féroce.
Par ailleurs, ce contexte s’inscrit dans une série d’événements récents dans le domaine de la technologie, notamment la proposition de bannir les réseaux sociaux aux moins de 16 ans au Royaume-Uni ou encore la tentative de SpaceX de renforcer sa stratégie avec l’acquisition de Cursor, dévoilant les ambitions croissantes de plusieurs acteurs pour dominer la nouvelle révolution numérique. Quant à Jeff Bezos, il mise désormais 12 milliards de dollars sur Prometheus, une startup visant à créer un « ingénieur artificiel », soulignant l’intérêt croissant pour les applications physiques de l’IA.
Malgré cette période tumultueuse et les débats autour de la sécurité, il semble que les chiffres et l’attrait du marché progressent indépendamment des polémiques. La question demeure : dans cette course à l’innovation, la sécurité doit-elle primer sur l’expansion commerciale, ou faut-il ajuster le curseur pour ne pas freiner la créativité et la croissance ? La réponse pourrait bien définir l’avenir de l’intelligence artificielle dans les années à venir.
