“`html
Un avocat représentant Anthropic a admis avoir utilisé une citation erronée générée par le chatbot Claude de l’entreprise dans le cadre d’un procès en cours contre des éditeurs de musique, selon un document déposé jeudi dans un tribunal du nord de la Californie. Claude a halluciné la citation avec « un titre inexact et des auteurs inexactes », indique Anthropic dans le dépôt, rapporté pour la première fois par Bloomberg.
Les avocats d’Anthropic expliquent que leur « vérification manuelle des citations » n’a pas décelé cette erreur, ni plusieurs autres erreurs causées par les hallucinations de Claude. L’entreprise a présenté des excuses pour cette méprise, qualifiant cela de « simple erreur de citation et non d’une fabrication d’autorité ».
Cet incident met en lumière les risques associés à l’utilisation de l’IA dans le domaine juridique, alors que la technologie continue de susciter des préoccupations légitimes.
Plus tôt cette semaine, les avocats représentant Universal Music Group et d’autres éditeurs de musique ont accusé le témoin expert d’Anthropic — une employée de l’entreprise, Olivia Chen — d’avoir utilisé Claude pour citer de faux articles dans son témoignage. La juge fédérale, Susan van Keulen, a ensuite ordonné à Anthropic de répondre à ces allégations.
Le procès intenté par les éditeurs de musique s’inscrit dans une série de litiges entre les détenteurs de droits d’auteur et les entreprises technologiques concernant l’utilisation présumée de leurs œuvres pour créer des outils d’IA générative. C’est la dernière en date d’une série d’incidents où des avocats ont utilisé l’IA en cour, pour ensuite regretter cette décision. Un juge de Californie a récemment critiqué des cabinets d’avocats pour avoir soumis des « recherches générées par IA bidons » dans son tribunal.
Cependant, ces erreurs ne semblent pas freiner les startups qui parviennent à lever des montants colossaux pour automatiser le travail juridique. Harvey, qui utilise des modèles d’IA générative pour aider les avocats, est en pourparlers pour lever plus de 250 millions de dollars à une évaluation de 5 milliards de dollars.
“`
