Le PDG d’OpenAI, Sam Altman, a annoncé mardi un ensemble de nouvelles politiques pour les utilisateurs, notamment une promesse de modifier significativement la manière dont ChatGPT interagit avec les utilisateurs de moins de 18 ans. « Nous priorisons la sécurité au détriment de la vie privée et de la liberté des adolescents », souligne le message. « C’est une technologie nouvelle et puissante, et nous croyons que les mineurs ont besoin d’une protection significative. »
Les changements pour les utilisateurs mineurs concernent spécifiquement les conversations portant sur des sujets sexuels ou sur l’automutilation. Selon la nouvelle politique, ChatGPT sera entraîné à ne plus s’engager dans des « discussions flirty » avec les utilisateurs mineurs, et des garde-fous supplémentaires seront mis en place concernant les discussions sur le suicide. En cas de discussion autour de scénarios suicidaires, le service tentera de contacter les parents des utilisateurs, voire, dans les cas les plus graves, la police locale.
Les nouvelles politiques de ChatGPT visent à protéger les utilisateurs mineurs tout en prenant en compte la nécessité de respecter la vie privée des adultes.
Ces décisions ne sont cependant pas uniquement motivées par la théorie. OpenAI fait face à une action en justice pour décès injustifié de la part des parents d’Adam Raine, qui se serait suicidé après plusieurs mois d’interactions avec ChatGPT. Un autre chatbot, Character.AI, est également confronté à une action judiciaire similaire. Bien que les risques soient particulièrement pressants pour les jeunes en détresse, le problème plus large de la désinformation alimentée par les chatbots suscite également des préoccupations croissantes, en particulier à mesure que ces technologies sont capables d’interactions plus soutenues et détaillées.
En plus des restrictions liées au contenu, les parents qui enregistrent un compte pour un utilisateur mineur auront la possibilité de fixer des « heures de blackout » durant lesquelles ChatGPT ne sera pas disponible, une fonctionnalité qui n’était pas précédemment disponible. Ces nouvelles politiques interviennent le même jour que l’audition du Comité judiciaire du Sénat intitulée « Examen des méfaits des chatbots d’IA », annoncée par le sénateur Josh Hawley (R-MO) en août. Le père d’Adam Raine doit s’exprimer lors de cette audition, parmi d’autres invités.
Séparer les utilisateurs mineurs pose un défi technique majeur, et OpenAI a détaillé son approche dans un article de blog distinct. Le service « construit un système à long terme pour déterminer si une personne a plus ou moins de 18 ans », mais dans les cas ambigus, le système adoptera des règles plus restrictives. Pour les parents préoccupés, le moyen le plus fiable de s’assurer qu’un utilisateur mineur est reconnu est de lier le compte de l’adolescent à un compte parent existant. Cela permet également au système d’alerter directement les parents lorsque l’utilisateur adolescent est en détresse.
En conclusion, Sam Altman a souligné l’engagement continu d’OpenAI envers la vie privée des utilisateurs et envers la liberté d’interaction des utilisateurs adultes avec ChatGPT. « Nous réalisons que ces principes sont en conflit », conclut le post, « et tout le monde ne sera pas d’accord sur la façon dont nous résolvons ce conflit. »
