Le géant de l’intelligence artificielle Character.AI a annoncé mardi le lancement d’une nouvelle fonctionnalité appelée « Stories », visant à permettre aux utilisateurs de créer des fictions interactives mettant en scène leurs personnages favoris. Cette initiative survient après la décision de la société de limiter l’accès à ses chatbots pour les personnes qualifiées comme mineures, en réponse à une préoccupation croissante concernant la santé mentale des jeunes face à l’utilisation continue de ces outils.
Depuis cette semaine, les utilisateurs de moins de 18 ans ne peuvent plus engager de conversations avec les IA de Character.AI. La société explique que « Stories offrent une manière guidée de créer et d’explorer la fiction, en remplacement des chats ouverts » et qu’elle souhaite ainsi continuer à offrir un espace sécurisé pour l’engagement des adolescents avec leurs personnages préférés. Cette nouvelle fonctionnalité s’inscrit dans une tendance plus globale de régulation du secteur, notamment avec la récente réglementation californienne qui encadre les IA destinées à accompagner les jeunes, et le projet de loi national introduit par des sénateurs américains visant à interdire les compagnons IA pour les mineurs.
La décision de limiter l’accès aux chatbots est une réponse aux risques psychologiques liés à une utilisation excessive, tout en proposant une alternative plus sûre pour les jeunes utilisateurs.
Le recours à la fiction interactive connaît une popularité croissante ces dernières années, ce qui justifie la stratégie de Character.AI. Toutefois, certains observateurs et utilisateurs relèvent que cette solution ne comble pas totalement le vide laissé par la suppression des interactions en chat ouvert, surtout pour ceux qui se sont dépendent fortement de ces conversations. Sur le subreddit de la société, les réactions sont mitigées : si certains adolescents expriment leur déception, d’autres voient dans cette nouvelle orientation une étape positive. Une utilisatrice a ainsi déclaré : « Je suis à la fois furieuse de l’interdiction et soulagée car cela pourrait mettre fin à mon addiction. »
La question demeure quant à l’usage que feront les adolescents de cette nouvelle fonctionnalité « Stories ». Contrairement aux chatbots qui peuvent envoyer des messages non sollicités et engager des conversations sans intervention active de l’utilisateur, cette forme de fiction guidée semble moins susceptible de poser des dangers psychologiques. Avec cette transformation, Character.AI cherche à équilibrer engagement ludique et sécurité, tout en respectant une réglementation de plus en plus stricte dans le domaine.
En proposant cette nouvelle alternative, la société espère continuer à engager les jeunes tout en minimisant les risques pour leur santé mentale.
Cette évolution intervient dans un contexte où les régulations autour des IA conversationnelles pour les jeunes deviennent de plus en plus incisives. La Californie, par exemple, a été la première région à instaurer des règles strictes, et la législation fédérale américaine commence aussi à se pencher sur la question. Pour le PDG de Character.AI, Karandeep Anand, cette démarche est une étape vers la responsabilité : « Nous espérons que cela établira une norme dans l’industrie, selon laquelle pour les moins de 18 ans, les chats ouverts ne sont probablement pas la solution idéale. » Amanda Silberling, journaliste spécialisée, souligne ainsi que cette décision pourrait influencer la manière dont le secteur développe ses produits à l’avenir, en privilégiant la sécurité et la responsabilité.
