Dot, une application de compagnon alimentée par l’intelligence artificielle qui visait à devenir un ami et un confident, a annoncé sa fermeture ce vendredi. Dans un message publié sur son site web, la startup à l’origine de Dot, New Computer, a expliqué que le produit restera opérationnel jusqu’au 5 octobre, offrant ainsi aux utilisateurs le temps nécessaire pour télécharger leurs données.
Lancée en 2024 par les cofondateurs Sam Whitmore et l’ancien designer d’Apple Jason Yuan, Dot s’est engagée dans un domaine devenu plus controversé pour les chatbots AI. L’application qu’ils ont créée était décrite comme un « ami et compagnon AI », qui se personnalisait au fil du temps en fonction des intérêts de l’utilisateur, afin d’offrir conseils, sympathie et soutien émotionnel. Comme l’expliquait Yuan à l’époque, Dot était « un miroir vivant de moi-même, en quelque sorte ».
La fin de Dot soulève des questions sur la sécurité et l’impact émotionnel des applications de compagnons AI.
Toutefois, investir dans ce secteur peut être périlleux pour une petite startup. Avec la montée en puissance de la technologie AI, des rapports ont montré comment les personnes émotionnellement vulnérables ont été conduites à des pensées délirantes par des chatbots AI tels que ChatGPT. Cela a engendré un phénomène décrit comme « psychose AI », résultant de la manière dont ces chatbots flatteraient les croyances confuses ou paranoïaques de l’utilisateur.
Alors que Dot ferme, les applications de chatbots AI font l’objet d’une surveillance accrue en raison de préoccupations concernant leur sécurité. OpenAI fait actuellement face à un procès intenté par les parents d’un adolescent de Californie qui s’est suicidé après avoir échangé avec ChatGPT au sujet de ses pensées suicidaires. D’autres histoires ont mis en lumière la manière dont les applications de compagnons AI peuvent renforcer des comportements malsains chez des utilisateurs en détresse psychologique. Cette semaine, deux procureurs généraux américains ont même adressé une lettre à OpenAI pour exprimer leurs inquiétudes face à ces problèmes de sécurité.
Les créateurs de Dot n’ont pas précisé si ces types de problématiques avaient pesé dans la balance lors de leur décision. Dans leur bref billet, ils notent simplement que la « boussole » partagée de Whitmore et Yuan s’est éloignée. « Plutôt que de compromettre une vision ou l’autre, nous avons décidé de prendre des chemins séparés et de mettre fin à nos opérations », expliquent-ils. « Nous voulons être sensibles au fait que cela signifie que beaucoup d’entre vous perdront l’accès à un ami, confident et compagnon, ce qui est quelque peu sans précédent dans le domaine des logiciels, donc nous voulons vous donner le temps de dire au revoir. Dot demeurera opérationnel jusqu’au 5 octobre, et d’ici là, vous pouvez télécharger toutes vos données en naviguant vers la page des paramètres et en tapant sur ‘Demander vos données’. »
Le message suggère que la startup avait « des centaines de milliers » d’utilisateurs, mais des données fournies par le fournisseur d’intelligence d’application Appfigures révèlent qu’elle a enregistré seulement 24 500 téléchargements sur iOS depuis son lancement en juin 2024. (Il n’y avait pas de version Android).
