Quand Nick Spreen a installé la version bêta de l’iOS 18.1 pour tester les nouvelles fonctionnalités d’Apple Intelligence, il ne s’attendait probablement pas à recevoir un résumé généré par AI des messages de rupture de son ex-petite amie. “N’est plus dans une relation; veut récupérer ses affaires de l’appartement”, a résumé l’IA. Après avoir partagé une capture d’écran du malheureux message sur X, Ars Technica a contacté Spreen pour confirmer son authenticité – consultez son histoire pour en savoir plus sur la rupture numérique.
De nombreuses fonctionnalités d’Apple Intelligence ont été conçues pour améliorer la productivité et filtrer le signal du bruit. Par exemple, les résumés de texte peuvent être utiles dans une conversation de groupe avec 68 messages non lus. Cependant, tout comme vous ne voudriez pas voir des notifications d’anniversaire pour des membres de la famille décédés sur Facebook, personne n’a besoin d’un résumé généré par machine d’une rupture.
Espérons qu’Apple fasse quelques ajustements à la fonctionnalité de résumé pour améliorer l’intelligence émotionnelle d’Apple Intelligence.
Tout comme avec les notifications de dates d’anniversaire indésirables sur Facebook, les résumés de rupture généré par machine peuvent être une source de douleur inutile et de stress. Il est donc essentiel que les entreprises de technologie prennent en compte ces aspects émotionnels lorsqu’elles conçoivent et mettent à jour leurs produits.
L’image de l’écran de Nick Spreen est là pour nous rappeler la façon dont la technologie peut parfois se tromper de manière inconfortable. Alors que les fonctionnalités d’intelligence artificielle continuent de se développer et de s’améliorer, il est crucial que ces systèmes soient conçus avec une certaine sensibilité au contexte humain dans lequel ils seront utilisés.
