Meta, une société de technologie avant-gardiste, a intégré une subtile caméra à ses lunettes intelligentes AI Ray-Ban. Cette caméra peut capturer des images non seulement selon les instructions de l’utilisateur, mais est également déclenchée par certains mots-clés identifiés par l’IA, tels que “regarde”. Cependant, la société n’a pas pris d’engagement clair quant à la confidentialité de ces images. Lorsqu’on a demandé à Meta si elle prévoyait de former des modèles de l’IA sur les images capturées par les utilisateurs des Ray-Ban de Meta, la réponse a été évasive. «Nous ne Mmenons pas de discussions publiques à ce sujet», a déclaré Anuj Kumar, directeur senior travaillant sur les wearable IA chez Meta, lors d’une interview vidéo avec TechCrunch le lundi.
Mimi Huggins, porte-parole chez Meta, qui était également présente lors de l’entretien vidéo, a renchéri en disant : “Ce n’est pas quelque chose que nous partageons habituellement en externe”. Lorsque TechCrunch a demandé une clarification sur la question, la réponse de Huggins était: “nous ne disons ni oui ni non”. Cette incertitude est particulièrement préoccupante en raison de la nouvelle fonctionnalité de l’IA des Ray-Ban de Meta qui capturerait de nombreuses images passives.
La semaine dernière, TechCrunch a rapporté que Meta prévoit de lancer une nouvelle fonctionnalité vidéo en temps réel pour ses Ray-Ban. Activées par certains mots-clés, ces lunettes intelligentes diffuseraient une série d’images (essentiellement une vidéo en direct) dans un modèle AI multimodal, permettant de répondre à des questions sur l’environnement proche de manière fluide et avec peu de latence. Cela signifie que d’innombrables images seraient capturées, souvent sans que l’utilisateur des Ray-Ban en soit totalement conscient. Par exemple, si l’utilisateur demande aux lunettes d’analyser le contenu de son placard pour l’aider à choisir une tenue, les lunettes prennent en réalité des dizaines de photos de la pièce et de tout ce qui s’y trouve, pour les télécharger toutes dans un modèle AI dans le cloud. Que deviennent ensuite ces photos? Meta ne le dit pas.
“Pendant que nous ne pouvons pas dire avec certitude que Meta forme des modèles d’IA avec les images de votre caméra Ray-Ban Meta, l’entreprise ne confirme pas non plus qu’elle ne le fait pas.”
Porter les lunettes Ray-Ban Meta revient à porter une camera sur son visage. Comme nous l’avons découvert avec Google Glass, tous les gens ne sont pas à l’aise avec cette idée. On pourrait donc penser qu’il est essentiel pour une entreprise qui développe une telle technologie d’assurer aux utilisateurs que “toutes vos photos et vidéos de votre facecam sont totalement privées et limitées à votre facecam”. Mais ce n’est pas la position de Meta.
Meta a déjà annoncé qu’il formait ses modèles de l’IA sur tous les posts publics des Américains sur Instagram et Facebook. L’entreprise a décidé que toutes ces informations sont des “données publiquement disponibles”, et il semblerait que nous devons nous y résigner. Elle et d’autres entreprises technologiques ont adopté une définition très large de ce qui est pour elles publiquement disponible pour leur formation de l’IA, et ce qui ne l’est pas. Cependant, on peut se demander si le monde que nous voyons à travers ces lunettes intelligentes est vraiment “public”. Alors que nous ne pouvons pas dire avec certitude que Meta forme des modèles de l’IA avec les images de votre caméra Ray-Ban Meta, l’entreprise ne confirme pas non plus qu’elle ne le fait pas. D’autres fournisseurs de modèles de l’IA, tels qu’Anthropic et OpenAI, ont des règles plus claires concernant la formation sur les données des utilisateurs. Nous avons contacté Meta pour obtenir des éclaircissements supplémentaires à ce sujet et mettrons à jour cet article en cas de réponse.
