Lors d’une interview accordée à Bloomberg, Meredith Whittaker, président de Signal, a réitéré ses réserves quant aux implications de la vie privée liées aux assistants conversationnels tels que ChatGPT et Claude. Elle a souligné que ces intelligences artificielles ne doivent pas être perçues comme des entités conscientes ou sympathiques. Selon elle, ces systèmes ne sont que des outils, et leur utilisation ne doit pas obscurcir le processus de réflexion et de création humaine.
Whittaker a également évoqué son usage personnel des outils d’IA, précisant qu’elle ne leur demande pas d’explications ou de conseils approfondis. Elle insiste sur l’importance de maintenir un contrôle humain sur ses idées, évitant que ses processus cognitifs soient influencés ou dominés par les réponses générées par ces systèmes basés sur l’agrégation de données existantes. Cette position s’inscrit dans une critique plus large des risques liés à la dépendance à l’intelligence artificielle.
“Ce que vous décrivez, c’est un système ayant un accès très étendu à plusieurs applications et services, ce qui pourrait représenter une véritable porte dérobée.”
Le débat s’est intensifié suite à la déclaration de Mustafa Suleyman, CEO de l’IA chez Microsoft, qui a évoqué la possibilité que Microsoft Copilot puisse gérer, par exemple, tous les achats de Noël des utilisateurs, en surveillant leurs conversations familiales. Whittaker qualifie cette éventualité de problématique majeure, car cela impliquerait que ces assistants aient un accès total à des informations sensibles telles que les cartes de crédit, l’historique de navigation, ou encore les messages privés – une situation qu’elle qualifie de “backdoor”.
Elle met en garde contre une obsession de la commodité à tout prix, soulignant que cette vision d’un IA omniprésente risque de compromettre la vie privée et la sécurité des utilisateurs. Pour elle, il est crucial que la société prenne conscience des dangers liés à la prolifération de systèmes d’intelligence artificielle à accès étendu, afin de préserver un contrôle humain et une transparence indispensables dans notre rapport à la technologie.
