ChatGPT Search, un moteur de recherche alimenté par l’IA qui a été mis en ligne ce mois-ci, peut être trompé pour générer des résumés complètement trompeurs, a trouvé le journal britannique The Guardian. La fonction de recherche de ChatGPT est censée rendre la navigation plus rapide en effectuant des tâches comme la synthèse des avis de produits d’une page web. Cependant, le Guardian a découvert qu’il pourrait amener ChatGPT à ignorer les critiques négatives et à générer des résumés “entièrement positifs” en insérant du texte caché dans les sites Internet qu’il a créés.
ChatGTP Search pourrait également être amené à cracher du code malveillant en utilisant cette méthode. Ces attaques de texte caché sont un risque bien connu pour les grands modèles de langage, mais il semble que ce soit la première fois qu’elles sont démontrées sur un produit de recherche en direct alimenté par l’IA. Google, le leader de la recherche, a plus d’expérience dans la gestion de problèmes similaires, a souligné The Guardian.
OpenAI n’a pas commenté cet incident spécifique lorsque TechCrunch l’a contacté, mais a déclaré qu’il utilisait une variété de méthodes pour bloquer les sites Web malveillants et qu’il s’améliorait continuellement.
OpenAI n’a pas commenté cet incident spécifique lorsque TechCrunch l’a interrogé, mais a déclaré qu’il utilisait une variété de méthodes pour bloquer les sites web malveillants et qu’il était en constante amélioration. TechCrunch possède une newsletter axée sur l’IA! Inscrivez-vous ici pour la recevoir dans votre boîte de réception chaque mercredi.
En rapport avec les newsletters, inscrivez-vous pour l’actualité technologique la plus importante de l’industrie. Dernières nouvelles en IA.
