OpenAI a récemment lancé un nouveau modèle open source nommé Privacy Filter, conçu pour repérer et masquer efficacement les données personnelles sensibles dans un texte. Ce qui est particulièrement intéressant, c’est que ce modèle fonctionne directement sur votre machine, sans nécessiter de connexion en ligne. Une véritable innovation qui change la donne en matière de confidentialité et de sécurité des données personnelles.
Basé sur une architecture légère de seulement 1,5 milliard de paramètres, Privacy Filter est suffisamment compact pour tourner sur un ordinateur portable, voire dans un navigateur via transformers.js. Lors de son utilisation, seule une fraction du modèle, environ 50 millions de paramètres, est activée pour traiter chaque token, ce qui lui confère une rapidité remarquable. Son fonctionnement se veut efficace tout en garantissant que les données sensibles ne quittent jamais votre environnement local, offrant ainsi une couche de sécurité supplémentaire pour la manipulation de données sensibles, notamment dans des contextes professionnels ou personnels.
Pour l’usage, la simplicité est au rendez-vous : une intégration en trois lignes de code permet de charger le modèle et de traiter un texte. Une fois lancé, il identifie les éléments sensibles tels que noms, adresses email, numéros de téléphone, clés d’API ou tokens, et vous donne la possibilité de les masquer facilement. Par exemple, après détection, il suffit de remplacer ces éléments par des balises dans le texte avant de l’envoyer dans un LLM ou de le stocker dans des logs. La classification “secret” est spécialement conçue pour repérer les clés d’API ou tokens oubliés par des développeurs, ce qui est pratique pour éviter les fuites accidentelles.
La force de Privacy Filter réside dans sa capacité à comprendre le contexte, évitant ainsi les erreurs courantes des simples regex, en distinguant notamment un nom de famille dans sa précision.
Le mode de fonctionnement repose sur une lecture globale du texte, contrairement à certains modèles qui traitent mot par mot. En utilisant un décodeur Viterbi, il évite de couper un mot ou un nom important en deux parties. Capable d’analyser jusqu’à 128 000 tokens de contexte, il offre une grande souplesse pour traiter des documents complexes, notamment dans des domaines sensibles comme la médecine ou le support client, en ajustant le niveau de précision ou de rappel selon les besoins.
Il existe déjà des outils concurrents tels que Microsoft Presidio, qui gère plusieurs langues et même des données structurées ou des images, mais Privacy Filter se distingue par sa capacité à mieux différencier les noms et autres entités en contexte, grâce à une intelligence qui va plus loin que les simples expressions régulières. Bien que le modèle soit principalement calibré pour l’anglais, il reste une excellente option pour renforcer la sécurité des données personnelles dans divers cas d’usage, à condition de vérifier le résultat final. La personnalisation des catégories détectées est possible, mais nécessite un fine-tuning pour des cas spécifiques.
En proposant un outil open source capable de tourner en local, OpenAI continue de fournir des solutions accessibles pour renforcer la confidentialité des données dans un monde de plus en plus numérique.
Pour conclure, la disponibilité de Privacy Filter en open source est une excellente nouvelle pour ceux qui manipulent des données sensibles. En le deployant localement, vous garantissez que vos informations ne quittent jamais votre environnement, ce qui constitue une étape essentielle dans la sécurisation de votre workflow. Si vous souhaitez en savoir plus ou tester cet outil, n’hésitez pas à consulter les ressources et la documentation disponibles. C’est une solution pratique, efficace et à portée de main, qui pourrait bien devenir un allié quotidien dans la gestion de la confidentialité.
