Apfel – Le LLM caché de votre Mac enfin libéré – Korben

Une rumeur récemment relayée à la manière d’une véritable révélation technologique évoque la présence dissimulée d’un grand modèle de langage (LLM) dans les Mac équipés de puces Apple Silicon. Contrairement aux solutions distantes ou cloud-based, ce modèle, intégré directement dans le système via le framework FoundationModels, tourne en silence sur le Neural Engine, sans nécessiter de connexion internet. Toutefois, Apple semble vouloir garder cette fonctionnalité sous clé, en la verrouillant derrière l’assistant Siri, ce qui empêche toute utilisation via un script ou une ligne de commande classique.

Heureusement, des développeurs ont mis au point un outil baptisé apfel, qui permet d’accéder à ce modèle local simplement en tapant une commande. En installant l’outil avec une seule commande : brew install Arthur-Ficial/tap/apfel, l’utilisateur peut alors interroger le modèle directement depuis son terminal, à condition d’activer Apple Intelligence. Une fois configuré, il devient possible de poser des questions, d’analyser des fichiers et d’obtenir des réponses sans aucune opération de téléchargement puisque tout repose sur le modèle stocké en local sur la machine.

Ce modèle de 3 milliards de paramètres, quantifié en 2 et 4 bits, offre une performance notable sur Apple Silicon, rivalisant notamment avec Qwen-2.5-3B dans certains benchmarks, tout en respectant la vie privée.

Ce LLM est accessible de différentes manières : en ligne de commande via le CLI, en mode serveur HTTP compatible OpenAI, ou encore en chat interactif multi-tour. La configuration en serveur HTTP, par exemple, permet à toutes les applications utilisant l’API OpenAI d’interagir avec le modèle local sans effort, grâce au support natif pour le protocole MCP (Model Context Protocol). Cette modularité rend l’intégration très simple dans un flux de travail existant, sans avoir besoin de modifier le code ou d’afficher ses données sur internet.

Surtout, cet outil met l’accent sur la confidentialité : le framework FoundationModels ne donne accès à aucune donnée personnelle comme les contacts, emails ou photos, et tout tourne en local sur la puce Neural Engine ou le GPU du Mac, sans aucune connexion en ligne. Cette sécurité renforcée est un atout majeur pour ceux qui souhaitent bénéficier de l’intelligence artificielle sans compromis sur leur vie privée.

En résumé, cette solution minimaliste offre une alternatives prometteuses pour l’automatisation, la classification et la transformation de texte sur Mac, avec un modèle léger mais performant pour les tâches quotidiennes. Bien qu’il ne remplace pas encore les géants comme Claude ou GPT pour des opérations complexes, il s’avère être un outil pratique pour le scripting, la traduction ou le résumé rapide, tout en évitant les hallucinations que l’on peut parfois observer avec des modèles plus volumineux. Pour un Mac Apple Silicon sous macOS Tahoe, apfel représente donc une option à considérer pour booster ses tâches IA de tous les jours.

Partagez cet article
article précédent

De plus en plus de fonctionnaires utilisent “une IA clandestine”, le gouvernement veut une négociation avec les syndicats pour définir des règles d’éthique et de souveraineté

article suivant

Le gouvernement dénonce “une niche sociale boostée” : l’âge à partir duquel les seniors peuvent employer une aide à domicile sans payer de cotisations va passer de 70 à 80 ans

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Lire plus d'articles