Récemment, j’ai eu l’opportunité de m’entretenir avec Francis de Souza, COO de Google Cloud, lors d’un événement à Los Angeles. Au milieu du brouhaha ambiant, de Souza, qui parle avec la calme et la modération d’un professeur universitaire, a offert des conseils précieux aux entreprises confrontées à la complexité de la sécurité dans l’ère de l’intelligence artificielle. Il a souligné qu'”il y aura une période de transition, puis je pense que nous arriverons à un meilleur endroit.” Bien qu’il ne s’agisse pas spécifiquement de Google à ce moment-là, il est évident que même Google doit encore ajuster ses stratégies face à ces nouveaux enjeux.
Le message central de de Souza est une mise en garde que les professionnels de la sécurité tentent de faire passer depuis des années : la sécurité ne peut pas être une réflexion après coup. “Lorsqu’une entreprise se lance dans cette aventure de l’IA, elle doit adopter une approche basée sur la plateforme”, a-t-il déclaré. “La sécurité n’est pas quelque chose que l’on peut simplement ajouter en dernier lieu, ni laisser à la seule responsabilité des employés.” Il a particulièrement insisté sur le phénomène du “shadow AI” — cette pratique où les employés utilisent des outils grand public sans supervision organisationnelle — et a souligné la nécessité que les entreprises exigent une sécurité, une gouvernance et une traçabilité intégrées dès le départ.
La sécurité doit évoluer au même rythme que l’IA pour faire face à un paysage de menaces en constante expansion.
Il a également insisté que toute stratégie d’IA doit impérativement être synchronisée avec une stratégie de gestion des données et de sécurité. “Il n’existe pas de stratégie d’IA sans une stratégie de données et de sécurité qui vont de pair”, a-t-il affirmé. La vision de de Souza ne se limite pas à Google Cloud, mais adopte une perspective multicloud. Il a expliqué que même lorsqu’une entreprise choisit une plateforme unique, elle utilise souvent des applications SaaS, ou collabore avec des partenaires utilisant d’autres clouds, ce qui rend crucial une posture de sécurité cohérente à travers tous ces environnements.
De Souza a mis en lumière l’évolution du paysage des cybermenaces, évoquant une accélération dramatique du délai entre une brèche initiale et le moment où l’attaque atteint sa phase suivante, passant de huit heures à seulement 22 secondes. La surface d’attaque elle-même s’est considérablement élargie, dépassant désormais le simple réseau pour inclure des modèles d’IA, des pipelines de données, des agents et des prompts — autant d’éléments qui doivent être protégés avec autant d’attention. Il a notamment alerté sur un risque souvent mineur mais critique : les agents IA peuvent révéler des données anciennes stagnantes dans l’entreprise, comme des serveurs SharePoint obsolètes dont la existence et l’accès restent méconnus.
Pour relever ces défis, de Souza préconise de recourir à une défense entièrement autonome, où des agents d’IA pilotent la sécurité dans un modèle “drive-by”, supprimant la dépendance aux interventions humaines continues. “C’est une question de leadership, ce n’est pas seulement une question technologique”, a-t-il souligné, insistant sur l’importance pour les conseils d’administration et les équipes exécutives de prendre cette problématique en main. Cependant, malgré cette montée en puissance de l’IA dans la sécurité proactive, la pénurie de professionnels qualifiés et la multiplication des vulnérabilités liées à l’IA compliquent la tâche des équipes de sécurité. La demande dépasse largement l’offre, et la compréhension de l’IA dans le secteur demeure limitée, comme l’a récemment expliqué la CSO de LinkedIn, Lea Kissner.
En parallèle, des problèmes concrets liés à l’utilisation des API sur Google Cloud ont récemment éclaté. La plateforme a été victime de cas où des développeurs se sont retrouvés avec des factures à cinq chiffres suite à des appels API non autorisés vers des modèles Gemini, souvent sans en connaître la portée. La complication réside dans le fait que dans certains cas, Google a automatiquement majoré les plafonds d’utilisation des API en fonction de l’historique des comptes, souvent sans avertissement clair, ce qui a entraîné des coûts imprévus pour de nombreux utilisateurs. Bien que Google ait remboursé ces sommes, la politique d’augmentation automatique reste en place, ce qui soulève des questions sur la gestion des risques et la rapidité de déconnexion en cas de compromission.
Une autre problématique mise en lumière par Aikido, une société de sécurité, concerne la réactivité lors de la révocation des clés API. Même lorsque des développeurs détectent une clé compromise et la suppriment immédiatement, il peut s’écouler jusqu’à 23 minutes avant que l’action ne soit effective à l’échelle de Google. Pendant ce délai, les attaquants peuvent continuer d’accéder à des données sensibles, ce qui ralentit considérablement la réponse aux incidents. Si Google emploi des formats de clé plus récents, ceux-ci révoquent quasiment instantanément, soulignant que le problème actuel n’est pas une limite technique mais une question de priorités. En somme, la sécurité de l’IA et des API repose aujourd’hui sur une adaptation rapide, plus que sur des systèmes irréprochables, et cet écart entre la stratégie prescrite et la capacité à agir en temps réel reste une préoccupation majeure.
