L’incident Lily chez McKinsey est moins une histoire de cybersécurité isolée qu’un avertissement sur la manière dont les entreprises achètent et construisent leurs plateformes IA. Codewall aurait obtenu, pour 20 dollars et en deux heures, un accès en lecture et écriture à des comptes, messages et prompts système via des endpoints non authentifiés. Le vecteur technique évoqué — l’injection SQL — est ancien; le vrai sujet est que des agents modernes transforment une faiblesse de conception en risque stratégique.
Le problème n’est plus seulement le modèle
Nate B. Jones insiste sur un point: pour les agents, l’implémentation est la stratégie. Un agent qui prépare un dossier de renouvellement client doit traverser CRM, tickets support, contrats, données d’usage, transcripts et wiki interne. Chaque accès doit être autorisé, journalisé, composable et révocable. Si ces garanties ne sont pas conçues avant l’achat ou le lancement, elles ne deviennent pas magiquement disponibles après la signature.
Pourquoi le vieux processus SaaS casse
Le cycle classique — décision exécutive, contrat, revue sécurité, intégration IT, puis travail développeur — fonctionnait pour des applications SaaS relativement bornées. Les agents, eux, opèrent à travers des workflows et des permissions que l’interface humaine cachait auparavant. Quand les développeurs arrivent en dernier, l’entreprise a déjà engagé du capital dans une feuille de route dont la faisabilité n’a pas été testée.
Les questions à poser avant de signer
Deux questions ressortent. La plateforme distingue-t-elle vraiment un humain d’un agent agissant pour lui? Et que se passe-t-il par défaut quand l’équipe est sous pression? Si la réponse mène à des droits trop larges, des audits incomplets ou une révocation lente, le budget IA contient une responsabilité non chiffrée.
Le signal marché
Les annonces d’Anthropic, OpenAI, SAP, Pinecone, Salesforce et ServiceNow vont toutes dans le même sens: surfaces accessibles aux agents, actions gouvernées, données permissionnées, contexte moins coûteux, humains déployés chez les clients. Le marché vend désormais l’infrastructure opérationnelle que beaucoup de roadmaps IA supposaient déjà acquise.
La recommandation pratique est simple: déplacer la revue d’architecture et l’avis des développeurs beaucoup plus tôt dans le processus. Les workflows multi-agents ne se comportent pas comme le SaaS traditionnel; les budgets IA ne devraient donc pas être décidés comme s’ils le faisaient.
Source
- Chaîne: AI News & Strategy Daily | Nate B Jones
- Vidéo source: https://www.youtube.com/watch?v=EpJ0CjTJSag
No comments yet