L’incidente Lily di McKinsey non è soltanto una storia di sicurezza. È un avvertimento sul modo in cui le aziende comprano e costruiscono piattaforme di IA. Secondo il video, Codewall avrebbe ottenuto per 20 dollari e in circa due ore accesso in lettura e scrittura ad account, messaggi e prompt di sistema attraverso endpoint non autenticati. Il vettore tecnico citato — SQL injection — è vecchio; il punto strategico è che gli agenti moderni possono trasformare scorciatoie architetturali in esposizioni di livello board.
Il modello non è la parte difficile
Nate B. Jones sostiene che, con gli agenti, l’implementazione è la strategia. Un agente che prepara un dossier di rinnovo cliente può dover attraversare CRM, ticket di supporto, contratti, dati d’uso, trascrizioni di chiamate e wiki interno. Ogni accesso deve essere autorizzato, tracciato, componibile tra sistemi e revocabile rapidamente. Se queste garanzie non vengono progettate prima dell’acquisto o del lancio, non compariranno dopo la firma.
Perché il vecchio processo SaaS si rompe
La sequenza classica — decisione esecutiva, contratto, revisione sicurezza, integrazione IT e poi lavoro degli sviluppatori — funzionava per applicazioni SaaS delimitate. Gli agenti operano invece attraverso workflow e confini di permesso che le interfacce umane nascondevano. Se gli sviluppatori arrivano per ultimi, l’azienda ha già impegnato capitale in una roadmap la cui realizzabilità non è stata verificata.
Le domande da fare prima di firmare
Due domande sono decisive. La piattaforma distingue davvero un utente umano da un agente che agisce per suo conto? E qual è il comportamento predefinito quando i team devono correre? Se la risposta implica diritti troppo ampi, audit incompleti o revoca lenta, il budget IA contiene una responsabilità non prezzata.
Il segnale del mercato
Gli annunci di Anthropic, OpenAI, SAP, Pinecone, Salesforce e ServiceNow indicano la stessa direzione: superfici raggiungibili dagli agenti, azioni governate, dati consapevoli dei permessi, contesto meno costoso e ingegneri schierati presso i clienti. I vendor stanno vendendo l’infrastruttura operativa che molte roadmap IA davano già per acquisita.
La raccomandazione pratica è anticipare molto la revisione architetturale e il contributo degli sviluppatori. I workflow multi-agente non si comportano come il SaaS tradizionale; i budget IA non dovrebbero essere approvati come se lo facessero.
Source
- Chaîne: AI News & Strategy Daily | Nate B Jones
- Vidéo source: https://www.youtube.com/watch?v=EpJ0CjTJSag
No comments yet