Der Lily-Vorfall bei McKinsey ist nicht nur eine Sicherheitsgeschichte. Er ist eine Warnung dafür, wie Unternehmen KI-Plattformen kaufen und bauen. Laut Video konnte Codewall für 20 Dollar und in rund zwei Stunden Lese- und Schreibzugriff auf Konten, Nachrichten und System-Prompts erhalten — über nicht authentifizierte Endpunkte. Der erwähnte technische Angriffsweg, SQL Injection, ist alt; strategisch entscheidend ist, dass moderne Agenten architektonische Abkürzungen in ein Vorstandsrisiko verwandeln können.
Das Modell ist nicht der schwierige Teil
Nate B. Jones argumentiert: Bei Agenten ist Implementierung Strategie. Ein Agent, der eine Verlängerungsunterlage für einen Kunden erstellt, muss womöglich CRM-Daten, Support-Tickets, Verträge, Nutzungsdaten, Call-Transkripte und ein internes Wiki verbinden. Jeder Zugriff muss autorisiert, protokolliert, systemübergreifend kombinierbar und schnell widerrufbar sein. Wenn diese Garantien nicht vor Kauf oder Launch entworfen werden, entstehen sie nicht nach der Vertragsunterzeichnung.
Warum der alte SaaS-Einkaufsprozess bricht
Die gewohnte Abfolge — Managemententscheidung, Vertrag, Sicherheitsprüfung, IT-Integration und danach Entwicklerarbeit — funktionierte bei klar abgegrenzten SaaS-Anwendungen. Agenten bewegen sich hingegen über Workflows und Berechtigungsgrenzen hinweg, die menschliche Oberflächen bisher verdeckt haben. Wenn Entwickler zuletzt dazukommen, hat das Unternehmen bereits Kapital in eine Roadmap gesteckt, deren Umsetzbarkeit nicht geprüft wurde.
Die Fragen vor der Unterschrift
Zwei Fragen sind sofort relevant. Unterscheidet die Plattform wirklich zwischen einem menschlichen Nutzer und einem Agenten, der in dessen Auftrag handelt? Und was passiert standardmäßig, wenn Teams unter Zeitdruck stehen? Wenn die Antwort breite Rechte, lückenhafte Audit-Spuren oder langsamen Widerruf bedeutet, enthält das KI-Budget eine nicht eingepreiste Haftung.
Das Marktsignal
Die Ankündigungen von Anthropic, OpenAI, SAP, Pinecone, Salesforce und ServiceNow zeigen in dieselbe Richtung: agentenfähige Oberflächen, gesteuerte Aktionen, berechtigungsbewusste Daten, günstigere Kontextzusammenstellung und vor Ort eingesetzte Ingenieure. Anbieter verkaufen nun die operative Infrastruktur, die viele KI-Roadmaps bereits vorausgesetzt hatten.
Die praktische Empfehlung lautet: Architekturprüfung und Entwicklerstimmen müssen deutlich früher in den Prozess. Multi-Agenten-Workflows verhalten sich nicht wie traditionelles SaaS; KI-Budgets sollten daher nicht so genehmigt werden, als wäre das der Fall.
Source
- Chaîne: AI News & Strategy Daily | Nate B Jones
- Vidéo source: https://www.youtube.com/watch?v=EpJ0CjTJSag
No comments yet