Box führt neue Sicherheitskontrollen für KI-Agenten ein, die auf Inhalte der Cloud-Plattform zugreifen. Ab sofort lassen sich Zugriffsrechte, Prompt-Eingaben und Freigaben für eigene und externe Agenten wie Claude, ChatGPT und Gemini gezielt steuern. Nach einer Umfrage des Unternehmens nennen 90 Prozent der IT-Verantwortlichen Sicherheitsbedenken als größte Hürde für den produktiven Agenten-Einsatz.
Guardrails regeln Zugriff, Eingaben und Freigaben
Box baut die Kontrollen direkt in die bestehende Plattform ein, zusätzliche Werkzeuge seien dafür nicht nötig. Laut einer offiziellen Mitteilung fasst Box sieben Bausteine zusammen:
- Agent-Guardrails: legen je nach Vertraulichkeitsstufe fest, ob ein Agent Dateien lesen, teilen oder löschen darf.
- Prompt-Injection-Erkennung: prüft Eingaben vor der Verarbeitung und blockiert oder protokolliert auffällige Anweisungen.
- MCP-Guardrails: begrenzen, welche Werkzeuge extern angebundene Agenten über das Model Context Protocol nutzen dürfen.
- Klassifikationsbasierte Zugriffsregeln: schließen einzelne Inhalte komplett vom Agentenzugriff aus, etwa besonders sensible Verträge.
- Aktivitätsübersicht: löst Schwellenwert-Warnungen bei ungewöhnlichem Agentenverhalten aus.
- Audit-Trails: protokollieren Sitzungen und Konfigurationsänderungen revisionssicher für Compliance-Zwecke.
- Freigabepflicht durch Menschen: verlangt vor besonders folgenreichen Aktionen eine manuelle Bestätigung.
Box positioniert die Neuerungen als Erweiterung des bestehenden Governance-Rahmens auf agentische Workflows, nicht als separates Sicherheitsprodukt. Bereits 83 Prozent der befragten Organisationen setzen demnach schon produktiv KI-Agenten ein, 90 Prozent der IT-Verantwortlichen nennen dennoch Sicherheits-, Regulierungs- und Vertrauensfragen als größte Bremse – Zahlen aus einer eigenen Box-Erhebung, unabhängig nicht verifiziert. Diese Lücke zwischen Experimentierfreude und Kontrollbedarf will Box mit dem neuen Regelwerk schließen.
Finanzbranche und Kliniken testen die Kontrollen zuerst
Die Sicherheitsdebatte um KI-Agenten ist branchenweit akut. Erst am Dienstag räumte OpenAI ein, dass zwei eigene Modelle bei einem internen Cyber-Test unautorisiert in Server von Hugging Face eingedrungen waren. Auch Angriffstechniken wie HalluSquatting zeigen, wie Agenten über manipulierte Eingaben zu Sicherheitsrisiken werden können. Vor diesem Hintergrund wirkt der Zeitpunkt von Box’ Ankündigung wenig zufällig.
Finanzdienstleister, Gesundheitsunternehmen und Kanzleien sollen zu den ersten Anwendern zählen, da dort besonders sensible Inhalte verarbeitet werden. Banken könnten demnach Zugriffsrechte für Agenten bei Fusionsanalysen einzeln freischalten, Kliniken Patientendaten über Klassifikationsregeln vor automatisiertem Zugriff schützen und Kanzleien vertrauliche Mandate von der Agentennutzung ausnehmen.
IDC-Analystin Amy Machado bewertet den Schritt gegenüber dem Magazin SiliconANGLE positiv: Box adressiere Datenschutz- und Zugriffsbarrieren dort, wo die Inhalte tatsächlich liegen, statt eine zusätzliche Sicherheitsebene aufzusetzen. Die Kontrollen wirken sowohl auf Box-eigene Agenten als auch auf angebundene externe Systeme wie Claude, ChatGPT und Gemini, sofern diese über die Plattform auf Inhalte zugreifen.
Offen bleibt, wie viel die neuen Kontrollen in der Praxis kosten und wann sie exakt starten: Box nennt für den Rollout lediglich die kommenden Monate und beschränkt die Funktionen zunächst auf den Tarif E-Advanced, ohne Preise zu nennen. Entscheidend wird, ob die Guardrails echte Angriffe abwehren – unabhängige Sicherheitstests der neuen Funktionen stehen bislang aus.
