Sicherheitsrisiken autonomer KI-Agenten und Agentic AI
Ein Unternehmen gibt einem KI-Agenten scheinbar harmlose Rechte: Websuche, Lesen öffentlicher Seiten, vielleicht ein paar Hilfswerkzeuge für Recherche oder Codeanalyse. Schreiben ins Internet ist nicht erlaubt. Genau hier beginnt das Praxisproblem. Die Sicherheitsgrenze liegt oft nicht dort, wo Team
Ein Unternehmen betreibt mehrere KI-Agenten, die Code schreiben, Tickets bearbeiten und Dokumente verwalten. Jeder Agent hat eine Konfigurationsdatei, die seine Identität und Verhaltensregeln definiert. Wenn ein Angreifer oder ein missgünstiger Agent einen manipulierten Befehl in diese Datei schreib
Ein Entwickler verbindet seinen Coding-Agenten mit einem neuen MCP-Server, weil dieser angeblich das Projekt scannt, Integritätsprüfungen durchführt oder Codequalität bewertet. Der Agent hat Zugriff auf das Repository, lokale Konfigurationen und vielleicht auch auf `.env`-Dateien, SSH-Schlüssel oder
Viele Unternehmen führen KI-Assistenten zuerst dort ein, wo der Produktivitätsgewinn offensichtlich ist: Tickets zusammenfassen, Confluence-Seiten durchsuchen, Projektstände erklären, Aufgaben vorbereiten. Genau dort liegt aber auch das Sicherheitsproblem. Ein Assistent wie Atlassian Rovo arbeitet n
Ein KI-Agent wirkt im Enterprise-Alltag oft wie eine kontrollierte Schnittstelle: Ein Nutzer stellt eine Aufgabe, das Modell entscheidet über den nächsten Schritt, und erst danach wird ein Tool ausgeführt. Genau auf diese Annahme bauen viele Sicherheitskonzepte auf. System-Prompts sollen Grenzen set
Viele Unternehmen testen gerade interne Agenten-Plattformen: ein Web-UI, ein paar spezialisierte KI-Agenten, Zugriff auf Repositories, Tickets, Shell-Kommandos oder interne APIs. Das Praxisproblem ist nicht mehr nur, ob das Modell eine falsche Antwort gibt. Entscheidend ist, wer Konfigurationen für
Ein JavaScript-Paket wird installiert, ein Build läuft im CI-Runner, ein Entwickler öffnet später das Repository in VS Code oder ein Coding-Agent lädt eine projektspezifische Konfiguration. In vielen Unternehmen sind das getrennte Sicherheitsdomänen: Dependency-Scanning hier, CI/CD-Härtung dort, End
Ein Sicherheitslabor soll ein kontrollierter Raum sein. Teams bauen Capture-the-Flag-Umgebungen, lassen Modelle nach Schwachstellen suchen und messen, welche Angriffswege ein KI-Agent findet. Für Unternehmen klingt das zunächst nach sinnvoller Vorsicht: Bevor ein leistungsfähiges Modell in Produkte
Ein Unternehmen erhält eine Marktanalyse als Word-Dokument, nutzt sie als Quelle für einen Quartalsbericht und lässt Microsoft 365 Copilot beim Entwurf helfen. Für den Nutzer sieht der Vorgang nach normaler Büroarbeit aus: Quellen auswählen, Bericht generieren, Ergebnis prüfen, intern weitergeben. G
Ein KI-Agent soll Verträge sortieren, Quellcode prüfen oder Dateien umbenennen. Dafür erhält er Zugriff auf einen ausgewählten Ordner – nicht auf das gesamte Benutzerkonto. Genau dieses Sicherheitsversprechen ist bei Desktop-Agenten zentral: Selbst wenn ein Modell eine manipulierte Datei falsch inte
Ein Mitarbeiter bittet einen mobilen KI-Agenten, auf dem Smartphone eine Nachricht zu versenden, einen Termin anzulegen oder eine Reservierung vorzunehmen. Der Agent erfasst den Bildschirm, interpretiert ihn mit einem Vision-Language-Modell und steuert das Gerät über Android Debug Bridge, Accessibil
Ein Security-Team will wissen, wie weit ein leistungsfähiger KI-Agent bei der Ausnutzung von Schwachstellen kommt. Dafür schaltet es Schutzmechanismen gezielt zurück, gibt dem Modell Werkzeuge und lässt es in einer isolierten Testumgebung arbeiten. Genau hier beginnt das Praxisproblem: Die Evaluieru
