Sicherheitsrisiken autonomer KI-Agenten und Agentic AI
Viele Unternehmen denken bei KI-Sicherheit noch an drei naheliegende Kontrollpunkte: Welche Prompts dürfen Mitarbeitende eingeben? Welche Daten verlassen das Unternehmen? Und welche Antworten eines Modells müssen blockiert werden? Eine aktuelle Forschungsarbeit zeigt, dass diese Sicht zu eng ist. We
Viele Unternehmen testen derzeit KI-Agenten nicht mehr nur als Chatbots, sondern als Arbeitsmaschinen: Sie lesen Tickets, schreiben Code, durchsuchen Dokumente, starten Tools und behalten Kontext über mehrere Sitzungen hinweg. Genau diese Persistenz ist praktisch – und sicherheitstechnisch heikel. W
Ein npm-Paket wird installiert, ein `preinstall`-Skript läuft automatisch, und wenige Sekunden später sind GitHub-, Cloud- oder Registry-Zugangsdaten weg. Dieses Muster ist nicht neu. Der aktuelle Fall rund um mehrere Pakete im Scope `@redhat-cloud-services` ist aber trotzdem relevant, weil er zeigt
Viele Unternehmen testen derzeit visuelle Plattformen für LLM-Workflows und KI-Agenten. Der Charme ist offensichtlich: Fachbereiche können Datenquellen, Modelle, Tools und APIs per Oberfläche verbinden, ohne für jeden Prototyp ein eigenes Backend zu bauen. Genau diese Bequemlichkeit verschiebt aber
Ein Entwickler installiert schnell ein kleines npm-Paket, weil es nach Hilfsfunktion klingt. Im Hintergrund arbeitet zugleich ein KI-Assistent, der Dateien, Uploads und generierte Artefakte in einem lokalen Arbeitsbereich ablegt. Genau diese Kombination macht den aktuellen Fall „Malware-Slop“ intere
Viele Unternehmen bauen derzeit interne KI-Werkzeuge mit erstaunlich ähnlichem Muster: ein FastAPI-Service vor einem LLM-Gateway, ein vLLM- oder LiteLLM-Endpunkt, ein MCP-Server für Tool-Zugriffe, dazu ein paar Middleware-Regeln für Admin-Pfade, Metriken oder Modellverwaltung. Genau diese pragmatisc
Viele Security-Programme sind darauf optimiert, Schwachstellen überhaupt zu finden: Scanner ausrollen, CVEs priorisieren, Findings in Tickets überführen. Das war lange der Engpass. Die jüngsten Zahlen aus Anthropics Project Glasswing zeigen, dass sich dieser Engpass verschiebt. Wenn KI-Modelle in ku
Ein moderner Software-Build lädt selten nur eigenen Code. Er zieht Pakete aus öffentlichen Registries, startet Installationsskripte, baut Container und verteilt Artefakte automatisch weiter. Genau darin liegt das Praxisproblem: Wenn ein legitimes Paketkonto, ein CI-Workflow oder ein Publishing-Token
Ein Linux-Server ist selten allein dadurch sicher, dass ein Angreifer „nur“ ein unprivilegiertes Konto besitzt. In modernen Umgebungen gibt es viele Wege zu einem solchen ersten Zugriff: ein kompromittierter Entwickler-Account, ein fehlkonfigurierter CI-Runner, ein schwaches Service-Konto, ein Conta
Viele Unternehmen testen KI-Coding-Agenten noch wie ein produktiveres Autocomplete. In der Praxis verschiebt sich der Einsatz aber schnell in eine andere Risikoklasse: Ein Agent soll nicht nur Code vorschlagen, sondern Repositories lesen, Tests ausführen, Datenbankmigrationen vorbereiten, Cloud-APIs
In vielen Sicherheitsprogrammen gilt noch immer eine unausgesprochene Priorität: Erst Identitäten härten, dann Phishing trainieren, danach Patch-Management verbessern. Das war lange plausibel, weil gestohlene Zugangsdaten und Social Engineering in vielen Breach-Analysen dominierten. Der neue Verizon
Viele Unternehmen haben ihre klassischen Software-Abhängigkeiten inzwischen besser im Griff: Paketmanager werden gescannt, Container-Images signiert, CI/CD-Pipelines härter konfiguriert. Ein Bereich bleibt in der Praxis aber oft erstaunlich unkontrolliert: die Entwicklungsumgebung selbst. VS-Code-Ex
