Sicherheitsrisiken autonomer KI-Agenten und Agentic AI
Viele Unternehmen kennen das Problem: Der Schwachstellen-Scanner liefert mehr Findings, als Betrieb, Entwicklung und Security sauber abarbeiten können. Bislang ließ sich dieses Rauschen oft mit Schweregrad, Asset-Kritikalität und Patch-Zyklen halbwegs beherrschen. Die neue Zwischenprognose des Forum
Viele Entwicklungsteams verbinden ihre neuen Coding-Agenten bereits mit den Werkzeugen, die auch Menschen im Alltag nutzen: Ticket-Systeme, Repositories, Observability-Plattformen, Fehlertracker. Das ist produktiv, weil der Agent nicht mehr nur Code vorschlägt, sondern reale Produktionsfehler analys
Ein wachsendes Praxisproblem in Unternehmen ist nicht mehr nur, ob ein KI-Agent eine E-Mail zusammenfassen, ein Ticket beantworten oder eine Datei finden kann. Die kritischere Frage lautet: Wann darf er einer Information vertrauen und daraus eine Handlung ableiten? Genau an dieser Grenze sind in den
Ein Pull Request, ein Issue-Kommentar oder ein scheinbar harmloser Bugreport war in klassischen CI/CD-Prozessen vor allem Dateninput. Ein Workflow las Metadaten, startete Tests, baute Artefakte oder setzte Labels. Mit KI-Agenten verschiebt sich diese Grenze: derselbe Text kann plötzlich als Arbeitsa
Viele Unternehmen haben in den letzten Monaten eine neue Komponente in ihre Architektur eingebaut: ein zentrales Gateway für LLM-Zugriffe. Anwendungen sprechen nicht mehr direkt mit einzelnen Modellanbietern, sondern mit einem Proxy, der Requests normalisiert, Kosten kontrolliert, Schlüssel verwalte
Viele Unternehmen ziehen bei KI-Agenten eine scheinbar klare Sicherheitslinie: Was in der Cloud läuft, gilt als riskant; was lokal auf dem Endgerät bleibt, wirkt kontrollierbarer. Für Datenschutz und Datenresidenz kann diese Unterscheidung wichtig sein. Für eine der zentralen Agenten-Schwachstellen
Viele Unternehmen behandeln Multimedia-Bibliotheken wie unsichtbare Infrastruktur. FFmpeg steckt in Transcoding-Pipelines, Streaming-Diensten, Videokonferenzsystemen, Browser-nahen Komponenten, Python-Paketen, Container-Images, Appliances und internen Automatisierungen. Solange ein Video sauber konv
Ein KI-Agent soll im Unternehmen nicht nur Texte erzeugen. Er soll Code schreiben, Tickets bearbeiten, Browser bedienen, interne Wissensquellen abfragen, Cloud-Ressourcen prüfen oder Kundenvorgänge vorbereiten. Genau darin liegt das Praxisproblem: Sobald ein Agent echte Arbeit erledigt, bekommt er D
Viele Unternehmen denken bei KI-Sicherheit noch an drei naheliegende Kontrollpunkte: Welche Prompts dürfen Mitarbeitende eingeben? Welche Daten verlassen das Unternehmen? Und welche Antworten eines Modells müssen blockiert werden? Eine aktuelle Forschungsarbeit zeigt, dass diese Sicht zu eng ist. We
Viele Unternehmen testen derzeit KI-Agenten nicht mehr nur als Chatbots, sondern als Arbeitsmaschinen: Sie lesen Tickets, schreiben Code, durchsuchen Dokumente, starten Tools und behalten Kontext über mehrere Sitzungen hinweg. Genau diese Persistenz ist praktisch – und sicherheitstechnisch heikel. W
Ein npm-Paket wird installiert, ein `preinstall`-Skript läuft automatisch, und wenige Sekunden später sind GitHub-, Cloud- oder Registry-Zugangsdaten weg. Dieses Muster ist nicht neu. Der aktuelle Fall rund um mehrere Pakete im Scope `@redhat-cloud-services` ist aber trotzdem relevant, weil er zeigt
Viele Unternehmen testen derzeit visuelle Plattformen für LLM-Workflows und KI-Agenten. Der Charme ist offensichtlich: Fachbereiche können Datenquellen, Modelle, Tools und APIs per Oberfläche verbinden, ohne für jeden Prototyp ein eigenes Backend zu bauen. Genau diese Bequemlichkeit verschiebt aber
