Angriffe durch manipulierte Prompts auf LLMs und AI-Agenten
Ein Unternehmen erhält eine Marktanalyse als Word-Dokument, nutzt sie als Quelle für einen Quartalsbericht und lässt Microsoft 365 Copilot beim Entwurf helfen. Für den Nutzer sieht der Vorgang nach normaler Büroarbeit aus: Quellen auswählen, Bericht generieren, Ergebnis prüfen, intern weitergeben. G
Über 135.000 OpenClaw-Instanzen sind ungeschützt im Internet erreichbar. Prompt Injection, Remote Code Execution und Datendiebstahl.
OpenAI, das britische NCSC und führende Sicherheitsforscher sind sich einig: Prompt Injection wird nie vollständig gelöst.
KI-gestützte Kundenservice-Systeme verbreiten sich rasant. Chatbots beantworten Reklamationen, KI-Agenten ändern Buchungen, virtuelle Assistenten verarbeiten Rückerstattungen.
2025 hat die Diskussion um KI-Sicherheit von akademischen Whitepapers in die Vorstandsetagen katapultiert. Was bisher als theoretisches
Mitte Dezember 2025 wurde bekannt, dass ein Angreifer die offizielle Amazon Q VS-Code-Extension kompromittiert und Prompt-
