Prompt Injection 2026 – Das unlösbare Sicherheitsproblem
OpenAI, das britische NCSC und führende Sicherheitsforscher sind sich einig: Prompt Injection wird nie vollständig gelöst.
·
4 min read
Tag
LLM Security
Schwachstellen und Absicherung von Large Language Models
6 Artikel
Red Teaming für LLMs – So testest du deine KI auf Schwachstellen
Praxis-Guide: Mit Garak, PyRIT und manuellen Methoden LLM-Anwendungen auf Prompt Injection und Jailbreaks testen.
·
4 min read
Shadow AI – Die unsichtbare Gefahr in deutschen Unternehmen
Shadow IT ist ein bekanntes Problem. Shadow AI ist seine gefährlichere Evolution. Wenn Mitarbeiter KI-Tools nutzen, von denen
·
3 min read
Prompt Injection und Jailbreaking bedrohen KI-Kundenservice
KI-gestützte Kundenservice-Systeme verbreiten sich rasant. Chatbots beantworten Reklamationen, KI-Agenten ändern Buchungen, virtuelle Assistenten verarbeiten Rückerstattungen. Die Effizienzgewinne sind
·
3 min read
CSO Online – Die fünf gravierendsten realen AI-Security-Bedrohungen 2025
CSO Online hat zum Jahresende 2025 eine Bilanz der fünf gravierendsten realen AI-Security-Bedrohungen gezogen. Keine theoretischen Risiken, keine
·
3 min read
OWASP Top 10 for LLM Applications – Die zehn größten Risiken für KI-Anwendungen
Die OWASP Foundation hat mit der „Top 10 for LLM Applications“ eine Referenzliste der zehn kritischsten Sicherheitsrisiken für
·
4 min read