BREAKING
curl und HTTP/2: Wenn der Upload den Client angreifbar macht DIVD und Zammad: Wenn der Helpdesk zur Angriffskette wird NVIDIA Sentry: Warum die Kontrolle über KI-Agenten außerhalb des Hosts liegen soll CLOSEDQUORUM: Wenn KI-APIs die Malware-Steuerung übernehmen Cisco ISE Zero-Day: Wenn die Zugangskontrolle selbst zum Root-Ziel wird

LLMjacking: Warum die KI-Rechnung eine Sicherheitsgrenze braucht

Clara (AI generiert)
4 min read

Ein produktiver KI-Dienst kann technisch funktionieren und trotzdem einen Sicherheitsvorfall verbergen: Die Antworten kommen zuverlässig, die API akzeptiert gültige Zugangsdaten, doch ein Teil der Nutzung gehört gar nicht zum Unternehmen. Wer nur Ausfälle und auffällige Prompts überwacht, sollte deshalb eine weitere Frage stellen: Wer darf auf wessen Rechnung Modelle aufrufen?

Ein am 2. November 2026 veröffentlichter Bericht von Google Threat Intelligence Group und Mandiant macht diese Frage konkret. Die Forscher berichten über LLMjacking-Vorfälle mit mehr als 100.000 US-Dollar unerlaubten Nutzungskosten an einem Tag; bei einzelnen Organisationen summierten sich die Kosten vor dem Entzug des Zugangs auf bis zu eine Million Dollar. Das sind untersuchte Einzelfälle, keine durchschnittlichen Schadenswerte. Die aktuelle Berichterstattung von Help Net Security bestätigt diese Angaben aus dem Forschungsbericht. [1][6]

Technischer Kern: gültiger Zugang, fremde Nachfrage

Die Untersuchung beschreibt öffentlich erreichbare Modellendpunkte sowie gestohlene Cloud-Identitäten und API-Schlüssel als Zugangswege. Sogenannte LLM Mixer bündeln kompromittierten Modellzugang und verkaufen ihn über eigene Vermittlungsdienste weiter. In einer Untersuchung beobachtete GTIG getrennte Akteursgruppen für Einbruch und Monetarisierung. [1]

Die sicherheitstechnische Konsequenz: Authentifizierung allein beantwortet nicht, ob eine Modellanfrage geschäftlich berechtigt ist. Unternehmen sollten deshalb die Identität einer Anwendung, das erlaubte Modell und den zulässigen Verbrauch gemeinsam betrachten. Ein gültiger Schlüssel sollte weder als unbegrenzte Ausgabenfreigabe noch als Ersatz für eine nachvollziehbare Zuordnung zum verantwortlichen Team gelten.

Neu ist nicht die grundsätzliche Möglichkeit des Ressourcendiebstahls. Der aktuelle Bericht liefert vielmehr zusätzliche Beobachtungen zur arbeitsteiligen Verwertung kompromittierter KI-Zugänge. Damit wird aus einem vermeintlichen Schlüsselproblem eine Aufgabe für Cloud-Sicherheit und Finanzsteuerung. [1]

Branchenkontext: FinOps und Security brauchen denselben Alarm

Für Unternehmen folgt daraus eine organisatorische Empfehlung: Sicherheitsbetrieb und FinOps sollten nicht erst bei einer strittigen Rechnung zusammenarbeiten. FinOps kennt geplante Ausgaben und typische Lastprofile; das Security-Team sollte unerwartete Identitäts- und Konfigurationsänderungen untersuchen. Beide Perspektiven gehören in einen gemeinsamen Vorfallprozess.

Ein sinnvoller Ausgangspunkt ist ein Verzeichnis produktiver KI-Nutzungen. Es sollte pro Anwendung den technischen Eigentümer, das Abrechnungskonto, erlaubte Modelle, verwendete Identitäten und den zuständigen Bereitschaftsdienst nennen. Ebenso wichtig ist ein dokumentierter Abschaltweg. Die entscheidende Kontrollfrage lautet: Kann das Unternehmen einen einzelnen verdächtigen Verbraucher stoppen, ohne sämtliche KI-Anwendungen stillzulegen?

Diese Bestandsaufnahme ist eine redaktionelle Handlungsempfehlung, kein behaupteter Befund über alle betroffenen Unternehmen.

Budgetwarnung und Ausgabenstopp sind nicht dasselbe

Bei Kostenkontrollen lohnt sich ein genauer Blick auf die aktuelle Produktdokumentation. Google Cloud unterscheidet zwischen reinen Warnbudgets und Budgets mit Ausgabenbegrenzung. Warnbudgets informieren über tatsächliche oder prognostizierte Kosten im Verhältnis zum Budget; sie dürfen nicht mit einem automatisch durchgesetzten Verbrauchsstopp verwechselt werden. [2]

Für unterstützte Dienste dokumentiert Google inzwischen ausdrücklich Spend-Cap-Budgets. Diese pausieren neue Nutzung nach Überschreiten einer Grenze geschätzter Bruttokosten. Der Geltungsbereich ist jedoch auf ein Projekt und einen unterstützten Dienst begrenzt. Laufende Anfragen werden abgeschlossen, dauerhafte Ressourcen können weiter Kosten verursachen, und die Durchsetzung ist nicht augenblicklich. Mehrkosten bleiben möglich. Zum nächsten Budgetzeitraum wird eine durchgesetzte Sperre automatisch aufgehoben. Wer sie vorher manuell aufhebt, muss beachten, dass sie ohne passende Budgetänderung im laufenden Zeitraum nicht erneut greift. Eine Kostensperre ersetzt deshalb keinen Widerruf kompromittierter Zugangsdaten. [3]

Daraus ergibt sich für die Umsetzung: Nicht nur einen Budgetbetrag eintragen, sondern den tatsächlichen Sperrmechanismus und seinen Geltungsbereich prüfen. Unternehmen sollten in einer isolierten Testumgebung nachvollziehen, welche Anfrage nach einer Sperre noch funktioniert, wer die Grenze anheben darf und wie ein legitimer Wiederanlauf aussieht. Ein vorhandenes Budget ist noch kein bestandener Sicherheitstest.

Identitäten auf Anwendung und Aufgabe begrenzen

Die IAM-Dokumentation empfiehlt, benutzerverwaltete Service-Account-Schlüssel möglichst zu vermeiden und geeignetere Authentifizierungsverfahren einzusetzen. Außerdem verbessert ein eigener Service Account pro Anwendung die Zuordnung von Aktivitäten in Audit-Logs. Wird ein Schlüssel versehentlich veröffentlicht, reicht seine Entfernung aus dem Repository nicht: Er muss bei IAM gelöscht werden. [4]

Für KI-Anwendungen empfiehlt sich darauf aufbauend eine Trennung von Laufzeit- und Verwaltungsrechten. Ein Dienst, der Antworten erzeugt, sollte nicht zugleich neue Identitäten anlegen oder seine eigene Ausgabenbegrenzung aufheben dürfen. Entwicklungs- und Produktionsnutzung sollten getrennt bewertbar und einzeln sperrbar sein.

Bei einem zentralen Modell-Gateway sollte die Architekturprüfung zusätzlich klären, ob Anwendungen den vorgesehenen Kontrollpfad mit direkten Provider-Zugangsdaten umgehen können. Eine im Gateway gesetzte Grenze hilft nur für die Aufrufe, die tatsächlich dort durchlaufen. Diese Prüfung sollte Teil der Freigabe sein, nicht erst der nachträglichen Untersuchung.

Beobachtbarkeit vor dem Ernstfall nachweisen

Ein vorhandenes Cloud-Protokoll bedeutet nicht automatisch, dass jede relevante Datenoperation erfasst wird. Die Google-Dokumentation weist darauf hin, dass Data-Access-Audit-Logs für die meisten Dienste standardmäßig deaktiviert sind. Ihre Aktivierung kann zusätzliche Protokollkosten erzeugen. Admin-Activity-Logs und Data-Access-Logs erfüllen unterschiedliche Aufgaben. [5]

Ein praktikabler Abnahmetest sollte deshalb mit einer bekannten Testidentität beginnen: Modell aufrufen, zugehörigen Logeintrag finden, Identität und Projekt zuordnen und den Alarmweg prüfen. Danach sollte ein separater Test eine unerwartete Konfigurationsänderung simulieren. Nur so lässt sich unterscheiden, ob das Monitoring lediglich Verwaltungsänderungen oder auch die relevante Nutzung sichtbar macht.

Als Alarmsignale empfehlen sich Abweichungen vom genehmigten Betriebsprofil: bislang ungenutzte Modelle, ungewöhnliche Nutzungszeiten, neue technische Identitäten oder ein abrupter Verbrauchsanstieg. Einzelne Merkmale sollten jedoch nicht automatisch eine Kompromittierung beweisen. Ein geplanter Lasttest kann ähnlich aussehen; der Alarm braucht Geschäftskontext und einen erreichbaren Verantwortlichen.

Incident Response: erst eindämmen, dann kontrolliert freigeben

Für den Ernstfall sollte ein kurzer, vorab abgestimmter Ablauf existieren:

  • Verbrauch eingrenzen: betroffene Identität oder Anwendung isolieren und verfügbare technische Sperren aktivieren.
  • Belege sichern: relevante Identitätsänderungen, Konfigurationen, Nutzungsdaten und Zeitstempel geschützt exportieren.
  • Zugänge bereinigen: kompromittierte Schlüssel widerrufen und prüfen, ob zusätzliche Berechtigungen oder Identitäten entstanden sind.
  • Betrieb verifizieren: mit freigegebenen Testaufrufen kontrollieren, dass legitime Nutzung funktioniert und der entzogene Zugang abgewiesen wird.

Diese Schritte sind als organisatorische Leitlinie zu verstehen. Die konkrete Reihenfolge muss den verfügbaren Sperrmöglichkeiten, der Beweissicherung und der Kritikalität des Dienstes Rechnung tragen. Eine unkontrollierte Komplettabschaltung kann selbst erhebliche Betriebsfolgen haben.

Grenzen der Erkenntnisse und Fazit

Der aktuelle Bericht ist eine Untersuchung durch einen Sicherheits- und Cloud-Anbieter, keine repräsentative Marktstatistik. Er belegt weder die Häufigkeit in allen Branchen noch einen zwangsläufigen Millionenschaden. Unternehmen sollten daraus keine pauschale Absage an Cloud-KI ableiten, sondern überprüfbare Kontrollanforderungen. [1]

Die wichtigste lautet: KI-Zugang benötigt neben Identitätsprüfung auch eine durchgesetzte Nutzungsgrenze und einen getesteten Entzugspfad. Wer Anwendung, Verantwortlichen, Verbrauch und Abschaltung zusammenführt, macht aus einer erst nachträglich bemerkten Kostenabweichung einen behandelbaren Sicherheitsvorfall.

Quellen

  1. Google Threat Intelligence Group/Mandiant: The Rise of LLMJacking, 2. November 2026
  2. Google Cloud: Budgets und Budgetwarnungen
  3. Google Cloud: Spend-Cap-Budgets und Einschränkungen
  4. Google Cloud IAM: Best Practices für Service-Account-Schlüssel
  5. Google Cloud Logging: Data-Access-Audit-Logs aktivieren
  6. Help Net Security: Aktuelle Berichterstattung zu den untersuchten LLMjacking-Fällen, 3. November 2026
Teilen:
// Mission Critical

Woechentliches AI Security Briefing erhalten.

Fuer Analysten, Forscher und Verteidiger, die Bedrohungen im AI Stack verfolgen.

Kostenlos abonnieren

Verwandte Artikel