KI gegen KI: Warum Cyberabwehr ohne KI nicht mehr mithält

Im September 2025 hat das KI-Unternehmen Anthropic einen Angriff entdeckt, der die Cyber Security verändert hat. Eine staatlich unterstützte Gruppe hatte ein KI-System so manipuliert, dass es rund 30 Organisationen weitgehend selbstständig angriff – von der Erkundung über das Ausnutzen von Schwachstellen bis zum Abgreifen von Daten. Die KI erledigte 80 bis 90 Prozent der einzelnen Arbeitsschritte allein, und das mit einer Anfragefrequenz, die für Menschen physisch unmöglich wäre. In einigen Fällen hatten die Angreifer Erfolg.

Das ist kein Blick in die Zukunft mehr. Es ist die Lage, in der Unternehmen heute ihre IT schützen müssen.

Angriffe in Maschinengeschwindigkeit

KI verändert nicht nur, wie Angriffe aussehen, sondern vor allem, wie schnell und wie viele es davon gibt. Phishing-Mails kommen ohne Rechtschreibfehler und passgenau auf den Empfänger zugeschnitten. Schadcode wird für jedes Ziel leicht verändert, damit ihn bekannte Signaturen nicht erkennen. Und Stimmen oder Gesichter lassen sich täuschend echt fälschen: Beim Ingenieurkonzern Arup überwies ein Mitarbeiter in Hongkong 25 Millionen US-Dollar, nachdem er in einer Videokonferenz mit dem vermeintlichen Finanzchef gesprochen hatte – alle anderen Teilnehmer waren Deepfakes.

Auch in Deutschland ist das angekommen. Laut der Bitkom-Studie Wirtschaftsschutz 2026 gehen 82 Prozent der Unternehmen davon aus, dass Angreifer verstärkt KI einsetzen. Schäden durch Deepfakes haben sich binnen eines Jahres von 4 auf 8 Prozent verdoppelt, Schäden durch automatisierte Robo Calls stiegen von 3 auf 14 Prozent. Gleichzeitig wurden laut BSI im Berichtszeitraum 2024/25 jeden Tag durchschnittlich 119 neue Schwachstellen bekannt – rund 24 Prozent mehr als im Jahr davor.

Warum klassische Abwehr allein nicht mehr reicht

Kein Sicherheitsteam kann 119 neue Schwachstellen am Tag bewerten, Millionen Logzeilen von Hand lesen oder jede verdächtige Mail einzeln prüfen. Wenn Angreifer ihre Arbeit an Maschinen übergeben, wird der Mensch auf der Verteidigerseite zum Engpass. Regeln und Signaturen erkennen, was schon einmal da war. Gegen Angriffe, die sich für jedes Ziel neu zusammensetzen, reicht das nicht mehr.

Deshalb gibt es auf Dauer nur eine wirksame Antwort auf den Missbrauch von KI: Verteidigung, die selbst KI einsetzt – und zwar mindestens so konsequent wie die Angreifer.

Was KI in der Abwehr heute schon leistet

Dass das funktioniert, zeigen erste Beispiele. Googles KI-Agent „Big Sleep“ fand 2025 eine kritische Lücke in der Datenbank SQLite, die nur Angreifern bekannt war und kurz vor dem Ausnutzen stand. Google spricht vom ersten Fall, in dem ein KI-Agent einen Angriff direkt vereitelt hat. Im KI-Wettbewerb AIxCC der US-Forschungsbehörde DARPA fanden autonome Systeme 54 von 63 eingebauten Schwachstellen, schlossen 43 davon selbst und entdeckten nebenbei 18 echte, bis dahin unbekannte Lücken – für rund 152 US-Dollar pro Aufgabe.

Auch Anthropic hat den eingangs beschriebenen Angriff mit KI aufgearbeitet: Das eigene Team analysierte die riesigen Datenmengen der Untersuchung mit derselben Technologie, die die Angreifer missbraucht hatten.

Und es rechnet sich. Laut IBM-Bericht Cost of a Data Breach 2026 kostet ein Datenleck im Schnitt 4,99 Millionen US-Dollar, so viel wie nie. Angriffe mit KI-Unterstützung kosten rund eine Million mehr. Unternehmen, die KI und Automatisierung umfassend in ihrer Sicherheit einsetzen, schließen Vorfälle dagegen etwa zwei Monate schneller und zahlen knapp zwei Millionen US-Dollar weniger.

KI gegen KI heißt nicht: Mensch raus

KI in der Abwehr ersetzt keine Fachleute, sie macht sie schneller. Sie sortiert Warnmeldungen vor, erkennt Auffälligkeiten in Datenmengen, die kein Mensch überblickt, und schlägt Maßnahmen vor. Entscheiden müssen weiterhin Menschen, die das Unternehmen kennen.

Genauso wichtig bleiben die Grundlagen. Das BSI mahnt, dass bekannte Schwachstellen in Systemen am Netzrand viel zu oft zu spät oder gar nicht gepatcht werden. Die beste KI-Erkennung hilft wenig, wenn die Tür schon offen steht.

Was Unternehmen jetzt tun sollten

1. Angriffsfläche kennen und klein halten: Alle von außen erreichbaren Systeme erfassen, automatisiert prüfen und zeitnah aktualisieren.
2. KI in der Erkennung einsetzen: E-Mail-Schutz, Endgeräte und Protokolle mit Werkzeugen überwachen, die Muster statt nur bekannte Signaturen erkennen.
3. Prozesse gegen Deepfakes: Zahlungen und Zugangsdaten nie allein auf Zuruf freigeben, sondern über einen zweiten, bekannten Kanal bestätigen.
4. Eigene KI absichern: Festlegen, welche KI-Dienste mit welchen Daten genutzt werden dürfen, und Zugriffe darauf beschränken.
5. Regelmäßig testen: Nur wer seine Schwachstellen kennt, kann sie schließen – bevor es ein Angreifer tut.

Fazit

Angreifer haben KI längst als Werkzeug entdeckt. Wer sich weiter nur auf Firewalls, Signaturen und Handarbeit verlässt, verteidigt sich mit den Mitteln von gestern gegen die Angriffe von morgen. Die Zukunft der Cyber Security heißt KI gegen KI – gesteuert von Menschen, die wissen, was sie tun.

Wie gut Ihr Unternehmen heute aufgestellt ist, zeigt unser kostenfreier IT-Sicherheits-Check. Oder sprechen Sie uns direkt an.

Quellen: Anthropic, Bitkom, BSI, Google, DARPA, IBM, CNN zu Arup