Wie generative KI zur Waffe und zum Angriffsziel wird
Im Oktober 2025 veröffentlichte die EU-Cybersicherheitsagentur ENISA ihren Bericht „Threat Landscape 2025“. Die zentrale Botschaft des rund 87 Seiten umfassenden Dokuments ist eindeutig: Generative künstliche Intelligenz ist zu einem prägenden Faktor der Bedrohungslage geworden – sowohl als Werkzeug der Angreifer als auch als deren Ziel. Grundlage ist die Auswertung von 4.875 Vorfällen, wie der ENISA-Bericht dokumentiert.
Was ist passiert?
Der Threat Landscape 2025 stützt sich auf eine breite Datenbasis: 4.875 Vorfälle aus dem Zeitraum Juli 2024 bis Juni 2025. Aus dieser Analyse leitet ENISA ein klares Bild ab. Generative KI ist nicht länger ein Randthema, sondern durchzieht die Bedrohungslandschaft in zwei Richtungen.
Zum einen ist KI zur Waffe geworden: Angreifer nutzen sie, um ihre Methoden zu automatisieren und zu verfeinern. Zum anderen ist KI selbst zum Angriffsziel geworden – die Systeme und Modelle, auf die Organisationen zunehmend setzen, geraten ins Visier. Auch das Fachportal Security Affairs hebt diese doppelte Rolle der KI als zentrale Erkenntnis des Berichts hervor.
KI-gestütztes Phishing dominiert
Die vielleicht eindrücklichste Zahl des Berichts betrifft das Phishing. Laut ENISA machten KI-gestützte Phishing-Kampagnen bis Anfang 2025 mehr als 80 Prozent der weltweit beobachteten Social-Engineering-Aktivität aus.
Der Grund liegt auf der Hand: KI macht betrügerische Nachrichten deutlich überzeugender. Sprachliche Fehler, die früher ein verlässliches Warnsignal waren, verschwinden. Nachrichten lassen sich personalisieren, in fehlerfreiem Deutsch verfassen und in großer Zahl automatisiert erzeugen. Damit sinkt die Hürde für Angreifer, und für Empfänger wird es schwerer, Betrug zu erkennen.
Weitere Bedrohungen im Bericht
Über das Phishing hinaus warnt ENISA vor einer Reihe weiterer KI-bezogener Gefahren:
- Bösartige KI-Systeme: ENISA nennt Werkzeuge wie „Xanthorox AI“, die der Automatisierung von Social Engineering und der Entwicklung von Malware dienen.
- Gefälschte KI-Tool-Websites: Angebliche KI-Werkzeuge dienen als Köder, um Ransomware oder trojanisierte Installationsdateien zu verbreiten.
- Gejailbreakte Modelle: Durch gezielte Manipulation werden Schutzmechanismen von KI-Modellen ausgehebelt.
- Synthetische Medien: Täuschend echte Fälschungen von Bild, Ton und Video erhöhen die Glaubwürdigkeit von Betrugsversuchen.
- Model Poisoning: Angreifer manipulieren die Trainingsdaten oder das Verhalten von Modellen, um deren Ergebnisse zu verfälschen.
Wie können Sie sich schützen?
Die praktische Konsequenz aus dem Bericht ist klar: Da Phishing und Social Engineering überzeugender werden, müssen die Abwehrmaßnahmen mitwachsen. Bewährte Grundsätze bleiben dabei wirksam, gewinnen aber an Bedeutung:
- Wachsamkeit: Prüfen Sie Absender, Links und ungewöhnliche Aufforderungen kritisch – auch wenn eine Nachricht sprachlich einwandfrei wirkt.
- Technische Filter: Moderne Spam- und Phishing-Filter fangen einen Großteil schädlicher Nachrichten ab, bevor sie das Postfach erreichen.
- Schulung: Regelmäßige Sensibilisierung hilft Mitarbeitenden, auch raffinierte Täuschungsversuche zu erkennen.
- Mehr-Faktor-Authentifizierung: Selbst wenn Zugangsdaten abgegriffen werden, erschwert MFA den unbefugten Zugriff erheblich.
Verwandte Meldungen
- PromptLock: Die erste KI-gestützte Ransomware – wie KI in Schadsoftware Einzug hält.
- Anthropic: KI-orchestrierte Spionagekampagne – ein konkretes Beispiel für den Missbrauch von KI durch Angreifer.
- BSI-Lagebericht 2025 – die nationale Sicht auf eine vergleichbare Bedrohungslage.
Fazit
Der ENISA Threat Landscape 2025 belegt mit Daten, was sich in der Praxis bereits abzeichnet: Künstliche Intelligenz verändert die Bedrohungslage grundlegend. KI-gestütztes Phishing dominiert das Social Engineering, und die Bandbreite KI-bezogener Gefahren reicht von gefälschten Tool-Websites bis zu manipulierten Modellen. Für Organisationen bedeutet das, ihre menschliche und technische Abwehr kontinuierlich zu schärfen – denn überzeugendere Angriffe verlangen aufmerksamere und besser geschulte Verteidiger.