FraudGPT: Was Sicherheitsverantwortliche 2026 wissen müssen

Kurz gefasst

FraudGPT ist ein abonnementbasiertes KI-Tool aus dem Darknet, das Phishing-E-Mails, Schadcode und gefälschte Websites ohne ethische Sicherheitsvorkehrungen erstellt. Seit seiner Entdeckung im Jahr 2023 hat es sich parallel zur allgemeinen KI-Entwicklung weiterentwickelt – die Angriffe sind heute schneller, personalisierter und schwerer zu erkennen. Das Risiko für Unternehmen ist nicht primär technischer Art, sondern verhaltensbezogen: Mitarbeiter sind der Einstiegspunkt, den diese Tools gezielt ausnutzen.

Einleitung

Im Juli 2023 identifizierten Forscher von Netenrich FraudGPT, das auf Darknet-Marktplätzen und Telegram-Kanälen beworben wurde. Nach heutigen Maßstäben war es kein hochentwickeltes Tool. Entscheidend war jedoch das dahinterstehende Modell: KI-Fähigkeiten ohne Sicherheitsbeschränkungen, die als Abonnementdienst an jeden verkauft werden, der bereit ist zu zahlen.

Bis 2026 ist dieses Modell ausgereift. Die Hürde für den Start eines überzeugenden Social-Engineering-Angriffs ist drastisch gesunken. Zu verstehen, was FraudGPT ist, wie es sich entwickelt hat und warum es die Kalkulation für das Human Risk Management verändert, ist heute eine Grundvoraussetzung für Sicherheitsverantwortliche.

Was ist FraudGPT?

FraudGPT ist ein Large Language Model, das speziell für kriminelle Zwecke optimiert wurde. Im Gegensatz zu kommerziellen KI-Tools verfügt es über keine Inhaltsmoderation. Es fügt keine Warnhinweise zu den Ergebnissen hinzu und verweigert keine Anfragen zur Erstellung schädlicher Inhalte.

Zu den Kernfunktionen gehören das Erstellen von Phishing-E-Mails, das Schreiben von Schadcode, das Erzeugen gefälschter Anmeldeseiten sowie die Produktion von Betrugsskripten, die auf spezifische Ziele zugeschnitten sind. Die Abonnementpreise beginnen bei etwa 200 US-Dollar pro Monat oder 1.700 US-Dollar jährlich (Netenrich, Juli 2023, netenrich.com). Ein ähnliches Tool, WormGPT, ist speziell auf Business Email Compromise (BEC) optimiert und zu niedrigeren Preisen erhältlich.

Tests von Trustwave dokumentierten einen deutlichen Unterschied zwischen FraudGPT und kommerziellen Modellen: Während ChatGPT unter bestimmten Bedingungen zwar Phishing-Inhalte produzieren kann, fügt es Warnungen hinzu und die Ergebnisse sind weniger überzeugend. FraudGPT hingegen erzeugt konzeptionsbedingt überzeugende Inhalte ohne Warnhinweise (Trustwave, 2023, trustwave.com).

Wie sich die Bedrohung seit 2023 entwickelt hat

Das ursprüngliche FraudGPT zeichnete sich vor allem durch das aus, was es nicht hatte: ethische Beschränkungen. Seitdem haben neue Tools diese Basis um weitere Funktionen ergänzt.

Aktuelle KI-gestützte Angriffe kombinieren verschiedene Techniken. Deepfakes und Stimmenklone ermöglichen es Angreifern, Führungskräfte oder vertrauenswürdige Kontakte in Echtzeit zu imitieren. Personalisierungs-Engines analysieren öffentlich verfügbare Daten, um Nachrichten individuell auf Personen zuzuschneiden. Die kanalübergreifende Zustellung bedeutet, dass ein Angriff als E-Mail beginnen, per SMS fortgesetzt und mit einem Telefonanruf abgeschlossen werden kann – alles koordiniert und automatisiert.

Das Ergebnis ist, dass Phishing-E-Mails nicht mehr an den Grammatik- und Rechtschreibfehlern scheitern, auf die Mitarbeiter geschult wurden. Identitätsdiebstahl-Angriffe sind visuell und verhaltensbezogen nicht mehr von legitimer Kommunikation zu unterscheiden. Der Angreifer benötigt kein technisches Fachwissen mehr – er braucht nur ein Abonnement und ein Ziel.

Warum dies ein menschliches Risikoproblem ist und kein technisches

FraudGPT und seine Nachfolger umgehen keine Firewalls und nutzen keine Software-Schwachstellen aus. Sie nutzen das menschliche Urteilsvermögen unter Bedingungen von Unsicherheit, Zeitdruck und fehlgeleitetem Vertrauen aus.

Der Verizon Data Breach Investigations Report 2024 ergab, dass 68 % der Sicherheitsverletzungen einen menschlichen Faktor beinhalteten (Verizon DBIR 2024, verizon.com). KI-gestützte Social-Engineering-Tools sind genau darauf ausgelegt, die Fehlerquote dieses menschlichen Faktors zu erhöhen. Bessere Phishing-E-Mails führen zu höheren Klickraten. Überzeugendere Imitationen führen zu mehr Überweisungen. Die technische Raffinesse des Angriffs dient letztlich der Ausnutzung des Menschen.

Das bedeutet, dass auch die Verteidigungsstrategie nicht rein technischer Natur sein kann. Das Blockieren bekannter schädlicher Domains hilft. Spam-Filter helfen. Aber ein Mitarbeiter, der die Verhaltensmuster eines Social-Engineering-Versuchs nicht erkennt, bleibt anfällig – unabhängig davon, welche Technologie vor ihm liegt.

Das neue Denken für Sicherheitsverantwortliche

Der Instinkt bei neuen Angriffswerkzeugen ist es, technische Kontrollen zu aktualisieren. Das ist notwendig, reicht hier aber nicht aus.

Tools der Klasse FraudGPT sind deshalb so erfolgreich, weil sie Glaubwürdigkeit vortäuschen. Die Verteidigung besteht nicht in besseren Filtern, sondern in Mitarbeitern, die Manipulationen erkennen, Anfragen über unabhängige Kanäle verifizieren und unter Druck entsprechend handeln können. Das ist eine verhaltensbezogene Fähigkeit, keine technische. Sie wird durch realistische Simulationen, kontinuierliche Verstärkung und die Messung tatsächlicher Verhaltensänderungen entwickelt, nicht durch Abschlussquoten.

Unternehmen, die dies als Problem der Compliance-Schulung behandeln, bleiben gefährdet. Die Frage ist nicht, ob Mitarbeiter ein Modul zum Thema Phishing-Awareness absolviert haben. Die Frage ist, ob sich ihr Verhalten ändert, wenn sie mit einem überzeugenden, personalisierten und KI-generierten Angriff konfrontiert werden.

Was das in der Praxis bedeutet

Daraus ergeben sich drei Prioritäten für Sicherheitsverantwortliche:

Erstens: Aktualisieren Sie Ihr Bedrohungsmodell. Wenn Ihre Phishing-Simulationen immer noch Nachrichten verwenden, die 2020 realistisch gewesen wären – allgemeine Absenderadressen, offensichtliche Grammatikfehler, plumpe Köder –, dann testen Sie nicht die tatsächliche Bedrohung. Simulationen müssen die Qualität der Angriffe widerspiegeln, denen Mitarbeiter tatsächlich ausgesetzt sind.

Zweitens: Messen Sie Verhalten, nicht Abschlussquoten. Die Teilnahme an Awareness-Schulungen ist eine Compliance-Kennzahl. Verhaltensbasierte Risikobewertung – also die Nachverfolgung, wie Einzelpersonen über verschiedene Kanäle hinweg und im Zeitverlauf auf realistische Simulationen reagieren – ist eine Sicherheitskennzahl. Das ist nicht dasselbe.

Drittens: Betrachten Sie das Verifizierungsverhalten als trainierbare Fähigkeit. Die zuverlässigste Verteidigung gegen KI-generiertes Identitätsdiebstahl ist die Gewohnheit der unabhängigen Überprüfung: Bestätigen Sie eine Anfrage über einen separaten Kanal, bevor Sie handeln. Dieses Verhalten kann gemessen, gestärkt und verbessert werden.

Fazit

FraudGPT ist drei Jahre alt. Die Tools, für die es steht, sind es nicht. Sie werden aktiv weiterentwickelt, sind preislich wettbewerbsfähig und für Angreifer ohne technischen Hintergrund zugänglich. Unternehmen, die darauf nur mit der Aktualisierung von Phishing-Vorlagen und der Wiederholung von Awareness-Schulungen reagieren, werden nur minimale Verbesserungen erzielen. Diejenigen, die eine messbare verhaltensbasierte Verteidigungsebene aufbauen, werden wesentlich besser aufgestellt sein.

Die Angriffsfläche ist hier der Mensch. Die Verteidigung muss darauf abgestimmt sein.

‍