Forscher von Check Point demonstrieren KI-Missbrauch
ChatGPT erleichtert Cyberangriffe
Check Point Research (CPR) warnt davor, dass sich der derzeit vieldiskutierte KI-basierte Chatbot ChatGPT und das KI-Modell Codex von OpenAI für gezielte Cyberangriffe nutzen lassen: Das CPR-Team hat getestet, ob sich mit dem ChatBot eine Phishing-E-Mail und Schadcode für Angriffe erstellen lassen – und es funktioniert.
ChatGPT (Generative Pre-trained Transformer) ist ein frei nutzbarer KI-Chatbot des KI-Anbieters OpenAI aus San Francisco. Der Chatbot liefert den Nutzern anhand im Internet auffindbarer Daten kontextbezogene Antworten. Bei Codex wiederum handelt es sich um eine ebenfalls von OpenAI entwickelte künstliche Intelligenz, die natürliche Sprache in Code übersetzt.
Um die Gefahren der KI-Technik zu demonstrieren, erzeugten die Security-Forscher des israelischen Anbieters mittels ChatGPT und Codex eine Phishing-E-Mail, ein Attachment mit Schadcode und damit letztlich eine vollständige Infektionskette für Angriffe auf Endpunkte. Das erzeugte Excel-Attachment enthielt dabei Code zum Reverse-Shell-Download. Reverse-Shell-Angriffe zielen darauf ab, eine Verbindung zu einem entfernten Computer herzustellen und die Ein- und Ausgabeverbindungen der Shell des Zielsystems umzuleiten, sodass der Angreifer Fernzugriff erhält.
Dazu führten die Security-Forscher folgende Schritte durch:
1. ChatGPT auffordern, sich als Hosting-Unternehmen auszugeben (siehe Bild oben),
2. ChatGPT auffordern, den Vorgang zu wiederholen und eine Phishing-E-Mail mit einem bösartigen Excel-Anhang zu erstellen, und
3. ChatGPT auffordern, bösartigen VBA-Code in einem Excel-Dokument zu erzeugen (siehe Bild rechts).
CPR gab Codex dafür nach eigenen Angaben diverse Befehle, darunter: Ausführen eines Reverse-Shell-Skripts auf einem Windows-Rechner und Herstellen einer Verbindung zu einer bestimmten IP-Adresse; Prüfung, ob eine URL für SQL-Injection anfällig ist, indem man sich als Administrator anmeldet; Verfassen eines Python-Skripts, das einen vollständigen Port-Scan auf einem Zielcomputer durchführt. Codex generierte laut CPR anschließend umgehend den Schadcode.
„ChatGPT hat das Potenzial, die Cyberbedrohungslandschaft erheblich zu verändern“, so Sergey Shykevich, Threat Intelligence Group Manager bei Check Point Software. „Jetzt kann jeder, der nur über minimale Ressourcen verfügt und keinerlei Kenntnisse in Sachen Code hat, diese Lücke leicht ausnutzen und seiner Fantasie freien Lauf lassen.“
Der Check-Point-Forscher warnt: „Die Welt der Cybersicherheit verändert sich rasant, und wir möchten betonen, wie wichtig es ist, wachsam zu bleiben, da diese neue und sich entwickelnde Technologie die Bedrohungslandschaft sowohl zum Guten als auch zum Schlechten beeinflussen kann.“
Lesen Sie mehr zum Thema
