ChatGPT produceert schadelijke e-mails en code

Onderzoekers van Check Point Research (CPR) waarschuwen dat hackers OpenAI’s ChatGPT en Codex kunnen gebruiken om gerichte en efficiënte cyberaanvallen uit te voeren. Ter demonstratie gebruikte CPR beide tools om kwaadaardige e-mails, code en een volledige infectieketen te produceren die zich op computers konden richten. CPR publiceert deze voorbeelden om het belang van waakzaamheid te onderstrepen, aangezien de ontwikkeling van AI-technologieën, zoals ChatGPT, het landschap van cyberdreigingen aanzienlijk kan veranderen.

De onderzoekers vroegen ChatGPT zich voor te doen als een hostingbedrijf en een phishing-e-mail te schrijven. Ook konden ze met behulp van ChatGPT een Excel-bijlage met kwaadaardige VBA-code maken waarmee reverse shells kunnen worden gedownload. Omgekeerde shell-aanvallen hebben tot doel verbinding te maken met een externe computer en de in- en uitvoerverbindingen van de shell van het doelsysteem om te leiden, zodat de aanvaller er op afstand toegang toe krijgt.

Codex
CPR kon ook kwaadaardige code genereren met behulp van Codex. De onderzoekers stelden Codex onder andere de volgende vragen:
● Voer een reverse shell-script uit op een Windows-machine en maak verbinding met een specifiek IP-adres
● Controleer of de URL kwetsbaar is voor SQL-injectie door in te loggen als admin
● Schrijf een python-script dat een volledige poortscan uitvoert op een doelcomputer

Vervolgens werd schadelijke code gegenereerd door Codex.

“AI-technologieën zoals ChatGPT hebben het potentieel om het cyberdreigingslandschap aanzienlijk te veranderen. We hebben laten zien hoe gemakkelijk het is om de combinatie van ChatGPT en Codex te gebruiken om kwaadaardige e-mails en code te maken”, zegt Zahier Madhar, Security Engineer Expert bij Check Point Software.
“De wereld van cyberbeveiliging verandert snel en we willen benadrukken hoe belangrijk het is om waakzaam te blijven naarmate ChatGPT en Codex volwassener worden. Deze nieuwe en zich ontwikkelende technologie kan het dreigingslandschap zowel ten goede als ten kwade beïnvloeden.”