Hoe GhostGPT Cybercriminelen macht geeft met ongecensureerde AI

Cybercriminelen maken gebruik van GhostGPT, een ongecensureerde AI-chatbot, voor het maken van malware, BEC-fraude en meer. Leer over de risico’s en hoe AI hiertegen vecht.

Auteur: Abnormal Security
Datum: 23 januari 2025

De opkomst van ongecensureerde AI voor cybercriminaliteit

Kunstmatige intelligentie (AI) heeft de manier waarop we dagelijkse taken uitvoeren drastisch veranderd. Maar cybercriminelen gebruiken deze technologie nu ook voor illegale activiteiten. In 2023 kwam WormGPT in het nieuws als een ongecensureerde chatbot, speciaal ontworpen voor kwaadaardige doeleinden. Kort daarna verschenen andere varianten, zoals WolfGPT en EscapeGPT.

In tegenstelling tot traditionele AI-modellen, die zijn ontworpen met strikte richtlijnen voor veilig en verantwoord gebruik, werken ongecensureerde AI-chatbots zonder dergelijke beperkingen. Dit roept serieuze zorgen op over hun mogelijke misbruik. Onderzoekers van Abnormal Security hebben recentelijk GhostGPT ontdekt, een nieuwe ongecensureerde chatbot die de grenzen van ethisch AI-gebruik verder oprekt.

In deze blog bespreken we GhostGPT, zijn mogelijkheden en de gevolgen van deze nieuwe dreiging.

Wat is GhostGPT?

Traditionele AI-systemen zoals ChatGPT zijn uitgerust met ingebouwde veiligheidsmechanismen, zoals contentfilters en ethische richtlijnen, om misbruik te voorkomen. GhostGPT heeft deze beperkingen niet.

GhostGPT is specifiek ontworpen voor cybercriminelen. Waarschijnlijk gebruikt het een omweg om toegang te krijgen tot een gehackte versie van ChatGPT of een open-source AI-model, waardoor alle veiligheidsmaatregelen worden omzeild. Hierdoor kan het onbeperkt antwoord geven op vragen die traditionele AI-modellen zouden blokkeren.

The official advertisement graphic for GhostGPT

Volgens promotioneel materiaal biedt GhostGPT de volgende functies:

• • Snelle verwerking: Aanvallers kunnen snel kwaadaardige content genereren en informatie verzamelen.
  • Geen logbestanden: Er wordt beweerd dat gebruikersactiviteiten niet worden bijgehouden, wat aantrekkelijk is voor criminelen die anoniem willen blijven.
  • Eenvoudige toegang: GhostGPT wordt verkocht via Telegram, waardoor gebruikers direct aan de slag kunnen zonder ingewikkelde jailbreak-methoden of downloads.

Hoe cybercriminelen GhostGPT gebruiken

GhostGPT wordt actief gepromoot voor diverse vormen van cybercriminaliteit:

• • Malwarecreatie: Het kan basiscode genereren voor verschillende soorten malware, kwetsbaarheden identificeren en polymorfe malware ontwikkelen die detectie ontwijkt.
  • Phishing en BEC-fraude: Cybercriminelen kunnen overtuigende phishing-e-mails maken en sjablonen genereren voor Business Email Compromise (BEC) aanvallen. Dankzij geavanceerde taalverwerking kunnen deze berichten zeer geloofwaardig overkomen en moeilijk te detecteren zijn.
  • Social engineering: GhostGPT maakt het makkelijker om overtuigende fraude en scams op te zetten, zonder technische kennis.

Onderzoekers van Abnormal Security vroegen GhostGPT om een phishing-e-mail te genereren die zich voordeed als een Docusign-verzoek. De chatbot leverde direct een overtuigend sjabloon, waarmee werd aangetoond hoe effectief het kan zijn in cyberaanvallen.

De Gevaren van GhostGPT

Ongecensureerde AI-chatbots zoals GhostGPT veranderen de manier waarop cybercriminelen opereren. Ze maken cyberaanvallen eenvoudiger, sneller en toegankelijker voor zowel beginners als ervaren dreigingsactoren.

• • Toegankelijkheid via Telegram: GhostGPT is eenvoudig te verkrijgen via Telegram, een platform dat bekendstaat om zijn privacyfuncties.
  • Geen technische kennis nodig: Zelfs onervaren aanvallers kunnen zonder moeite gebruikmaken van de tool.
  • Schaalbaarheid van cyberaanvallen: Ervaren criminelen kunnen hun operaties uitbreiden en geavanceerdere aanvallen uitvoeren met minimale inspanning.

De populariteit van GhostGPT, met duizenden views op online forums, benadrukt de groeiende interesse in AI-gedreven cybercriminaliteit.

AI tegen AI: Hoe we ons kunnen verdedigen

Aanvallers gebruiken nu AI-tools zoals GhostGPT om overtuigende phishingberichten te maken die traditionele beveiligingsfilters kunnen omzeilen. Daarom zijn AI-gestuurde beveiligingsoplossingen essentieel om deze bedreigingen te detecteren en blokkeren.

Het Human Behavior AI-platform van Abnormal Security analyseert gedragsindicatoren op grote schaal en identificeert verdachte activiteiten voordat ze schade kunnen aanrichten. Dit proactieve verdedigingsmechanisme is cruciaal in een tijd waarin aanvallen steeds geavanceerder worden.

Wil je zien hoe Abnormal AI bescherming biedt tegen geavanceerde cyberaanvallen?

Plan een demo in en ontdek de mogelijkheden.

plan demo in

Over Abnormal Security
Abnormal Security is het leidende AI-gedreven platform voor menselijk gedragbeveiliging, dat machine learning gebruikt om geavanceerde inkomende aanvallen te stoppen en gecompromitteerde accounts te detecteren via e-mail en verbonden applicaties. De anomaliedetectiemotor maakt gebruik van identiteit en context om menselijk gedrag te begrijpen en het risico van elke cloud-e-mailgebeurtenis te analyseren—zodat geavanceerde, sociaal gemanipuleerde aanvallen die gericht zijn op menselijke kwetsbaarheden gedetecteerd en gestopt kunnen worden.

Je kunt Abnormal binnen enkele minuten implementeren met een API-integratie voor Microsoft 365 of Google Workspace en direct de volledige waarde van het platform ervaren. Extra bescherming is beschikbaar voor Slack, Workday, Salesforce, ServiceNow, Zoom, Amazon Web Services en vele andere cloudapplicaties.

Meer informatie – www.abnormalsecurity.com

Bron: GhostGPT: Uncensored AI Chatbot 

Wilt u meer informatie over Abnormal? Neem contact op met het sales team van Exclusive Networks op +31 (0)499 462121 of stuur een mail naar info@exclusive-networks.nl