Andere Lopende Onderzoeken

Bij het innovatieteam zijn we naast de use cases, ook bezig met andere onderzoeken op het gebied van generatieve AI. Hieronder vind je hier een overzicht van.

AI en Cybersecurity: Het Potentieel van LLM’s voor Automated Pentesting

De snelle opkomst van LLM's (Large Language Models), heeft de manier waarop we omgaan met natuurlijke taalverwerking en geautomatiseerde systemen fundamenteel veranderd. Hoewel deze modellen voornamelijk worden toegepast op het gebied van tekstgeneratie en ondersteuning in alledaagse taken, worden hun mogelijkheden in toenemende mate verkend binnen gespecialiseerde domeinen. Eén van deze domeinen is cybersecurity, waar penetratietesten(pentesting) mogelijk baat lijken te hebben bij de inzet van AI technologie.

Pentesting is een essentiële praktijk binnen IT-beveiliging, gericht op het identificeren van kwetsbaarheden in systemen door het uitvoeren van gesimuleerde cyberaanvallen. Het stelt organisaties in staat om hun zwakke plekken te identificeren en te verhelpen voordat kwaadwillende hiervan misbruik kunnen maken. Traditioneel wordt pentesting uitgevoerd door pentesters/ethische hackers, die hierbij gebruikmaken van een combinatie van handmatige en semi-geautomatiseerde tools. Deze aanpak kan echter tijdrovend zijn, wat leidt tot een groeiende vraag naar efficiëntere oplossingen.

De inzet van LLM’s biedt mogelijk nieuwe kansen om pentest processen te automatiseren en te verbeteren, maar roept tegelijkertijd vragen op over hun praktische toepasbaarheid, nauwkeurigheid en beperkingen. Het is belangrijk om te onderzoeken of deze AI gestuurde tools echt kunnen concurreren met de nauwkeurigheid en het inzicht van menselijke pentesters bij het detecteren en benutten van complexe kwetsbaarheden of dat er nog beperkingen bestaan die hun praktische toepasbaarheid beperken. 

Probleemstelling

Hoewel LLM's mogelijk potentieel hebben voor gebruik binnen pentesting, blijft het onduidelijk in hoeverre deze modellen daadwerkelijk effectief en efficiënt zijn in de uitvoering van continue penetratietests. Kunnen LLM's pentesters echt ondersteunen of zelfs vervangen in specifieke taken, zoals het identificeren van kwetsbaarheden en het geven van adviezen voor herstel? Dit onderzoek richt zich op het verkennen van de mogelijkheden en beperkingen van LLM's binnen pentesting.