Knelpunten bij AI-Projecten binnen de Overheid

In de afgelopen jaren zijn binnen de Rijksoverheid diverse AI-projecten gestart, maar in de praktijk blijkt dat veel initiatieven moeilijk van de grond komen. Verschillende knelpunten belemmeren de voortgang en opschaling van AI-toepassingen. Het Innovatieteam van SSC-ICT heeft tijdens het onderzoeksproject Learning Lion, verschillende obstakels geïdentificeerd op het gebied van infrastructuur, wetgeving en documentatie. Deze uitdagingen zijn niet alleen van invloed op Learning Lion, maar vormen ook bredere belemmeringen voor AI-ontwikkelingen buiten SSC-ICT. Hieronder volgt een overzicht van de knelpunten en mogelijke aanbevelingen om deze te overkomen.

1. Infrastructuur

Voor AI-projecten binnen de Rijksoverheid is het ontbreken van een toegankelijke en veilige infrastructuur een fundamenteel probleem. In het geval van Learning Lion werd een krachtige GPU geleased om Proof of Concept (PoC) tests uit te voeren, maar er waren meerdere obstakels rondom netwerktoegang en beveiligingsprocedures. De leased server kon niet direct in een productienetwerk worden opgenomen en was niet toegankelijk voor internetverbinding, wat een veelvoorkomend knelpunt is binnen publieke AI-projecten. Zolang er geen stabiele en schaalbare infrastructuur met voldoende rekenkracht beschikbaar is, kunnen opschalings-experimenten niet effectief worden uitgevoerd, en blijven PoC’s afhankelijk van externe cloud-servers. Dit belemmert de rijksbrede ontwikkeling van AI-toepassingen en creëert afhankelijkheden die potentieel de innovatie binnen de rijksoverheid afremt.

2. Wetgeving

Hoewel de Europese AI Act momenteel grotendeels al van kracht is, ontbreekt op dit moment nog een duidelijke implementatie en handhaving van de wet- en regelgeving rond AI in de praktijk. Wat betreft grote taalmodellen (LLM’s) is het momenteel onduidelijk of tijdens de trainingsfase auteursrechtwetgeving wel of niet geschonden is. Er bestaan namelijk geen LLM’s waarvan aangetoond kan worden dat er géén auteursrechten zijn geschonden, maar evenmin dat deze wetten wél zijn geschonden. Dit plaatst overheidsinstellingen in een juridisch grijs gebied waarin voorzichtigheid is geboden, en er onduidelijkheid heerst over wat wel en niet is toegestaan. Initiatieven zoals het GPTNL-project door TNO, NFI en SURF ontwikkelen op dit moment een model dat wel volledig en aantoonbaar compliant zou zijn, maar er bestaat geen garantie dat de prestaties van dit model kunnen concurreren met commercieel beschikbare modellen. In de tussentijd kunnen bedrijven en marktpartijen wel blijven innoveren met LLM’s zonder deze belemmeringen, aangezien er geen sprake is van illegale activiteiten. Hierdoor riskeert de overheid een groeiende achterstand in AI voorzieningen, wat kan resulteren in een toekomstige afhankelijkheid van marktpartijen. Dit benadrukt de noodzaak voor verdere juridische evaluatie en een duidelijke beleidslijn voor verantwoord gebruik van AI binnen publieke sectoren.

3. Documentatie

Het gebrek aan documentatie van eerdere AI-projecten leidt tot inefficiënties en dubbel werk, zowel binnen SSC-ICT als tussen verschillende ministeries. Gedurende het Learning Lion-project werd duidelijk dat andere organisaties al soortgelijke projecten hadden opgezet, maar dat eerdere experimenten zelden goed gedocumenteerd zijn. Vooral mislukte experimenten worden nauwelijks vastgelegd, terwijl juist deze waardevolle lessen kunnen bevatten. Voor alle publieke instellingen die werken met AI zou een centrale, rijksbrede kennisbank voor documentatie van experimenten en resultaten zeer waardevol zijn. Zolang een dergelijke kennisbank nog ontbreekt, kan SSC-ICT wel actief netwerken en samenwerken met andere overheidsorganisaties om opgedane kennis te delen en het onderlinge samenwerken te stimuleren.

Oplossingen

Voor SSC-ICT en de bredere Rijksoverheid zijn de bovenstaande knelpunten concrete aandachtspunten voor de toekomst. Om de ontwikkeling van AI-projecten te stimuleren en efficiënt te laten verlopen, werken wij aan de volgende oplossingen.

Infrastructuurinvesteringen:

SSC-ICT wordt de beheerder van veilige en toegankelijke GPU-servers om de benodigde rekenkracht voor AI-projecten beschikbaar te stellen en verdere afhankelijkheid van cloud-oplossingen te verminderen.

Juridisch onderzoek: 

Juristen met specialisaties op het gebied van AI lijken schaars, wat niet vreemd is gezien de leeftijd van de wetgeving op dit gebied. Vanaf 2025 komt er een AI team binnen SSC-ICT die zich bezig gaat houden met het beheer en onderhoud, en dit team zal ondersteund moeten worden met juridische kennis. Om dit te bereiken zou een Rijksbrede werkgroep opgericht kunnen worden voor juridisch advies over het gebruik van LLM’s en auteursrechtelijke implicaties.

Centrale documentatie en kennisdeling: 

In het kader van transparantie willen wij zo breed mogelijk documenteren over de voortgang, maar ook de knelpunten. Deze website dient dat door specifiek voor Learning Lion, maar in de toekomst zien wij een grote meerwaarde in een centrale kennisbank waarin projecten en experimenten Rijksbreed worden gedocumenteerd, zodat kennis beter gedeeld kan worden. Totdat dit gerealiseerd is, is het belangrijk dat SSC-ICT actief samenwerkt met andere organisaties om ervaringen uit te wisselen en deze intern te documenteren. Door deze knelpunten en oplossingen aan te pakken, kan SSC-ICT samen met andere rijksinstellingen een solide basis leggen voor verdere ontwikkelingen op het gebied van AI.