Hoogleraar wil inzicht in regulering AI: "We weten nu niet welke data worden gebruikt"

Regulering van kunstmatige intelligentie is goed, maar er moet ook openheid komen in hoe dat precies gebeurt. Dat zegt Eric Postma, hoogleraar Artificial Intelligence (AI) aan de Tilburg University, over het AI-wetsvoorstel dat het Europees Parlement heeft goedgekeurd. Daarin staat dat er regels komen voor het ontwerpen van AI, gebruik ervan en verkoop van AI-systemen.

"We weten nu niet op welke data generatieve systemen zijn getraind en wat de kwaliteit van de data is", zegt Postma. Daarom is regulering goed, zegt hij. "Bestaande systemen zoals ChatGPT worden op het hele internet getraind, daar zit een heleboel troep tussen." Postma hoopt dat het reguleren zelf ook "opengegooid wordt", "zodat iedereen toegang heeft tot de data en weet hoe die data ontwikkeld is".

Het parlement stemde in met een verbod op gezichtsherkenning met slimme camera's in de publieke ruimte en bindende regels voor grote chatbotmodellen zoals ChatGPT. "Nu wordt er nog ongebreideld gebruik van gezichtsherkenning gemaakt. Dat kan leiden tot misbruik", zegt Postma.

Voor het Nederlandse bedrijfsleven zou de wetgeving ook goed kunnen uitpakken. Volgens Postma is er al voorgesorteerd op een zogeheten sandbox (een zandbak), een afgesloten, beschermde omgeving waarin vrij geëxperimenteerd kan worden en geen er problemen kunnen komen met privacy en datalekken. "Dat is voor wetenschappelijk onderzoek heel belangrijk, zodat innovatie kan doorgaan." Voor bedrijven is zo'n sandbox eveneens goed. "Dan hebben bedrijven ook de mogelijkheid nieuwe technologie te ontwikkelen. Bedrijven werken namelijk veel samen met universiteiten voor onderzoek en innovatie."

De wet is nu goedgekeurd door het Europees Parlement. Nu moet het parlement nog om de tafel met de Europese Commissie en de Raad van de EU, dus alle EU-ministers. De afspraken die hier gemaakt worden, zijn bindend voor nationale regeringen.

Daarna moet de wet nog in het Nederlandse parlement worden besproken. Postma ziet als grootste obstakel dat politici en beleidsmakers niet genoeg weten over AI. "Er is gelukkig interesse vanuit de Nederlandse politiek om zich te informeren. Daar werken mijn collega's en ik ook hard aan mee, ik heb net een masterclass AI gegeven aan Kamerleden. Ik denk ook dat Kamerleden zich regelmatig moeten laten bijscholen, omdat de ontwikkelingen heel snel gaan. Zodat ze weten wat waar is en wat een hype."