AI Act: Het Kruispunt van Recht, Technologie en Ethiek

Data School geeft vijfdelige cursus aan de Gemeente Utrecht 

Auteurs: Marijn van Raaij, Hajo Bijleveld 

Sommigen beschouwen AI onterecht als neutraal en objectief, terwijl deze technologie in werkelijkheid altijd voor een bepaald doel en met een politieke motivatie worden ontwikkeld en ingezet. Data en algoritmen in AI-systemen dragen dus altijd een onderliggende (politieke) waarde met zich mee. Professionals in de publieke sector krijgen hierdoor in toenemende mate te maken met complexe vraagstukken rond kunstmatige intelligentie (AI) en data. Het inzetten van AI binnen de gemeente kan bijdragen aan een effectiever gemeentelijk beleid. Denk bijvoorbeeld aan het bestrijden van criminaliteit, het schoonhouden van de straten en het onderhouden van de openbare orde. Hier zit echter ook een keerzijde aan; het inzetten van zulke technologie gaat gepaard met juridische en ethische uitdagingen, bijvoorbeeld op het gebied van privacy, vrijheid of veiligheid.  

Op Europees niveau is de nieuwe AI-verordening van kracht geworden. Deze verplicht organisaties om voldoende kennis in huis te hebben over de werking en risico’s van AI-systemen. De toegenomen impact van deze systemen op burgers vraagt om professionele bijscholing op de intersectie van recht, ethiek en technologie. Naar aanleiding hiervan organiseerde de Data School (Universiteit Utrecht) een vijfdaagse cursus voor de gemeente Utrecht. Deze cursus ondersteunt professionals van verschillende afdelingen en functies in het begrijpen en handelen binnen deze veranderende context. Lezingen van experts werden afgewisseld met interactieve workshops, waarin deelnemers gezamenlijk werkten aan actuele casussen uit de praktijk en actief kennis met elkaar deelden. 

Snijvlak van recht, ethiek en technologie 

Tijdens de vijf cursusdagen stonden verscheidene thema’s centraal met betrekking tot de disciplines recht, ethiek en technologie. AI-advocaat Joost Gerritsen bood met zijn lezing inzicht in de relevante wetgeving rond AI met een dieper begrip voor de Europese AI Act als gevolg. Hieruit blijkt dat ‘hoog-risico AI’ systemen een FRIA (Fundamental Rights Impact Assessment) moeten uitvoeren, waarvan het IAMA een voorbeeld is. Daarnaast kwamen best practices aan bod wat betreft documentatie en verantwoording. 

Tijdens de lezing van Maranke Wieringa, ethisch en juridisch specialist en adviseur datagedreven werk bij Parell, werd duidelijk hoe belangrijk het is om bij digitalisering rekening te houden met de menselijke maat. Technologische systemen worden vaak ontworpen op basis van standaarden, waardoor minderheidsgroepen (bijvoorbeeld mindervaliden) onbedoeld kunnen worden uitgesloten. Maranke onderstreepte dat goed beleid niet alleen technisch en juridisch kloppend moet zijn, maar ook getuigt van inlevingsvermogen. Verschillen in leefomstandigheden moeten worden meegenomen in digitale systemen om tot rechtvaardige en inclusieve uitkomsten en oplossingen te komen.  

Scanauto’s als praktijkcasus

Een van de vraagstukken waar de deelnemers tijdens een workshop hun opgedane kennis konden testen ging over scanauto’s. De gemeente kan scanauto’s inzetten om parkeerovertredingen vast te leggen door nummerborden van geparkeerde auto’s te controleren. Algoritmes classificeren de vastgelegde informatie, zodat er effectief boetes kunnen worden toegeschreven aan degene die zich niet houdt aan de parkeerregels. Dit bevordert het naleven van verkeers- en parkeerregels en de verkeersveiligheid en levert de gemeente minder kosten opleveren doordat er minder boa’s hoeven worden ingezet.  

Uit de sessies bleek wel dat er ook een keerzijde zit aan deze inzet van algoritmen en data. Met het gebruik van camera’s in de publieke ruimte komen namelijk ethische vraagstukken naar boven; Wat legt deze camera allemaal vast? Zijn dit de auto’s? Kentekens? Mensen in de auto’s? Mensen op straat? Wat gebeurt er precies met de verzamelde data voor dit project? En hoe zorg je ervoor dat (groepen) mensen niet onterecht worden benadeeld door de uitkomsten van dit project? Wat gebeurt er met de menselijke maat bij marginale gevallen als gevolg van generalisering? Aan de hand van de juiste vragen kwamen data-ethische vraagstukken aan het licht en werden de deelnemers gestimuleerd en begeleid om dit project op een verantwoorde manier in te richten.  

Kennisintegratie en vooruitzichten

Op de afsluitende cursusdag blikten we samen terug op de inzichten en leerervaringen van het traject. Deelnemers hebben hun kennis over juridische, technologische en ethische aspecten van AI vergroot en hun perspectief verbreed. Hiervoor werden zij in het zonnetje gezet en ontvingen zij van ons een certificaat van deelname. Als afsluiting kregen drie deelnemers het podium om te vertellen hoe zij de opgedane kennis concreet gaan toepassen in hun werk. Deze reflecties leidden tot waardevolle gesprekken en wederzijdse inspiratie tussen professionals. Zoals Martin Jansen (innovatieadviseur bij Gemeente Utrecht) het mooi verwoordde: “Dit is het beste programma over AI-geletterdheid wat er op dit moment beschikbaar is in Nederland.”  

Ondertussen staat een nieuwe groep deelnemers van de Gemeente Utrecht klaar om van start te gaan met dit cursustraject. De eerste bijeenkomst hiervan vindt in mei plaats. Zo wordt er verder gebouwd aan een netwerk van professionals die AI met kennis en zorg kunnen inzetten voor een rechtvaardige en toekomstgerichte overheid.