Nederland, een wereldwijde AI-kennishub

Kickstart AI werd op 10 oktober 2019 aangekondigd om de ontwikkeling van Nederlands AI-talent en -technologie te stimuleren door samenwerking tussen bedrijven en universiteiten. Het doel is de AI-community te versterken en van Nederland een wereldwijd relevante AI-kennishub te maken. Kickstart AI opereert binnen de context van nationale initiatieven om onze AI-capaciteiten te laten groeien. Maar hoe kan Nederland een wereldwijde AI-leider worden als technische superioriteit geen optie lijkt?

Een leider in de ethiek van hightech

Nederland is sinds de jaren zestig een wereldwijde leider in de ethische toepassing van hightechnologie in de samenleving (artikel van TU Delft). Het boek ‘The Social Construction of Technical Systems’ (1987, MIT Press) inspireerde een generatie onderzoekers tot kritische reflectie op technologie en samenleving. Deze invloed is terug te zien in de activiteiten van het Rathenau Instituut, dat doorlopend input levert aan de Nederlandse overheid en Brussel informeert over digitale samenleving en democratie, robotica, genetische manipulatie en meer. Aangevuld met het programma voor maatschappelijk verantwoord innoveren van de NWO, financier van Nederlands onderzoek.

TU Delft-hoogleraren Jeroen den Hoven en Peter-Paul Verbeek denken dat er een beschermingsverordening, zoals de Europese AVG, bedacht kan worden voor AI en autonome systemen. Voor Nederland zou het voortrekken van dit initiatief investering en coördinatie vereisen.

AI-beschermingsprincipes

Laten we eens kijken naar mogelijke AI-beschermingsprincipes om een idee te krijgen van de omvang van de uitdaging. Eerst enkele definities. Met “AI” bedoel ik vooral de toepassing van Machine Learning (ML), een subset van Artificial Intelligence. Een “data-gedreven oplossing” is een besluitvormingssysteem op basis van gesloten en open data. In de praktijk kunnen data-gedreven oplossingen niet-ML-algoritmen bevatten.

1 Doelbinding

AI-oplossingen worden gedreven door de zakelijke vraag die ze moeten beantwoorden. Zulke vragen moeten beperkt zijn in reikwijdte om openbaar getoetst te kunnen worden. Vage formuleringen zijn betekenisloos, zelfs als ze openbaar zijn.

2 Transparantie

De gemeente Amsterdam

De gemeente Amsterdam definieert drie soorten transparantie bij het inkopen of ontwikkelen van AI-modellen.

• Technische transparantie
• Procedurele transparantie
• Het verklaren van AI-uitkomsten

Technische transparantie omvat broncode, modelgewichten en hyperparameters. De gemeente begrijpt dat dit een bedrijfsgeheim kan zijn, maar vereist wel dat zulke details onthuld worden tijdens audits of juridische procedures. Procedurele transparantie beschrijft in algemene termen hoe een AI-model is gemaakt, welke data is gebruikt om het te trainen, en welke andere aannames zijn gedaan. Een openbaar online register voor (AI-)modellen die binnen de gemeente worden gebruikt is in bèta en beschrijft zulke procedurele informatie. Tot slot willen stakeholders begrijpen waarom AI-oplossingen bepaalde keuzes maken voordat ze in productie worden genomen, en willen ze AI-uitkomsten verklaren van de modellen aan klanten terwijl ze in productie zijn.

Verklaarbare AI

De AVG bevat een ‘recht op uitleg’ waarmee een betrokkene een verklaring van een geautomatiseerd besluit kan verkrijgen. Het verklaren van AI-uitkomsten is een populair studieveld dat steeds relevanter zal worden naarmate onze nabijheid tot AI-technologie toeneemt.

AI-gebruiksverzoeken

In de toekomst zouden klanten AI-gebruiksverzoeken kunnen indienen die procedurele transparantie en verklaarbare AI-uitkomsten kunnen omvatten. Het veld van verklaarbare AI genereert veel methoden om black-box-modellen te ondervragen over specifieke omstandigheden of besluiten. Deze antwoorden zouden geautomatiseerd kunnen worden voor grote organisaties, die veel van zulke verzoeken verwachten.

3 Eerlijkheid

Eerlijke AI-oplossingen beginnen met een maatschappelijke dialoog over wat redelijkerwijs van AI-oplossingen verwacht kan worden. Hoe algemeen toepasbaar ook, machine learning-algoritmen sturen ons in hoe we ze toepassen en erover denken. Dit wordt gecompliceerd door het ontwerpprincipe om het gebruik van een AI-oplossing onmerkbaar te maken voor de betrokkene. Als een burger niet weet dat zijn handelingen door AI worden beantwoord, hoe zou hij dan voor eerlijke AI kunnen pleiten?

Catch 22

Toekomstige ‘AI-gebruiksverzoeken’ zouden door grote bedrijven geautomatiseerd kunnen worden, zoals bij Data Subject Access Requests (AVG). Sommige van de huidige technieken voor verklaarbare AI omvatten het trainen van een aanvullend AI-model om de uitkomsten van andere AI-modellen te verklaren. Dit zou tot een paradox kunnen leiden: om onze geautomatiseerde besluiten aan klanten te verklaren, zouden we geautomatiseerde besluiten moeten gebruiken. Dit suggereert dat er genoeg ruimte voor innovatie is waarin Nederland een rol kan spelen.

Conclusie

Nederland zou een wereldwijde AI-kennishub kunnen worden door zijn traditie als leider in de maatschappelijke toepassingen van hightech voort te zetten. Het toepassen van principes van databescherming op AI levert een interessant studieveld op, met mogelijkheden tot samenwerking tussen universiteiten en bedrijven.