“Ik verloor de controle, het ging zo snel.” Hoogleraar Informatica en Kunstmatige Intelligentie Gerhard Weiss lacht als hij vertelt waarom zijn interview met Studio Europa Maastricht werd uitgesteld. De combinatie van een mountainbike, een steil pad en een bij in zijn helm betekende dat hij een hele snelle beslissing moest maken: van de helling naar beneden kelderen of tot abrupte stilstand komen tegen de dichtstbijzijnde boom. Hij koos de boom en is nog aan het herstellen van drie gebroken ribben. Weiss, optimistisch: “Het had erger kunnen zijn”. We spreken hem over de langverwachte Europese regels voor het gebruik van kunstmatige intelligentie. “Dit gaat wereldwijd grote impact hebben”.
Zoals Weiss op zijn fiets in een fractie van een seconde een keuze moest maken en een handeling moest uitvoeren, zo doen slimme technologieën dat ook. Een bekend voorbeeld is de zelfrijdende auto. Maar kunstmatige intelligentie (ook wel ‘AI’, artificial intelligence) heeft ook z’n weerslag op intieme aspecten van het leven, zoals liefde en familie. In de bekende Netflix-serie Black Mirror hangen de sociaaleconomische kansen van personages af van een sociale score die anderen geven, volgen personages de gezondheid en emoties van hun kinderen via een tablet en praten ze met AI-versies van overleden geliefden. De serie past in een lange traditie van popcultuur die kunstmatige intelligentie ofwel presenteert als dystopie, of juist als oplossing voor grote problemen.
“Het populaire beeld van een superkrachtige, Terminator-achtige AI staat ver van de realiteit”
Hoe verhoudt AI uit de films en series zich tot de realiteit?
Weiss glimlacht. “Wij mensen houden van oplossingen, maar AI is geen wondermiddel. Het is geen oplossing voor alle grote problemen waarmee de mensheid wordt geconfronteerd, zoals klimaatverandering. Maar het is ook niet de ergste gebeurtenis in de geschiedenis van onze beschaving of het einde van de mensheid, zoals Stephen Hawking enkele jaren geleden zei. Het is niet de grootste existentiële bedreiging van de mensheid, zoals Elon Musk ooit beweerde. Er bestaat een populair beeld van een superkrachtige, Terminator-achtige AI, maar dat staat heel ver van de realiteit. Kunstmatige intelligentie is nog ver verwijderd van het vervangen van de mens als de dominante levensvorm op aarde.”
Wat is AI dan wél?
“Het is simpelweg een van de belangrijkste technologieën van onze eeuw, die een enorme maatschappelijke en economische impact heeft. Het kan helpen om ziekten te behandelen, het onderwijs te verbeteren, de industriële productiviteit te verhogen, en het verandert de arbeidsmarkt en de economie.”
Afgelopen april publiceerde de Europese Commissie haar langverwachte voorstel om risicovol gebruik van AI-technologieën te reguleren. Wat vindt u ervan?
“Ik ben er blij mee, want er zijn veel AI-toepassingen die ernstige ethische en juridische problemen oproepen en regulering vereisen. Dat geldt met name voor AI-toepassingen die enorme hoeveelheden privé- en persoonlijke gegevens verwerken en die vooroordelen over bijvoorbeeld afkomst en gender veroorzaken of versterken. Deze technologieën kunnen grondrechten schenden. Daarom ben ik blij met het voorstel, ook al is het niet perfect en heeft het een aantal open eindjes.
Welke onvolkomenheden ziet u?
“De regels laten bedrijven vaak met rust. Daar is verbetering mogelijk en noodzakelijk. Zo wordt het gebruik van sociale scoresystemen verboden, maar alleen voor overheidsinstanties. Bedrijven kunnen ze wel gebruiken. Die uitzondering is problematisch en moet worden verwijderd. Ook kunnen biometrische identificatiesystemen op afstand – technologieën die de gezichten van mensen scannen en vergelijken met een database – niet worden gebruikt door de politie in openbare ruimtes, maar wel door andere organisaties. Bovendien kwalificeert het voorstel technologieën voor predictive policing, zoals algoritmen die recidive voorspellen, als risicovol, maar verbiedt het ze niet volledig. Dat is een zeer gevoelige kwestie en het Europees Parlement moet het verbieden van dit soort technologie overwegen. Ten slotte gaat de Commissie niet expliciet in op dodelijke autonome wapens, zoals drones die zelf hun doelwitten uitkiezen. Dat zijn enkele grote tekortkomingen. Het is nu aan het Europees Parlement en de Raad om die te corrigeren.”
“Made in Europe” heeft de potentie om een zeer waardevol kwaliteitslabel te worden voor AI”
In de technologiesector wordt juist gevreesd dat de regels innovatie in de weg staan en een negatief effect hebben op het concurrentievermogen van de EU.
“Ik denk dat het tegenovergestelde waar is. Een aspect van concurrentievermogen dat vaak over het hoofd wordt gezien, is dat in de Verenigde Staten soortgelijke ontwikkelingen plaatsvinden. Het kan zomaar zo zijn dat in de nabije toekomst competitie ontstaat voor de meest betrouwbare, transparante, verantwoordelijke AI. Als de Europese regels goed worden ingevoerd, heeft ‘Made in Europe’ de potentie om een zeer waardevol kwaliteitslabel te worden voor AI. Als technologie het stempel ‘Made in Europe’ draagt, weet je dat je te maken hebt met een systeem dat betrouwbaar, robuust, mensgericht en transparant is. Mensen in de Verenigde Staten zullen bij voorkeur AI-systemen met dit label installeren en voor bedrijven wordt het riskant om systemen zonder dit label te gebruiken. Gezien deze wedloop voor de beste regulering is het belangrijk dat de EU deze regels zo snel mogelijk invoert. Het voorstel van de Commissie zal voer voor discussie zijn in de lidstaten, maar het is nu cruciaal om doortastend en snel te handelen.”
De plannen van de Commissie worden gezien als baanbrekend. Bent u het daarmee eens?
“Ja, als ze op de juiste manier worden geïmplementeerd. Deze regels zijn nieuw, uniek en ook van toepassing op niet-Europese bedrijven. Bedrijven moeten een goedkeuringsproces doorlopen als ze hun technologieën in de EU willen verkopen. Als de regels goed worden gehandhaafd, is het onmogelijk om eraan te ontkomen. Ik verwacht dat dit wereldwijd grote impact gaat hebben, maar een en ander hangt nog wel af van hoe het Parlement en de Raad de lobby beperken in de periode voordat de regels volledig in werking treden.”
Wat moeten de grenzen zijn van die lobby?
“Dat is duidelijk: lobbyen moet worden ingeperkt als het de bescherming van mensenrechten ondermijnt. Het is prima dat big tech probeert te lobbyen, dat is onderdeel van het proces. Maar het Parlement moet streng zijn en zeggen: allemaal goed en aardig dat jullie er het beste van proberen te maken, maar nu gaan jullie te ver.”
“De EU moet ervoor zorgen dat er geen braindrain van AI-deskundigen plaatsvindt”
Critici vinden dat de EU meer bezig is met het beschermen van haar eigen burgers dan met de concurrentiestrijd met China. Waarom zou de EU zich bezig moeten houden met China?
“Op het gebied van AI zou het gewoon dom zijn”. Weiss lacht. “Het zou betekenen dat je actief negeert hoeveel China in AI investeert. China investeert aanzienlijk meer dan Europa doet, het is fantastisch. Het stimuleert het AI-onderwijs enorm, de kwaliteit en kwantiteit van het AI-onderzoek is opmerkelijk. Dat niet in de gaten houden is naïef en betekent vroeg of laat dat Europa achterop raakt in de concurrentiestrijd. Dat is een economisch probleem, want de beste AI-toepassingen komen dan uit de VS en China. Maar het heeft ook een negatieve maatschappelijke impact. Als je achterloopt op het gebied van technologie, ontstaat er een afhankelijkheid van andere landen die je niet wilt. Dat geldt voor alle technologieën, ook AI.”
Hoe zit het met de EU zelf? Is de arbeidsmarkt klaar voor de ontwikkelingen op het gebied van kunstmatige intelligentie?
“Een zwak punt is het grote tekort aan AI-experts in Europa. De vraag daarnaar blijft de komende decennia groeien, dus we moeten ervoor zorgen dat er voldoende AI-experts beschikbaar zijn en nadenken over het invoeren van AI-onderwijs op middelbare scholen. Maar bedrijven moeten ook overwegen te investeren in AI-onderwijs voor hun werknemers. Ze kunnen meer openstaan voor het aangaan van samenwerkingen met universiteiten en andere kennisinstellingen, al is het alleen maar om ervoor te zorgen dat ze toegang hebben tot de allernieuwste AI-technologie. Het is niet alleen aan de overheid om het onderwijs te verbeteren. Het is ook aan de economie om te zeggen: we moeten investeren in onze medewerkers om ervoor te zorgen dat in Europa geen braindrain van AI-experts naar de VS plaatsvindt.”
Gerhard Weiss is hoogleraar Informatica en Kunstmatige Intelligentie aan de faculteit van Data Science and Knowledge Engineering (DKE) aan Maastricht University. Ook werkte hij als adviseur voor verschillende Europese bedrijven op het gebied van intelligente technologieën.
Dit is het tweede interview in het tweede seizoen van onze interviewreeks over actuele zaken in Europa. Lees hier de eerdere interviews.
