AP: Vanaf 2023 ook toezicht op algoritmes

De Autoriteit Persoonsgegevens (AP) gaat vanaf dit jaar toezicht houden op algoritmes. De autoriteit gaat controleren of algoritmes op een transparante manier werken. Er mag geen sprake zijn van discriminatie of willekeur.

Samenleving

De AP benadrukt dat de technologie zowel kansen als risico‚Äôs biedt. “Algoritmes kunnen grote impact hebben op mensenlevens en op de samenleving.” Er zijn veel uiteenlopende algoritmes. Zoekmachines gebruiken ze om bij een zoekopdracht het beste zoekresultaat te tonen. Grote webshops proberen ermee te voorspellen welk product iemand gaat kopen. Vervolgens kunnen ze ervoor zorgen dat er genoeg van deze artikelen in voorraad zijn.

Discriminatie

Voorspellende modellen kunnen mensen echter ook benadelen. Bijvoorbeeld bij het berekenen van de kans op fraude. Daarbij bestaat het risico van discriminatie, bijvoorbeeld wanneer aspecten als huidskleur, afkomst of religie in de berekening worden meegenomen. Dat wil de AP gaan voorkomen. In de beginperiode zal de toezichthouder zich met name focussen op het signaleren van risicovolle algoritmes en het vergaren van kennis hierover.

Aanmelden voor onze nieuwsbrief