Algoritmes zijn meer en meer van invloed op ons dagelijks leven. Reden voor de Autoriteit Persoons­gegevens om er bij de overeid op aan te dringen openheid te geven en voorzichtig te zijn. Want het lijkt een technologie waar we niet veel grip op hebben.

Wat is een algoritme?

Een algoritme is niet meer dan een set computerregels. Die kunnen bijvoorbeeld eenvoudige zaken automatiseren. Meneer X heeft zijn rekening niet betaald voor een bepaalde datum, dus wordt een herinnering verstuurd. Maar algoritmes worden steeds slimmer en kunnen steeds meer. Zo kunnen ze voorspellingen of inschattingen doen op basis van data. Er zijn al algoritmes die bepalen welke kandidaten geschikt zijn voor een vacature, of wie wel en wie niet in aanmerking komt voor een (sociale) huurwoning. Commerciƫle bedrijven gebruiken volop algoritmes, maar ook de overheid zet ze steeds meer in.

Waakhond zegt woef

De Autoriteit Persoonsgegevens (AP) heeft de overheid nu gesommeerd openheid van zaken te geven. "De overheid moet transparant zijn en helder maken op welke manier jouw gegevens worden verwerkt en hoe die besluiten tot stand komen", aldus de directeur van de AP. De AP maakt zich zorgen dat algoritmes bijvoorbeeld leiden tot meer discriminatie: "De vooroordelen die we allemaal hebben, kunnen in computerprogramma's terecht komen. Juist daarom is het belangrijk dat de overheid transparant is over algoritmes."

Weapons of Math Destruction

Die mening wordt gedeeld door de beroemde auteur Cathy O'neil. Zij was zelf werkzaam als cijferkraker aan Wallstreet, tot ze inzag dat het wel eens de verkeerde kant op zou kunnen gaan met algoritmes. Ze schreef er een boek over genaamd Weapons of Math Destruction. In de Volkskrant zegt ze zich grote zorgen te maken: "Er moet een toezichthouder voor algoritmen komen, zoals de FDA doet met nieuwe medicijnen. Deze toezichthouder moet goed begrijpen hoe een algoritme werkt en of het goed uitpakt voor burgers." De angst van O'neil is dat algoritmes zoveel invloed krijgen op ons dagelijks leven dat we de grip erop en op de negatieve effecten gaan verliezen.

Regeringspartijen vragen actie

Als het aan regeringspartijen CDA en D66 ligt komt er zo'n waakhond die algoritmes gaat bekijken en doorlichten. Een voorstel hiervoor werd ingediend door D66-Kamerlid Kees Verhoeven en zijn CDA-collega Harry van der Molen. "We willen dat er een toezichthouder komt die soms kan zeggen: nee, hier is de kans op discriminatie te groot", aldus eerstgenoemde. De twee Kamerleden denken voor hun voorstel een Kamermeerderheid te krijgen. Misschien kan in de toekomst de wet ook uitgebreid worden naar commerciƫle algoritmes.

Bronnen: NOS, Volkskrant

Delen: