Begin februari heeft de rechter de overheid verboden nog langer door te gaan met SyRI, een systeem dat grotere gemeenten gebruikten om te voorspellen of bepaalde groepen meer fraude gaan plegen. Overheden deden dit om preventief te kunnen ingrijpen.
Het is het meest aanlokkelijke van het werken met data om voorspellingen te kunnen gaan doen over het gedrag van degenen waar jij je als organisatie op richt. In het bedrijfsleven zien wij dit soort zaken ook. Het gebruik van algoritmes neemt hand over hand toe, omdat bepaald zoekgedrag voorspellend is voor aankoopgedrag, en daarmee kan een organisatie veel makkelijker zijn toekomst voorspellen en inrichten dan zonder dit soort informatie. In tijden dat er nog niet met algoritmes werd gewerkt, waren er natuurlijk ook allerlei onderzoeken naar de effectiviteit van marketing en communicatie. Echter, de voorspellingen die men op dit moment wil gaan doen, komen een stuk dichter bij het individu, en zijn in voorkomende gevallen herleidbaar tot personen dan wel groepen. Dit dilemma ligt wat ons betreft ook op het bord van de registercontroller. Hij staat voor een bepaalde ‘mate van integriteit’ van datgene wat binnen zijn bereik valt, en de vraag is, wat de grenzen zijn waarbinnen een organisatie zich mag bewegen als het gaat om het werken met algoritmes.
Integriteitsissues
Grote tech-organisaties hebben de afgelopen periode laten zien dat zij in relatieve anonimiteit bereid zijn om ver te gaan als het gaat om integriteitsissues. Het bedrijfsbelang prevaleert, en pas na grote druk vanuit overheden is men bereid om toe te geven. Het effect ervan is wel dat de grote tech-bedrijven zo langzamerhand niet meer worden beschouwd als brenger van alleen maar goed nieuws, maar zo langzamerhand ook worden beschouwd als een gevaar. Om te voorkomen dat organisaties in die hoek belanden is het dan misschien wel verstandig om een andere positie in te nemen, voordat het te laat is. Zou een controller er, vanuit zijn integriteitsinvalshoek, niet voor kunnen zorgen dat organisaties transparant worden over de opslag, het gebruik en de verwerking van data? Welke data heeft een organisatie verzameld, en wat doet men er mee? Op die manier voorkomt men allerlei speculaties, en onderwerpt men zich aan een bepaalde vorm van ‘democratische controle’, waardoor een organisatie gelegitimeerd kan blijven opereren.
Het is wachten op de eerste controller die dit soort transparantie aan de dag gaat leggen.
cm:nieuwspanel: iedere week blikt iemand uit ons cm:nieuwspanel terug op het belangrijkste nieuws voor de controller. Deze week: Arno Geurtsen, Vereniging Registercontrollers en programmadirecteur van de Registercontrollersopleiding van de Erasmus Universiteit Rotterdam.
