Nog niet veel mensen hebben het waarschijnlijk door, maar een aanzienlijk deel van de aanraking die we met de overheid hebben, is op de een of andere manier geïnitieerd door een computer met software die ergens in de verte zelfs intelligent kan zijn. Het domste voorbeeld is de flits-boete die we automatisch krijgen als we langs een camera door rood of te hard rijden. De belastingdienst is hier een slimmere en belangrijkere speler: veel aanslagen voor de inkomstenbelasting worden automatisch opgelegd.
De berichtgeving door de NOS meldt zelfs dat: “De overheid bijvoorbeeld algoritmes gebruikt om fraude en criminaliteit op te sporen, maar ook om in te schatten wat voor zorg iemand nodig heeft en wat de kans is dat een leerling van school gaat voordat zijn of haar opleiding is afgerond. Onder meer landelijke organisaties als de politie, de Belastingdienst en het Centrum Indicatiestelling Zorg leunen op voorspellende algoritmes, maar ook gemeenten, zoals Rotterdam, Tilburg en Groningen.”
Het is dus niet gek dat de regeringspartijen D66 en CDA willen dat er controle komt op het gebruik van algoritmes door de overheid. Het is namelijk zo dat ook kunstmatige “intelligentie” in staat is om op basis van vooroordelen de verkeerde of gekleurde beslissingen te nemen, die voor individuele burgers verstrekkende gevolgen kunnen hebben. De besluitvormende of ‑ondersteunende systemen worden gevoed met real-time data uit bijvoorbeeld politie-aangiften of rapportages, dus die worden gekleurd met aannames of vooroordelen van de mensen die de systemen vullen. Ofwel, een algoritme is in die zin niet zo waardevrij als je zou verwachten of willen. Bovendien is een algoritme verstoken van de vaardigheid om omringende, zachte informatie die een besluit zou kunnen veranderen, mee te wegen, zodat het “inhumane” besluiten kan nemen.
We kennen het principe van de verkeerde besluitvorming uit de science fiction film “Minority Report” (2001), waarin politieagent Tom Cruise valselijk wordt beschuldigd van een moord die hij nog moet plegen. De entiteiten die dit zien aankomen en aan de bel trekken zijn een soort alwetende, niet humane wezens, op wier correcte werking geen enkele controle plaatsvindt en die bij Cruise de schijnbaar arbitraire indicatie afgeven van een potentieel gevaar dat hij gaat vormen. De algemene teneur van de film is daarbij precies het bezwaar dat D66 en CDA in de algoritmische overheid zien: we leggen belangrijke, vergaande macht – zonder check – over mensen in handen van machines. De vraag is of dat wenselijk is.
Statistisch zou het kunnen dat van alle besluiten die een AI op basis van complexe informatie moet nemen er meer van hoge kwaliteit zijn dan wat mensen kunnen leveren. Het is dan de vraag hoe zinvol een menselijke controle achteraf is. In het geval van een dispuut ligt dat anders, omdat dan een specifieke case door mensen bekeken wordt en er op basis van informatie die de AI niet ter beschikking heeft of niet kan meewegen er toch iets anders uitkomt dan wat de machine heeft bedacht. Daarbij is het afhankelijk van de perceptie van het volk over de AI of er vaak een beroep op menselijke arbitrage wordt gedaan. Als die perceptie er een van wantrouwen is, dan denk ik dat die algoritmes wel eens meer werk kunnen opleveren dan was beoogd; een omgekeerd effect dus.
