Deze gastbijdrage werd overgenomen van de blog van Joop Beris met toestemming van de auteur.

Met die woorden opende een voormalig manager van mij een functioneringsgesprek. Dat is een ongemakkelijke vraag, niet alleen omdat de persoon in kwestie juist mijn vertrouwen ernstig geschonden had maar vooral omdat er sprake is van een ongelijke machtsverhouding tussen medewerker en leidinggevende. Zo gauw er sprake is van een ongelijke machtsverhouding, staat vertrouwen onder spanning en nergens is dat meer duidelijk dan in de verhouding tussen individu en staat.

We zien wereldwijd dat overheden, ook hier in vrij en democratisch Europa, bezig zijn om in snel tempo allerlei surveillance infrastructuren op te tuigen en bestaande surveillance middelen aan elkaar te knopen. Dit biedt deze overheden ongekende mogelijkheden om criminelen en terroristen op te sporen en dat is meestal de argumentatie die gebruikt wordt om dit soort infrastructuren op te tuigen. En ja, wie wil nou niet dat de overheid daar tegen optreedt?

# Een fundamenteel probleem

Helaas is er een fundamenteel probleem met het optuigen van dit soort infrastructuren dat zelden openlijk besproken wordt: de infrastructuur die vandaag gebouwd wordt voor “het goede” kan morgen worden ingezet voor “het kwaad”.

Een bekend voorbeeld gebeurde tijdens de bezettingsjaren in Nederland. Op het zeer lastig na te maken persoonsbewijs dat destijds in Nederland gebruikt werd, stond de geloofsovertuiging van de houder van het document aangegeven. Een relatief onschuldig gegeven in minder roerige tijden. Maar de Duitse bezetter maakte er dankbaar gebruik van bij het opsporen van Nederlandse Joden. Het bewaren van data is niet waardevrij.

En ja, dat is een oud voorbeeld maar we zien momenteel in de Verenigde Staten hoe snel dit kan ontsporen, ook vandaag nog. Hier is een democratisch verkozen president die niet zo veel op lijkt te hebben met democratie en de immigratiedienst (ICE) heeft omgetoverd in een paramilitaire organisatie met verregaande bevoegdheden. De dienst maakt daarbij uitgebreid gebruik van massasurveillance zoals die opgetuigd is door de staat.

Het is dus niet alleen relevant of de ontwerpers van nu goede bedoelingen hebben. Wat telt is ook wat een toekomstig machthebber met die infrastructuur kan doen. Democratische normen kunnen verschuiven en landen kunnen oppervlakkig gezien democratisch blijven terwijl de waarden van de regering kunnen veranderen. Als dat gebeurt, is een reeds bestaande surveillance infrastructuur een verleidelijk instrument om controle uit te oefenen, tegenstanders te intimideren of groepen te marginaliseren.

# De asymmetrie tussen staat en individu

Een burger kan diens gedrag niet versleutelen of verbergen voor de staat. Andersom kan een overheid dat wel. In een machtsverhouding is het de capaciteit die telt, niet zozeer de intentie. En technologie verschuift die capaciteit sterk richting de kant van de overheid:

• ANPR camera’s langs de wegen maken verplaatsingen inzichtelijk
• Algoritmes maken geautomatiseerd risicoprofielen, vaak met kwalitatief twijfelachtige gegevenssets en bias
• Koppelingen tussen datasets maken burgers volledig transparant, terwijl de overheid zelf zelden even transparant is
• Predictive policing creëert feedback loops waarin bepaalde groepen structureel meer risico lopen op surveillance en de negatieve effecten daarvan

Het risico is niet alleen misbruik vandaag, al ligt dat natuurlijk op de loer. Een groter risico is misschien wel dat we een infrastructuur van machtsmisbruik bouwen waar toekomstige generaties onder lijden.

# Hoe dan wel?

De borging van veiligheid is nodig, dat staat vast. Maar er is wel een groot verschil tussen gericht onderzoek op basis van verdenking en toezicht door een rechter enerzijds en een permanente infrastructuur die een hele bevolking monitorbaar maakt, waarbij in principe iedereen als verdachte behandeld wordt. Het eerste hoort in een democratie, het tweede in autocratische regimes.

We zien in verschillende landen hoe surveillance‑tools die ooit bedoeld waren voor één doel, nu worden ingezet voor totaal andere doeleinden. De drempel om ze “tijdelijk” breder in te zetten, daalt steevast. En niets is zo permanent als een tijdelijke maatregel. Juridische waarborgen en toetsing lijken bovendien traag en moeizaam.

En dat is waar vertrouwen om de hoek komt. Een overheid die haar burgers monitoorbaar maakt, zegt daarmee feitelijk dat ze de burger niet vertrouwd. Maar hoe kan die burger zo’n overheid vertrouwen, vooral als die overheid niet transparant is en regelmatig laat zien dat ze zelf niet in staat is om verantwoord met al die gegevens om te gaan?

De meeste risico’s zijn beheersbaar zonder burgers volledig te monitoren. En in een echte democratie is het niet gewenst dat burgers volledig te monitoren zijn. In plaats daarvan moeten we systemen bouwen die:

• niet centraal zijn
• niet permanent zijn
• niet uit te breiden zijn naar totale controle
• geen complete gedragspatronen kunnen analyseren

Democratie is uiterst kwetsbaar en het bouwen van surveillance infrastructuren maakt haar niet sterker maar juist zwakker. Willen we de mogelijkheid creëren dat een incident of een verandering in bestuurlijke cultuur genoeg is om de democratie te ondermijnen? Als het antwoord op die vraag “nee” is, dan moeten we kritisch zijn over elke infrastructuur die macht centraliseert, data concentreert en burgers transparant maakt. De gebeurtenissen in de Verenigde Staten maken dat pijnlijk duidelijk.

# Vertrouwen

Het echte vraagstuk is niet of we technologie tegen “het kwade” willen inzetten. Dat wil iedereen. Het vraagstuk is wel of we een infrastructuur van totale controle willen bouwen die elk volgend kabinet of Europese overheid kan benutten om iedereen te monitoren. De politieke realiteit in de VS laat zien hoe snel dat kan verschuiven, met ICE als voorbeeld van een surveillancesysteem dat in hoog tempo AI‑gestuurd, vendor‑geïntegreerd en schaalbaar is geworden, met alle kwalijke gevolgen van dien.

Als je macht concentreert, moet je niet verrast zijn dat iemand die macht ooit gebruikt. Daarom hoort de drempel om zulke infrastructuren überhaupt te bouwen extreem hoog te zijn.