Vijftien jaar geleden begon ik te bloggen over technologie en haar invloed op samenleving, overheid, sport en persoonlijk leven. Het vertrouwen van toen heeft geleidelijk plaatsgemaakt voor wantrouwen en inmiddels heb ik afscheid genomen van sociale media. In deze serie schets ik die weg. Dit derde deel gaat over de jaren waarin de keerzijde zichtbaar werd.

Op zoek naar problemen

Rond 2016 veranderde de toon van mijn blogs. De maatschappelijke impact van technologie bleek moeilijk te voorspellen, schreef ik, denkend aan de wasmachine die niet de huisvrouw hielp maar de emancipatie versnelde. Maar de vraag eronder werd scherper: wat is eigenlijk de maatschappelijke relevantie van al die innovaties? Nieuwe technologische oplossingen waren naarstig op zoek naar maatschappelijke problemen, in plaats van andersom.

De machines kennen ons

Toen ontdekte ik hoe goed de machines mij kenden. Amerikaanse onderzoekers bouwden een algoritme dat persoonlijkheid voorspelt uit sociale media. Ik voerde mijn 3.232 tweets in en kreeg binnen seconden een rapport dat vrijwel identiek was aan de uitslagen van psychologische tests die ik ooit met vragenlijsten had gedaan. Vanaf zeventig likes kent Facebook je beter dan je vrienden. Zolang je zulke analyses zelf onder ogen krijgt, is er weinig aan de hand, schreef ik. Het wordt een ander verhaal als bedrijven en overheden ermee aan de haal gaan. Dat verhaal kwam er. Blind vertrouwen op zelflerende software bleek sowieso onverstandig: Microsofts chatbot Tay vergaloppeerde zich binnen een dag aan racistische uitspraken, en de logica achter de algoritmen bleef een black box die niemand kon verklaren.

Orwell nabij

Gezichtsherkenning maakte de dreiging tastbaar. Facebook beschikte over 1,4 miljard gescande gezichten, gekoppeld aan echte identiteiten. In het Chinese Shenzhen werden voetgangers die door rood liepen automatisch geflitst, geïdentificeerd en bij herhaling op een zwarte lijst gezet, als onderdeel van een sociaal kredietsysteem waarin ook online gedrag, betaalgedrag en contacten meetellen. Een Chinese politicus liet zich ontvallen dat Orwells 1984 nabij was. Dat was ver weg, maar ook dichtbij: onze eigen politie experimenteerde met dezelfde technologie, en achter de schermen beoordeelden algoritmen sollicitatiebrieven en klantvragen. Computer says no.

De genadeklap

De genadeklap voor mijn vertrouwen kwam met Cambridge Analytica. De documentaire The Great Hack liet zien hoe twijfelende kiezers in een handvol Swing States met een leugenachtig berichtenbombardement over de streep werden getrokken. Sinds Facebook kunnen we geen normale verkiezingen meer hebben, concludeerde de journalist die het schandaal onthulde. Manipulatie bleek bovendien een consumentenproduct: voor 49 dollar kon iedereen online een campagne kopen om de eigen partner of collega drie maanden lang met nepberichten te bestoken. En op LinkedIn verzamelde de door AI gefabriceerde nepvrouw Katie Jones moeiteloos connecties in de top van de Amerikaanse politiek.

Handelswaar

Het patroon was niet meer te ontkennen. De data die wij argeloos achterlieten waren verworden tot handelswaar. Het internet was niet langer de vrije publieke ruimte die mensen verbindt, maar het domein van partijen die gebruikers primair zien als product en pas daarna als klant. De participerende burger uit mijn vroege blogs bleek een profiel in andermans database, de mondige consument een doelwit voor gerichte beïnvloeding. Ik schreef nog hoopvol over Europese regels en een mensgericht internet. Maar zelf stond ik intussen voor een persoonlijker vraag: hoe lang blijf je deelnemen aan een systeem waarvan je weet hoe het werkt?