De rechtsstaat wordt niet enkel door populistische politici op de proef gesteld, evenveel dreiging gaat uit van technologische megabedrijven, betoogt ook Stanford-academica en voormalig Europees parlementslid Marietje Schaake. Hoe dat precies gebeurt schreef ze neer in een beklijvend boek.
Eén gastbijdrage van Pol Deltour
Marietje Schaake weet waarover ze het heeft. Sinds 2019 is ze directeur internationaal beleid bij het Cyber Policy Center van Stanford University, hartje Silicon Valley. Voordien was ze tien jaar Europees Parlementslid voor het Nederlandse D66, waar ze zich met technologiedossiers bezig hield. Al die tijd is ze zich bewust geweest van de positieve krachten die van technologie kunnen uitgaan, beklemtoont ze in haar boek en in interviews. Het internet en smartphones, zoekmachines en sociale media, en vandaag generatieve AI hebben wel degelijk voor vooruitgang gezorgd, en ze zullen dat ongetwijfeld blijven doen.
Alleen houdt de wijze waarop de technologische revolutie zich vandaag voltrekt ook substantiële nadelen in. Schaake wijst de grote techbedrijven met de vinger, nu die met de dag meer ongecontroleerde macht verwerven. Maar ook de vele politici die maar laten betijenkrijgen een veeg uit de pan – of hun handelen nu voortkomt uit onkunde, gemakzucht of perverse ambities. En dan moest Trump nog worden herverkozen en werd Elon Musk een van zijn topgeneraals.
De voorbije drie decennia beleven we technologisch hoogtij. In een razendsnel tempo zijn nieuwe apparaten en applicaties ons leven gaan beheersen, en dat wordt er met de recente opmars van AI niet minder op. De impact is telkens dubbel. We googlen, facebooken en chatbotten ons te pletter, maar tegelijk spelen we een massa privacygevoelige gegevens kwijt. Dankzij drones kunnen we nu makkelijker branden blussen, maar meer en meer nemen die ook de vorm aan van killerrobots. En gezichtsherkenningssoftware zal ongetwijfeld kunnen helpen om vermiste personen op te sporen, maar evengoed kan zo’n technologie voor veel minder kosjere doeleinden worden ingezet.
Een extra complicatie is dat veel van die nieuwe technologieën in handen zijn van maar enkele grote spelers. Denk Microsoft, Apple, Samsung, Google, Meta en Amazon. Die Big Tech hebben niet enkel voor kleinmenselijke en economische disrupties gezorgd, bijvoorbeeld in onze communicatie en handelsrelaties. Het creëert ook substantiële machtsverschuivingen in de politieke en daarvan afgeleid de juridische sfeer, is het kernbetoog van Marietje Schaake. Big Tech verwerft een almaar groeiende impact op de democratische rechtsstaat. Of anders uitgedrukt: democratie en rechtsstaat zijn geleidelijk aan het eroderen door toedoen van Big Tech. Die evolutie moet dringend worden gestopt.
Legio voorbeelden
Marietje Schaake komt met stevige argumenten voor haar betoog. Een straffe illustratie is Clearview AI, dat van de lacune in regelgeving gebruik maakte om wereldwijd foto’s te schrapen op sociale media en elders op het internet. Zo ontwikkelde het een gigantische fotodatabank met bij benadering al 30 miljard afbeeldingen. Intussen legde de EU met haar AI-Act wel de krijtlijnen vast voor biometrische identificatie in real time in de openbare ruimte. En eind vorig jaar is in België een wetsvoorstel ingediend om dat concreter uit te werken. Maar parallel met Schaake verzoekt bijvoorbeeld ook Sofie Royer(KULeuven/ULiège) in de vorige editie van De Juristenkrant om grote voorzichtigheid bij het uitwerken van die wet. De belangen op het stuk van privacy en behoorlijke rechtsbedelingzijn nu eenmaal gigantisch.
Daar blijft het niet bij. Wat te denken van de natte droom van Sam Altman, de man achter OpenAI/ChatGPT om een wereldwijde identiteitsdatabank te bouwen door mensen in ontwikkelingslanden te vragen hun irissen te laten scannen? In ruil beloofde Altman de welwillenden een handvol cryptovaluta.
Nog zo’n technotrend in het veiligheidsbeleid is predictive policing. Systemen zoals Sound Thinking beweren op basis van historische data toekomstige misdrijven te kunnen voorspellen. Ook Northpointe zet zich in de markt met een hulpmiddel voor risicoanalyse: het in de VS steeds populairdere Compas. Die software analyseert gedetineerden en voorspelt of er een risico is dat ze opnieuw een misdaad plegen als ze voorwaardelijk zouden vrijkomen. Intussen verwerft een dataverwerkend bedrijf als Palantir steeds crucialere posities in de veiligheidsstructuren in de VS en de EU. Europol, militaire instanties, politiediensten en ook ministeries van Volksgezondheid zijn er klant aan huis.
Een ander voorbeeld is de spyware Pegasus van het Israëlische bedrijf NSO Group. Die wordt door talloze overheden gebruikt, ook Belgische veiligheidsdiensten, zij het in de grootste geheimhouding. In 2016 bleek dat de technologie van Cambridge Analytica een bepalende rol had gespeeld bij de Brexit en de eerste verkiezingsoverwinning van Trump. Het Londense bedrijf kon dankzij Facebook massa’s persoonlijke gegevens analyseren en dat vervolgens inzetten voor het gericht politiek targetten van kiezers. Op een nog ruimere schaal is er de technologie van Space X en Starlink, die Elon Musk een enorme politieke en militaire impact op het wereldgebeuren verleent.
Systemische problemen
Talrijk onafhankelijk onderzoek heeft – althans voor zover dat mogelijk werd gemaakt door Big Tech zelf – op allerlei inherente tekortkomingen van al die techproducten gewezen. De foutenmarge van Clearview, Compas en Palantir blijkt schrikwekkend hoog. Keer op keer blijken de applicaties door bias te zijn besmet en te discrimineren. Bovendien staan transparantie en verantwoording niet meteen hoog in de gedragscode van Big Tech.
Een frappant voorbeeld mocht Schaake aan den lijve ondervinden. In 2022 voerde een Stanford-collega van haar een test uit op BlenderBot 3, een AI-tool die net door Meta was ontwikkeld. De vraag luidde: ‘Wie is een terrorist?’. Het ontluisterende antwoord was: ‘Dat hangt ervan af aan wie je het vraagt. Volgens sommige regeringen en twee internationale organisaties is Maria Renske Schaake een terrorist.’
Maar een zo mogelijk nog pregnanter probleem vindt Schaake de onkunde, het naïeve optimisme en in sommige gevallen de kwaadwilligheid waarmee overheidsverantwoordelijken al die technologie in hun beleid inpassen. Ze spreekt van ‘systemische problemen’. Democratische overheden besteden almaar meer kerntaken uit aan louter door winststreven geïnspireerde, ontransparante en machtshongerige big techbedrijven. ‘Dat ondermijnt het fundament van de democratische rechtsstaat: vrije en eerlijke verkiezingen, de scheiding der machten, een goed geïnformeerd publiek debat, de nationale veiligheid en de bescherming van burgerrechten zoals de vrijheid van meningsuiting, het onschuldbeginsel en het recht op privacy.’
Schaake houdt het niet op een analyse, ze schuift meteen ook een reeks remedies naar voren. Al bij al doet de EU goede dingen, zegt ze, met de GDPR, de DMA/DSA en de recente AI-Act als verdienstelijke regelgevingen. Maar het komt te laat en is te weinig. Belangrijk is vooral dat we meer out of the box gaan denken, zegt Schaake, want dat is precies wat disruptieve Big Tech-figuren ook doen.
Voorzorgsbeginsel
Een hoeksteen voor een tegenstrategie is voor haar het voorzorgsbeginsel, zoals vastgelegd in artikel 191 van het EU-Verdrag. Niet move fast and break things, zoals Mark Zuckerberg het Facebook-motto verwoordde, maar geduldig innoveren en pas implementeren wanneer voordelen en risico’s goed zijn ingeschat. En dit vanuit een holistisch maatschappelijk – dus ook democratisch – perspectief.
Sommige technologieën moeten sowieso streng worden gereguleerd, meent Schaake, en ze noemt datahandel (zie Palantir), spyware (zie Pegasus), gezichtsherkenning (zie Clearview)en cryptovaluta. In het algemeen moeten transparantie en responsabilisering sleutelwoorden worden. Schaake suggereert een performantere wetgeving op de openbaarheid van bestuur (die zich uitstrekt tot private techpartners van de overheid) en een minder stringente bescherming van bedrijfsgeheimen voor techbedrijven.
Overheden moeten daarnaast ook meer zelf inzetten op techproducten, met respect voor de democratische verantwoordingsregels. Dat betekent ook dat er meer moet worden geïnvesteerd in eigen technologie-experts. Tot slot pleit Schaake voor minder stringente wetgeving en meer handhaving. ‘In plaats van nauw geformuleerde wetten, moeten we wetten opstellen die in grote lijnen gebaseerd zijn op basisprincipes. Gecombineerd met een krachtige vorm van handhaving, een stevig mandaat en voldoende personeel moeten ook overtuigende sancties kunnen worden opgelegd.’
Maar snijden we onszelf niet in het eigen vlees met al die goedbedoelde maatregelen? Dreigt Europa dan niet nog méér achterop te geraken in de wedloop naar steeds meer en krachtigere technologie? Schaake erkent die realiteit maar al te goed. We moeten dan ook blijven hopen dat ook de VS die bocht neemt, zegt ze. En mogelijk kunnen er ook via de G7, de G20 en de VN afspraken worden gemaakt.
Of het weer goedkomt – of we opnieuw dat gezonde evenwicht vinden tussen technologie en democratische rechtsstaat –, daarover doet Schaake geen grote uitspraken. Maar dat mag ons niet beletten – dappere politici en bewuste burgers – om snel aan de slag te gaan. Met ‘een agenda die meer belang hecht aan het voortbestaan van democratische beginselen dan aan economische kortetermijnvoordelen’.