Voorwoord

Technologiebedrijven schermen graag met urgentie. Op 19 februari 2023 tweette Sam Altman, de baas van het bedrijf achter ChatGPT: “the adaptation to a world deeply integrated with AI tools is probably going to happen pretty quickly; the benefits (and fun!) have too much upside.” Hij eindigde zijn draadje met de woorden: “having time to understand what’s happening, how people want to use these tools, and how society can co-evolve is critical.”

Het idee dat de samenleving zich moet aanpassen aan technologische vooruitgang is niet nieuw. Altmans Twitter-draadje werd dan ook terecht gehekeld als een bijzonder toondoof staaltje technologisch determinisme. Technologisch determinisme is het geloof dat technologie een eigen wetmatigheid heeft. Dat het een kracht buiten onze controle is, met een eigen wil en tijdlijn. Linksom of rechtsom, de samenleving heeft zich ernaar te voegen.

Het is uiteraard niet de technologie die doordendert, maar de makers van die technologie. In dit geval Altman zelf en zijn bedrijf OpenAI. Dit soort mega bedrijven verdienen absurde hoeveelheden geld door kwetsbaarheden in onze democratische- en rechtsstatelijke processen uit te buiten. En door misbruik te maken van onze wet- en regelgeving - die nu eenmaal niet hufterproof is. Grote technologiebedrijven lijken sneller te kunnen acteren dan wie dan ook, omdat ze niet “gehinderd” worden door democratische besluitvorming. Ze nemen geen verantwoordelijkheid voor een collectieve, rechtvaardige toekomst, en hebben geen omkijken naar de slachtoffers van hun nalatige handelen.

In plaats van dit gedrag af te keuren, repliceren overheden het verrassend vaak. Wanneer het kabinet met spoedmaatregelen komt, gaat de Tweede Kamer in spoedoverleg. Zodat via een spoedprocedure de spoedmaatregelen kunnen worden uitgerold. Toezichthouders en NGO’s komen binnen enkele weken, en soms zelfs enkele dagen, met een spoedreactie. Maar tijd om die feedback te verwerken is er natuurlijk niet. Spoed leidt zelden tot sterke wetgeving. Laat staan tot wetgeving die op breed draagvlak mag rekenen.

Of neem dit meer concrete voorbeeld. De Nederlandse politie publiceerde onlangs haar “inzetkader gezichtsherkenningstechnologie”. “Snel”, en variaties op dat woord, komen maar liefst vier keer voor in het voorwoord, dat maar een half A4-tje bestrijkt. Verderop schrijven de auteurs: “Ontwikkelingen in zowel maatschappelijke als technische zin volgen elkaar steeds sneller op, vaak in een tempo dat lastig te volgen is met formele regelgeving.” De conclusie van de politie is dat zij gezichtsherkenningstechnologie dan maar buiten de wet om moet inzetten. Maar gezichtsherkenningstechnologie is geen natuurverschijnsel. Gebruik maken van potentieel zeer repressieve technologie, zonder duidelijke juridische kaders, is een keuze. En wat ons betreft de verkeerde.

Urgentie is een krachtig wapen. Wanneer de overheid het exploitatieve gedrag van techbedrijven kopieert, maakt ze zichzelf onvoorspelbaar en onbetrouwbaar. Ook ondermijnt ze haar eigen legitimiteit. Onze democratische en rechtsstatelijke processen zijn by design meerstemmig en, als je het zo wilt noemen, traag. Dit is een kracht, geen hindernis. De overheid zou er goed aan doen zich dit wat vaker te beseffen.

2023 staat voor ons in het teken van AI-wetgeving, de nieuwe rechten van platformgebruikers, en het beperken van overheidssurveillance en -censuur. Als organisatie investeren we in technisch onderzoek, Europese publiekscommunicatie en breed maatschappelijk verzet tegen schadelijke digitalisering. Maar voor we weer doorracen, staan we eerst nog even stil bij de successen van afgelopen jaar. Kijk je mee?

Bits of Freedom
Maart 2023