De kans is groot dat je dagelijks AI gebruikt – voor een recept, een samenvatting, een boekentip. Nooit eerder omarmden we een nieuwe technologie zo snel, en nooit werd er zo massaal in geïnvesteerd. Van scholen tot het leger en de overheid: overal wordt AI ingezet. Maar met elke stap geven we de democratische controle verder uit handen. De grote vraag is: aan wie, en met welke gevolgen? In dit heldere pamflet ontleedt technologie-expert Marietje Schaake de machtsstrijd achter AI en laat ze zien waarom – en hoe – Europa en Nederland daar een politiek antwoord op moeten formuleren.
Marietje Schaake is a Fellow at Stanford’s Cyber Policy Center and at the Institute for Human-Centered AI. She is a columnist for the Financial Times and serves on a number of not-for-profit Boards as well as the UN's High Level Advisory Body on AI. Between 2009-2019 she served as a Member of European Parliament where she worked on trade-, foreign- and tech policy.
Heilzaam, om zo nu en dan kennis te nemen van de andere dan gebruikelijkere kant van AI die aandacht krijgt. Hoeveel individuele verantwoordelijkheid heb ik bij het gebruik van AI?
Eerder las ik het boekje ‘AI de hype voorbij’ van Aaron Mirck ( https://lnkd.in/e6YSrFsH ). Hierin worden verschillende maatschappelijke vraagstukken rondom AI be💡. De afgelopen dagen las ik ‘De machtscode | Hoe de onzichtbare belangenstrijd achter AI onze democratie bedreigt’ van Marietje Schaake. Een uitgave van De Correspondent.
Haar pleidooi is dat we in moeten zien dat AI een allesomvattende rol in de samenleving speelt. Zij pleit - als Nederlandse- voor een nationale/continentale AI strategie om digitale soevereiniteit te bereiken. Zij vraagt van ons niet alleen individuele keuzes, maar collectieve actie.
Wat doe jij als je kennis hebt van onder meer: ‘Coded gaze’, de relatie tussen AI en pfas, Google zero, ‘Digitale dood’, Astroturfing, de CLOUD Act, Mythos en de impact op ons democratisch bestel? Is er naast de referentie met ‘The lord of the rings’ ook één te maken met George Orwell’s 1984?
Moeilijk om te bedenken wat je tegenover een technologie moet stellen die sneller groeit dan ons begrip ervan? Schaake doet in de Machtscode verschillende suggesties.
“The profits are for Big Tech; the risks and consequences are for society.” This is one of the book’s most powerful reminders. While reading, I often thought about The Tragedy of the Commons: without proper regulation, short‑term, self‑interested gains undermine long‑term sustainability. This dynamic is painfully evident in how AI is being developed and exposed to the public - without fully understanding its broader consequences.
“We live in a gigantic experiment.” Indeed, we do. While medicines are subject to strict regulation before they reach the public, AI products are often deployed first and evaluated later. We are told that some pain is necessary for a better future - but a better future for whom?
This is not a book that opposes AI. Rather, it offers a constructive alternative: a path where AI is developed and deployed in tandem with societal interests, not merely to further inflate the bank accounts of billionaires.
AI needs regulation. History shows that power tends to corrupt, and believing that the market alone will solve this is akin to believing in fairy tales.
Marietje concludes the book with concrete recommendations, such as visualising the steps toward digital sovereignty, testing AI before market release, ensuring equitable AI, decentralising AI knowledge (which is currently overly centralised), making enforcement more flexible, and building an EU AI stack. These and many other proposals could help politicians shape a coherent AI agenda that truly serves the interests of the EU.
What kind of society do we want? And when do we consider AI to be successful? These are fundamental questions. They should shape how we develop and govern AI - rather than unleashing it and simply accepting its unintended consequences.
Bondig overzicht van de grote sociale, economische en (geo)politieke uitdagingen waar de stormachtige opkomst van AI ons voor stelt. De auteur maakt afdoende duidelijk hoe gigantisch de problemen zijn als we in Europa afhankelijk blijven van Amerikaanse en Chinese AI - afkomstig van bedrijven die geen moer geven om veiligheid, milieu of maatschappelijk welzijn, en meewerken met ondemocratische plannen van hun overheid. Maar ze vervalt niet in doemdenken. De toon van het boek is constructief, met een vooruitblik op wat Europa wél kan doen (en zou móeten doen) tegenover het AI-overwicht van de VS en China. Laat ons hopen dat Europese bestuurders dit boek ook lezen.
Een goed pamflet, zoals ik vanouds van de Correspondent gewend ben, met een duidelijke uiteenzetting van het probleem en duidelijke handvatten over hoe het aan te pakken. Deed me een beetje denken aan het boek van Samsom, maar Schaake legt de zaken helderder uit dan Samsom, wat fijn is. Ook hier ben ik sceptisch over hoe haalbaar de handvatten zijn, maar het is wel het ideaalplaatje van wat nodig is en het pamflet zet me aan het denken.
Helemaal eens met de grote lijn, de uitwerking vind ik wat aan de magere kant. Een geschipper tussen “Ja we kunnen het” en “Ja we moeten het” met voorstellen die net iets te weinig concreet worden om echt te beklijven.
Enkel urgency schetsing met voorbeelden uit recente actualiteit zonder verdieping. Ook geen aanreiking van structurerende frameworks. Mogelijk goed om niet-geïnitieerde wakker te schudden. Daar voorbij weinig om het lijf. Contouren van een oplossing worden omschreven zonder gidsing.