Shoshana Zuboff – The age of surveillance capitalism

Dit boek gaat over ‘surveillance capitalism’. Het is de term waarmee Zuboff de huidige nieuwe economische orde beschrijft. Het is een parasitaire economische logica. Met name bedrijven als Google, Facebook, Microsoft, Baidu, en Verizon zijn koplopers die deze logica aanhangen. Hoe het precies werkt is in dit boek met veel anekdotes en uitweidingen beschreven. Het gaat om grote commerciële belangen. Ze werken op grote schaal om maar zoveel mogelijk data te verzamelen. Data over ons, over onze gebruiken, onze gewoonten, onze dagelijkse gang van zaken, onze gevoelens. De logica draait om ‘behavior surplus’: al onze acties en gedragingen leveren een soort ‘extra’ informatie op. De platformen die we gebruiken zijn ontworpen om ons in het dagelijks leven te ondersteunen, maar zijn uiteindelijk gebouwd met oog op die surplus en om daar in de toekomst meer en meer van te kunnen vergaren. Meer en meer, oftwel ‘accumulatie’ van informatie. Hieruit kunnen namelijk patronen worden geanalyseerd, voorspellingen worden gedaan, nieuwe diensten worden ontwikkeld, hele specifieke marketing gericht worden ingezet, en daarbij wordt de data gebruikt om door middel van ‘machine learning’ steeds slimmere algoritmes aan het werk te laten zijn om automatisch in te spelen op ons gedrag met oog op een specifiek soort effect. Die surplus is van alles: de (zelfs ook verkeerd gespelde) zoekopdrachten die we doen, de locatie die we hebben toegestaan continu te delen, de persoonlijke berichtjes die we versturen naar bepaalde mensen, websites die we bezoeken, de dingen die we overwegen te kopen via webshops, enz. Het is vrij onzichtbaar, op de achtergrond. Wij zijn niet de gebruiker of de klant van de bedrijven, we zijn de ‘bron’ van de surplus in een onontkoombare data-extractie operatie. De echte klanten zijn de grote ondernemingen die handelen in toekomstig gedrag. Het is niet een specifiek soort technologie, maar een hele logica die aan het gebruik van technologie wordt opgelegd. De logica dus van het nieuwe soort kapitalisme wat we vandaag de dag zien.

Zuboff beschrijft hoe Apple met iTunes en de iPod dit soort logica heeft mogelijk gemaakt door de individuele consumptie voorop te stellen (personalisatie: wat, waar en wanneer je maar wil consumeren). De snelheid waarmee werd ontwikkeld maakte dat er veel vrijheid was (ook wat betreft wetgeving) en al snel een ongekende schaal kon worden bereikt. Er is wel wat verzet geweest, zoals bij Google Streetview, er zijn rechtszaken geweest, maar Zuboff beschrijft de strategie die daarbij door de bedrijven wordt gebruikt om uiteindelijk door te kunnen gaan met het uitrollen van hun diensten en producten. Eerst werden door de typische bedrijven grote verliezen gemaakt maar door investeerders kon er worden doorgebouwd. En de aanslagen van 9/11 bijvoorbeeld maakt de roep om voorspelling en data alleen maar groter wat alle ruimte gaf aan deze bedrijven om hun marktpositie alleen maar te versterken. En ook bij politieke campagnes bleek de data heel waardevol waardoor topmensen uit politiek en deze internetbedrijven veel aan elkaar hadden. Kortom, Zuboff maakt heel inzichtelijk hoe dit ‘surveillance capitalism’ heeft kunnen ontstaan en wat belangrijke momenten waren in de ontwikkeling daarvan. Terecht is erop gewezen dat Zuboff misschien wat te makkelijk haar theorie presenteert als hét nieuwe kapitalisme. Ze gaat daarbij niet in op andere pogingen om het als “platform capitalism” (Srnicek haalde Zuboff wel aan, het ligt toch sterk in elkaars verlengde), “cognitive capitalism” of “biocapitalism” te beschrijven en de manier waarop dit toch ook samenhangt met meer industriële logica of instrumentele opvattingen over mens of technologie. Maar de kracht van het boek ligt dan ook meer bij de beschrijving van de manier van werken, de aanpak, de ontstaansgeschiedenis en de logica die ze beschrijft. En de manier waarop dat ons dagelijks leven bepaalt. Ze beschrijft heel sterk hoe dat ‘surveillance capitalism’ onder meer door ubiquitous computing, the internet of things, en projecten zoals ‘Aware Home’ (Georgia Tech) eigenlijk alles weet te doordringen en dat alles erop wijst dat dit nog veel verder zal gaan de komende tijd.

Met name in het hoofdstuk ‘Of life in the Hive’ beschrijft ze hoe het in ons dagelijks leven is ingebed. Hoe allerhande diensten en producten zo ontworpen zijn dat we steeds maar weer ‘social media’ checken, ons spiegelen aan anderen, vergelijkingen maken, ‘inloggen’, enzovoorts. En ze beschrijft ook de druk, die echt de meest normale personen en gewone levens weet over te nemen. Volgens haar is de impact enorm op hoe we dingen doen, wat we doen zelfs, en met wie. Het zal al wel duidelijk zijn: Zuboff wil er iets tegenin brengen. Het is niet voor niets dat ze dit allemaal heeft onderzocht en beschreven. Al is er volgens haar eigenlijk geen uitweg. Zeker niet op persoonlijk vlak. Je kan het niet zomaar afzweren of er proberen niet aan mee te doen. Het is een structureel sociaal probleem. Dus op die manier moet er ook een antwoord op worden geformuleerd. We moeten een zekere bescherming, er moeten grenzen worden gesteld. Het probleem daarbij is niet de monopoliepositie van de bedrijven of het beschermen van onze privacy: daarmee zou je het probleem veel te ‘ouderwets’ benaderen. Het probleem is volgens haar dat hier kritieke mensenrechten worden onteigend. Het probleem heeft kortom een enorme reikwijdte en complexiteit en raakt aan ons fundamentele bestaan als mens.

Simpel gezegd: we worden geautomatiseerd, aldus een goede bespreking met interview in The Guardian. Of zoals Morozov het in zijn eigen woorden beschrijft in een bespreking van dit boek: “From Pokemon Go to smart cities, from Amazon Echo to smart dolls, surveillance capitalism’s imperatives, as well as its methods—marked by constant lying, concealment, and manipulation—have become ubiquitous. The good old days of solitary drunken stupor are now gone: even vodka bottles have become smart, offering internet connectivity. As for the smart rectal thermometers also discussed in the book, you probably don’t want to know.” Waarbij Morozov overigens ook scherper dan Zuboff duidelijk probeert te maken waar zo ongeveer het probleem zit: “Computation thus replaces the political life of the community as the basis for governance,” Zuboff concludes. Instead of founding a fascist newspaper, today’s Benito Mussolini would probably be chasing venture capital, launching apps, and mastering the martial art of growth hacking.” Casper Thomas onderstreept daarbij in de Groene Amsterdammer hoe dit boek past in een rijtje “onthullende traktaten over hoe grote bedrijven winsten maken terwijl ze de negatieve bijeffecten afwentelen en roofzuchtige praktijken buiten het zicht houden met behulp van montere reclame, geslepen juristen en meedogenloze lobbypraktijken. Silent Spring opende de ogen voor hoe de chemische industrie mens en natuur verpest. No Logo vestigde de aandacht op de sweatshops. Surveillance Capitalism laat zien waar Big Tech mensen van berooft: het recht op een onbespied leven, op zeggenschap over wie wat over ons mag weten en het bestaan van schuilplekken waar marktlogica geen grip op heeft. Wat dit soort boeken vooral laten zien is dat duistere kanten van grote bedrijven geen ongelukkige ontsporingen zijn, maar essentieel voor hun verdienmodel.” Aan alle besprekingen zie je dat dit niet zomaar een boek is wat je even makkelijk doorleest en vervolgens in de kast laat verstoffen. Het gaat echt ergens over.

En het heeft alles met leren, kennis en onderwijs te maken. Ten eerste omdat ook het onderwijs doordrongen raakt met het soort platformen die juist op basis van de logica van dit ‘surveillance capitalism’ zijn gemaakt. En volgens Zuboff dus problematisch zijn wat betreft fundamentele rechten van de mens. Daarbij heeft nu juist de kern van dit ‘surveillance kapitalisme’ te maken met kennis en informatie. Deze bedrijven weten namelijk ontzettend veel over ons, maar ze zijn er niet voor ons. Zuboff vergelijkt het met kolonisatie, waarbij de kolonisator nieuwe wetten uitvaardigde, bepaalde waar men wel of niet recht op had, en in algemene zin een nieuwe logica wist op te leggen. Dit gaat volgens haar in basale zin over de verdeling van leren en weten (wie mag wat leren, en wie bepaalt wat wie mag leren, en wie bepaald wie wat weet). Het leren en weten raakt geheel geprivatiseerd. Dit betekent dat private belangen doorslaggevend zijn en de sociale ordening van onze tijd bepalen. De macht over informatie, over wie wat waar leert, en wie wat weet: dit ligt bij de bedrijven als Google en Microsoft.

Voor het onderwijs zou de aanzet die Zuboff geeft echter nog wel wat verder mogen worden uitgewerkt. De daadwerkelijke impact en consequenties voor het onderwijs beschrijft Zuboff alleen vrij algemeen. Het zou sterk zijn als er verder kan worden ingezoomd op de verschillende leerlingvolgsystemen, digitale onderwijsomgevingen, diverse platformen, maar natuurlijk ook alle diensten en de ondersteunende infrastructuur voor het onderwijs. Daar lijkt het probleem met name te zitten, dat heeft namelijk een gigantische invloed op het onderwijs – waarbij flexibilisering en innovatie toverwoorden zijn om steeds meer hele data-gedreven instellingen te maken die worden gemanaged op basis van cijfers en scores, waar grote delen worden uitbesteedt aan platformen met een heel specifiek soort logica en wat invloed heeft op de lesprogramma’s en curricula die met deze technologieën worden geïntensiveerd of ‘verrijkt’. Zeker na de Covid-19 uitbraak lijkt dit alleen maar verder te intensiveren, waarbij nu al duidelijk is dat de genoemde platformen qua macht en winst er enorm op vooruit gaan. Het lijkt zelfs centraal te staan in ongeveer alles waarin het toekomst van het onderwijs wordt bediscussieert. Zuboff heeft het boek geschreven om dat ter discussie te stellen. Of zoals het op hackeducation.com wordt verwoord: “the book, while ignoring education technology, might be at its most useful in helping further a criticism of education technology in just those terms: as surveillance technologies, relying on data extraction and behavior modification”.

Daarbij kan wat Zuboff schrijft over het werk van Skinner en Arendt veel aan diepgang winnen als dit juist naar het onderwijs wordt doorvertaald. Voor Zuboff zit het begin van een oplossing uiteindelijk bij sterke democratische instituten, die zouden er voor kunnen zorgen dat de menselijke ervaring niet wordt gereduceerd tot een ‘commodity’. Maar dat is te makkelijk. De vraag is daarbij over wat voor instituten ze het heeft. Misschien onderwijsinstituten ook? Of misschien moeten er nieuwe instituten ontstaan? En wat maakt ze dan precies ‘democratisch’?

Hoe dan ook: er is alle reden om snel, samen, georganiseerd, en met een duidelijke kritiek op de logica van de grote tech-bedrijven, in actie te komen en met, door, voor, naast de onderwijsinstituten alternatieven te ontwikkelen die een antwoord vormen op het zogenaamde ‘surveillance capitalism’. Er staat enorm veel op het spel.

Als laatste nog een kernachtige samenvatting in quotes van Zuboff zelf:

So here is what is at stake: surveillance capitalism is profoundly
antidemocratic, […]. Its effects cannot be reduced to or explained by technology or the bad intentions of bad people; they are the consistent and predictable consequences of an internally consistent and successful logic of accumulation.

This unprecedented concentration of knowledge produces an equally
unprecedented concentration of power: asymmetries that must be understood as the unauthorized privatization of the division of learning in society. As things currently stand, it is the surveillance capitalist corporations that know. It is the market form that decides. It is the competitive struggle among surveillance capitalists that decides who decides.

Surveillance capitalism depends on the social, and it is only in and through collective social action that the larger promise of an information capitalism […] can be reclaimed.

Deze boekbespreking is geplaatst binnen de volgende categorieen: 2019, Dekolonisatie, Eigentijds onderwijs, Ervaring, ICT in onderwijs, Politiek en overheidsbeleid, Recente publicaties, Toekomstgericht

Geef een reactie