Het huwelijk van Big Data met Big Brother: China creëert een systeem om het gedrag van zijn burgers te evalueren

De zorgwekkende fusie van monitoring met gedragsevaluatie is begonnen; burgers hebben toegang tot privileges of worden gestraft op basis van hun gedrag. Dit is het risico dat u loopt wanneer u privacy opgeeft in ruil voor deelname aan sociale netwerken en nieuwe gadgets

Als gevolg van een dystopische visie zoals die van Orwell, of misschien meer precies uit de Black Mirror- serie, heeft de Chinese overheid een project gelanceerd waarmee zij het gedrag van haar burgers zal evalueren en een algoritmische rangorde van elk van hen zal creëren. Dit brengt een nieuw tijdperk met zich mee waarin digitaal toezicht deel zal uitmaken van een mechanisme, niet alleen voor preventie, maar ook voor een verbod, waarbij er verschillende soorten burgers zullen zijn.

We leven al in een wereld waarin al ons gedrag wordt gevolgd en de informatie die ze genereren, verschillende algoritmen voedt, dit is eigenlijk wat we Big Data noemen. Wat we online kopen, de oproepen die we doen en waar we ze vandaan halen; wie zijn onze vrienden en hoe we met hen omgaan, welke sites we bezoeken en hoeveel tijd we eraan besteden, etc. Al deze gedragingen genereren profielen die bedrijven zoals Google, Facebook, Apple of Amazon gebruiken om betere advertenties te maken, hun platforms te optimaliseren en nieuwe producten te ontwikkelen. Op dit moment levert dit echter, althans als we willen geloven, geen evaluatie of rangorde op die bepaalt of we in aanmerking komen voor zaken als een baan of een paspoort. Maar dat kan snel veranderen, en dat doet het al in China. Monitoring voegt, zoals op een dag onvermijdelijk zou gebeuren, toe aan de evaluatie van gedrag als een vorm van machtscontrole.

Wired magazine heeft een zeer groot artikel over het programma dat China heeft gelanceerd voor de bouw van een sociaal kredietsysteem, dat probeert de betrouwbaarheid van zijn 1, 3 miljard burgers te beoordelen. Het idee dat de overheid bevordert, is dat het systeem het vertrouwen op nationaal niveau kan vergroten en een cultuur van eerlijkheid kan opbouwen, positieve waarden kan verhogen en fraude kan voorkomen. Op dit moment is het programma vrijwillig, maar tegen 2020 zou het verplicht zijn. Momenteel wordt elke deelnemende burger door de overheid beoordeeld op basis van verschillende factoren die worden overwogen door een algoritme dat is gemaakt door een bedrijf dat is aangesloten bij de internetgigant Alibaba (de Chinese Amazone) en andere bedrijven.

De zogenaamde Sesame Credit meet mensen met een score tussen 350 en 950 punten en houdt rekening met vijf factoren. De eerste is kredietgeschiedenis - dit is bijvoorbeeld het geval wanneer een burger op tijd elektriciteit of telefoon betaalt. Een tweede factor meet de nakoming van contractuele verplichtingen op het werk. De derde factor verifieert de persoonlijke informatie van een persoon, zoals zijn telefoonnummer en adres. De vierde categorie (hier wordt het ding eng) meet de aankopen die een persoon online doet. De ranglijst zal dus rekening houden met het verschil tussen iemand die bijvoorbeeld videogames koopt en iemand die luiers koopt. Dit suggereert iets uiterst verontrustends: wanneer het gedrag als positief of negatief wordt geëvalueerd, begint het systeem het te suggereren of vorm te geven, omdat uiteraard elke burger zich ervan bewust zal zijn dat bepaald gedrag negatieve evaluaties kan genereren. De vijfde categorie zijn interpersoonlijke relaties; Bijvoorbeeld, het delen van positieve dingen online helpt de score te verhogen. Volgens Alibaba verhoogt alleen de positieve de score. Maar wanneer de overheid het programma officieel lanceert in 2020, zal het moeilijk zijn om te denken dat kritisch gedrag deze score niet beïnvloedt of op zijn minst door de overheid in aanmerking wordt genomen, zoals het onderzoek van Wired suggereert. Omdat de ranglijst wordt beïnvloed door de relaties van elke persoon, kunt u ook gemakkelijk gevallen zien waarin er sociale druk is om bepaalde opmerkingen te vermijden.

Er is een aflevering van de Black Mirror- serie die angstaanjagend vergelijkbaar is. In het Chinese programma kunnen vrienden en sociale contacten de evaluatie van een burger beïnvloeden, en tegelijkertijd hebben burgers met zeer betrouwbaar gedrag toegang tot voordelen. Momenteel hebben ze hiermee al toegang tot leningen om online te kopen, een auto te huren zonder een aanbetaling te doen of VIP op verschillende plaatsen in te checken . Het systeem beloont loyaliteit en hoge scores worden gezien als een nieuwe vorm van status. Ruwweg adviseert het systeem burgers hoe ze hun score kunnen verbeteren, bijvoorbeeld door geen vrienden te worden met mensen met lage scores, wat al het prototype is van een elitarisme van politieke ultracorrectie. Zoals Rachel Botsman in Wired zegt, is Sesame Credit de Big Data-videogameversie van de Communistische Partij, de gamification van surveillance. Reeds in China was er de dang'an, een verslag van alle politieke en persoonlijke overtredingen van een burger, maar nu wordt dit exponentieel, omdat het de hele samenleving betreft. Dit zorgt ervoor dat mensen met lage scores een lagere verbindingssnelheid hebben en hun recht om te reizen verliezen, zegt Botsman.

Het niveau dat dit kan bereiken, heeft een alarm gegenereerd. Luciano Flordi, hoogleraar filosofie in Oxford, vergelijkt het met een paradigmaverschuiving op het niveau van de Copernicaanse revolutie of Freuds ideeën dat onze acties worden bestuurd door het onbewuste. Het nieuwe paradigma heeft te maken met de fusie van wat we online doen met het offline leven, het creëren van wat hij " onlife " noemt, dat wil zeggen een nieuwe persoonlijkheid die onze virtuele persoonlijkheid integreert met onze offline fysieke persoonlijkheid. We zullen leven in een wereld die zoiets zal zijn als Yelp voor mensen.

Opgemerkt moet worden dat sommige mensen in China van mening zijn dat dit systeem een ​​zeker voordeel heeft en transparanter is dan wat eerder in dat land werd gedaan. Omdat burgers nog steeds weten dat ze zullen worden gemonitord, zullen ze nu tenminste weten wat de regels zijn en toegang hebben tot hun profiel. Bovendien beschermt het systeem hen tegen zakendoen en uitwisselingen met mensen met weinig geloofwaardigheid, op dezelfde manier als Uber, Airbnb of Mercado Libre.

Terwijl westerlingen reageren op deze gedachte dat het typisch is voor het communisme, realiseren ze zich misschien niet dat hetzelfde in de toekomst zou kunnen gebeuren in samenlevingen als de onze. Rachel Botsman schrijft dat onze samenleving:

Het neigt daar zeker naar. Tenzij er een massale opstand van burgers is die de controle over privacy eist, gaan we een tijdperk in waarin de acties van burgers worden beoordeeld op normen die ze niet kunnen controleren en die niet kunnen worden gewist. De gevolgen zijn niet alleen verontrustend, ze zijn permanent. Laten we het recht vergeten om te wissen en vergeten te worden, om jong en impulsief te zijn.

Hoewel sommige analisten optimistischer zijn - zoals Kevin Kelley, die het heeft over covigilantie (waar de bewakers ook over de bewakers waken) - is de macht die grote internetbedrijven innemen, zoals Google of Facebook, zeker alarmerend. Hoewel deze bedrijven hun gegevens niet noodzakelijkerwijs gebruiken om burgers te beheersen, gebruiken ze ze zeker om hun winst te verhogen, en momenteel kunnen ze al bepaald gedrag ( stoten ) veroorzaken en gedrag voorspellen, soms effectiever dan dezelfde persoon. We weten dat de digitale economie gebaseerd op het idee van oneindige groei geen echte welvaart genereert, maar eerder de ongelijkheid vergroot - burgers van verschillende klassen. We weten ook dat de digitale economie gebaseerd is op het trekken van aandacht en dat allerlei afleidende technologieën worden gecreëerd om aandacht te trekken. We kunnen dus een versie hebben die lijkt op die van het communisme, alleen kapitalistisch; Terwijl de techodystopia van China lijkt op die van Orwell, lijkt die van het Westen op die van Huxley.

Lees ook: Waarom wat we leven meer lijkt op 'Een gelukkige wereld' van Huxley dan op '1984' van Orwell

Afbeelding: Kevin Hong