Onderzoek toont aan dat het niet langer mensen zijn die beslissingen nemen, het zijn algoritmen

De algoritmische overheid is geen ding van de toekomst

Het is duidelijk dat we in het tijdperk van het algoritme leven. Bijna alle ruimtes waarin we bewegen worden bepaald door een algoritme, of het nu gaat om de hoofdstraat, de distributie van producten in een supermarkt of de nieuwsfeed van een sociaal netwerk. De mens is ervan overtuigd dat de algoritmen efficiënter zijn en betere beslissingen zullen nemen, maar dit is niet noodzakelijk waar en bovendien zijn de algoritmen reflecties van een kapitalistisch systeem dat geen centrale controle heeft maar is geprogrammeerd om op enigerlei wijze te blijven groeien., zonder wapenstilstand, als een kanker. Zoals Douglas Rushkoff en Mark Pesce suggereren, kennen de algoritmen 'je energie (je aandacht: gegevens), kennen ze je zwakke punten en kunnen ze je emotionele toestand beïnvloeden om te handelen op een manier die niet in lijn is met je beste interesses, 'we kunnen ze demonen noemen, of dit is wat zoiets een paar eeuwen geleden werd genoemd.

In een wetenschappelijk onderzoek concludeerden Allen Lee en Dionysios Demetis dat 'de rollen van informatietechnologie en mensen zijn omgedraaid', omdat 'de technologie nu zover is dat ze ons gebruikt en zelfs controleert'. Dit is paradoxaal, omdat de algoritmen geen agentschap hebben; Mensen zijn degenen met keuzevrijheid, maar algoritmen hebben ons nu geëlimineerd van besluitvorming. We zijn nu 'menselijke artefacten' die bestaan ​​in de omgeving van algoritmen.

De door onderzoekers aangehaalde voorbeelden zijn: juridische analisten worden vervangen door kunstmatige intelligentie; Software mag toekomstige criminelen voorspellen en de beslissingen van rechters beïnvloeden (hoewel ze de complexiteit van deze mechanismen niet eens begrijpen). De grootste bedrijven ter wereld filteren de cv's al via software, waardoor mensen bepaalde details van potentiële kandidaten niet kunnen beoordelen. Zoals de onderzoekers opmerken, zorgt dit ervoor dat sommige bedrijven, zoals Amazon, bepaalde ongewenste vooroordelen volgen in hun wervingsbeleid - en de algoritmen zijn meestal discriminerend. Anderzijds gebeurt 85% van de financiële transacties op internationale markten uitsluitend met algoritmen. En deze algoritmen nemen beslissingen op basis van complexe mechanismen die we niet volledig begrijpen. Er wordt aangenomen dat de crisis van 2010 genaamd Flash Crash, waarbij de Dow Jones in enkele minuten 9% daalde, werd veroorzaakt door algoritmen. Mensen die markten en financieel beleid beheersen, zijn van mening dat menselijke beslissingen een belemmering vormen voor marktefficiëntie, maar dit heeft aangetoond dat algoritmen onvoorspelbaar zijn. Demetis en Lee concluderen:

Terwijl nieuwe grenzen worden bepaald tussen mens en technologie, moeten we goed nadenken over waar onze extreme afhankelijkheid van software ons brengt. Terwijl menselijke beslissingen worden vervangen door algoritmische beslissingen, en we tools worden waarvan de levens worden gevormd door machines en waarvan de gevolgen ondenkbaar zijn, maken we ons klaar om te worden gedomineerd door technologie. We moeten, zolang we nog kunnen, beslissen wat dit voor ons als individuen en als samenleving betekent.

We moeten ons afvragen of de mensheid niet die Uber-coureur zal worden die alleen weet hoe te gaan waar zijn app hem vertelt, en ophoudt te weten hoe hij zelf moet denken en beslissen. Blind vertrouwen in het algoritme is het ergste fanatisme. Uiteindelijk zullen alle Uber-stuurprogramma's worden vervangen door robots.