Kunstmatige intelligentie die valse teksten kan schrijven, wordt als te gevaarlijk beschouwd

Diep nep voor teksten: de machine op maat gemaakt voor het tijdperk na de waarheid

De laatste 3 jaar op internet werden gedomineerd door het prille bewustzijn van het gevaar van nepnieuws en de overtuiging van kiezers of consumenten door algoritmen die zich in realtime voeden met hun informatie om hun online gedrag te manipuleren. Dit risico, dat door sommigen als een poging tegen democratie en autonomie wordt beschouwd, zou een nieuwe actor kunnen hebben bij de ontwikkeling van programma's die erin slagen artikelen te schrijven die gemakkelijk door mensen kunnen worden opgeschreven, tot een niet te onderscheiden of bijna niet te onderscheiden punt.

Een paar weken geleden kondigde het OpenAI-platform aan dat het zich zorgen maakte over het mogelijk schadelijke gebruik van zijn GPT2-model, dat " diep nep voor teksten" wordt genoemd. Het bedrijf, dat Elon Musk onder zijn investeerders heeft, zei dat het de informatie van zijn onderzoek niet openbaar zal maken uit angst dat deze technologie negatieve gevolgen heeft. Het GPT2-model is in staat plausibele tekst te genereren zodra deze is gevoed met een tekst, zoiets als een idee om te ontwikkelen dat aansluit op andere informatie.

Het systeem onderscheidt zich van andere programma's doordat het hetzelfde thema en dezelfde syntaxis handhaaft en standaardpassages creëert die door een persoon lijken te zijn geschreven. Dit platform werd getraind met meer dan 10 miljoen items. Aan de ene kant is dit zeer interessant, omdat dit model taken kan uitvoeren zoals het vertalen en samenvatten van teksten. Maar aan de andere kant heeft het een potentieel dat, hoewel we ons kunnen voorstellen waar het zou kunnen leiden, het echt bijna onbegrensd is in de mogelijkheden van gebruik dat kan worden gegeven om te misleiden en te manipuleren. Het systeem kan bijvoorbeeld talloze positieve of negatieve productbeoordelingen genereren. Het kan talloze spamberichten produceren en zelfs databases bestuderen om e-mails te genereren die mensen willen oplichten. Of complottheorieën, of teksten gericht op het uitlokken van bepaalde sociale of politieke groepen. Het kan hele nepnieuws of informatiesites produceren voor propagandadoeleinden.

Hoewel deze voorzichtigheid welkom is, is het daarentegen duidelijk dat deze technologie in sommige jaren door andere mensen zal worden ontwikkeld en waarschijnlijk voor schadelijke doeleinden kan worden gebruikt. Het is dus belangrijk om ons voor te bereiden en op te leiden. Wat onbetwistbaar lijkt, is dat we een punt bereiken waarop de technologie die we creëren in staat is om een ​​deel van onze mentale kwetsbaarheden en ons morele en intellectuele niveau te misbruiken, omdat de beschaving niet in orde is om het gebruik van deze technologie te beschermen. Dat is zorgelijk. Het lijkt erop dat we leven in de tijd die Philip K. Dick dacht:

Valse realiteiten zullen valse mensen creëren. Of, valse mensen zullen valse realiteiten genereren en ze vervolgens aan andere mensen verkopen en ze uiteindelijk in vervalsingen van zichzelf veranderen. Dus we eindigen met nepmensen die nep-realiteiten uitvinden en deze vervolgens verkopen aan andere nepmensen.