“OpenAI betaalde Kenianen 2 euro per uur om ChatGPT minder toxisch te maken”

Geschreven door

Moises van der Vlis

Gecontroleerd door

Geoff

Bijgewerkt op

1 februari 2023

[addtoany] ×

De werknemers van een Keniaans bedrijf ploeterden voor een hongerloontje om ChatGPT te zuiveren van de ergste toxische invloeden. Dat werd veel van hen teveel.

Internet, een open riool?

Internet wordt vaak wel een open riool genoemd. Hoewel dat wat overdreven is, is er helaas genoeg inhoud die je liever niet aan je schoonmoeder zou willen laten lezen. GPT-3, de technologie waarop ChatGPT gebaseerd is, maakt gebruik van honderden miljarden worden aan teksten die van internet zijn gehaald. Sommige hiervan stonden bol van het racisme, seksueel misbruik en andere dingen die echt niet kunnen. Uiteraard moesten deze teksten uit de ChatGPT database, voordat deze online kon.

Kenianen helpen OpenAI met ChatGPT aan te leren wat toxische teksten zijn

Voor deze ondankbare taak (ontdekte het Amerikaanse blad Time) huurde OpenAI, de eigenaar van ChatGPT, Sama in Nairobi in. Sama beschouwt zichzelf als een ethisch Ai bedrijf dat meer dan 50.000 mensen uit de armoede heeft gehaald. Op zich zeer welkom in Kenia. Want de gemiddelde Keniaan verdient € 150 per maand. Als hij of zij al werk heeft.

De strategie van OpenAI is beproefd. Geef een groot aantal tekstfragmenten aan mensen, en laat mensen beoordelen welke tekstfragment zij aanstootgevend vinden en welk niet. Vervolgens train je een AI met behulp van deze set, zodat deze onderscheid kan maken tussen teksten die geclassificeerd zijn als “toxisch”, en normale teksten. Voor deze benadering heb je duizenden teksten nodig.

Toxische teksten veroorzaken psychische problemen bij Kenianen

Er is alleen een probleem. Mensen moeten die teksten eerst lezen, voordat ze kunnen beoordelen of een tekst aanstootgevend is of niet. Zonder deze menselijke input, werkt ChatGPT domweg niet. Daarnaast zijn sommige teksten dermate verschrikkelijk, dat ze voor gevoelige mensen grote psychische schade kunnen aanrichten.

Zo kreeg een man voortdurend dwangmatige beelden op zijn netvlies na het lezen van een uitermate akelige beschrijving van dieren- en kindermisbruik. Dit was aanleiding voor Sama om de samenwerking met Open AI te beëindigen.

Enkele werknemers verloren hun baan. Die met 1,32 per uur toch al niet erg goed betaalde, want het minimumloon in Nairobi ligt rond die hoogte. En ook nadat Sama de samenwerking stopte, bleven de klachten bij enkelen aanhouden.