De schaduwkant van AI: 'Ze moeten verschil aanwijzen tussen verkrachting en hardcore porno'

"We gebruiken AI-modellen voor van alles, maar we kijken niet veel verder dan de techniek op ons beeldscherm", zegt Hummelen in Geld of je Leven (EO). Hij deed samen met zijn collega onderzoek naar de wereld achter de techniek en wat hij vond was "niet fraai".

Veel mensen denken dat AI een zelflerend systeem is, waar geen menselijke arbeid voor nodig is. Maar dit klopt niet, zegt Hummelen. "Iemand moet het AI-beest voeden. Amerikaanse big tech-bedrijven werven mensen in Afrika om het te trainen, dat zijn datawerkers." Ze moeten bijvoorbeeld aan AI leren wat het verschil is tussen een hond en een hyena. Dat is volgens Hummelen: "Dom en geestdodend werk, maar niet psychisch schadelijk."

Jos Hummelen

Journalist

"Ze moest kijken naar video's van een busongeluk dat net gebeurd was, in een van die bussen zat haar opa."

Maar de beelden die mensen moeten checken worden steeds heftiger. "Je moet AI bijvoorbeeld het verschil leren tussen een verkrachting en hardcore porno en andere dingen waar je zeker niet naar wilt kijken." Hummelen haalt het verhaal aan van datawerker Mercy, zij vertelde aanThe Guardian dat ze ongelukken moest bekijken en bepalen of dat echte beelden waren. Ze keek naar een busongeluk dat net gebeurd was, in een van die bussen zat haar opa. Ze zag dus hoe haar opa was overleden tijdens dat ongeluk. "Het algoritme gaf haar niet één filmpje van het ongeluk, maar meerdere. Dat was natuurlijk hartstikke traumatiserend voor deze vrouw. Maar ze kon niet stoppen, want als ze haar target niet haalde die week kreeg ze geen inkomsten."

In Kenia alleen al werken één miljoen datawerkers. Zij checken niet alleen beelden voor AI, maar ook voor sociale media. De collega van Hummelen sprak voor hun onderzoek met datawerker Joan. Zij bepaalde welke video's in Europa en Amerika op YouTube geüpload mochten worden. Joan zag hoe mensen levend gevild en daarna gebakken werden. Ze spande een rechtszaak aan en werd direct ontslagen.

Verandering moet vanuit Europa komen, vindt Hummelen. De Amerikaanse bedrijven lopen nu voor, maar we kunnen nog een inhaalslag maken denkt hij. Europa moet met eigen AI-systemen en -wetgeving komen. Hummelen vindt dat je wel over deze schaduwzijde van AI moet weten als je het gebruikt. Maar hij denkt dat veel gebruikers het liever niet zien: "We willen het niet weten. Wil jij het wel weten?" Zelf gebruikt hij het wel: "Ik kom er ook niet onderuit. AI gaat hard en blijft hard gaan."

Luister Geld of je Leven terug als podcast

In Geld of je Leven (EO) gaat Margje Fikse verder over dit onderwerp in gesprek met journalist Jos Hummelen en Lysanne van de Kamp van Micha Nederland. Beluister de uitzending hieronder als podcast. 

Luister jij liever via een ander kanaal? Klik hier om het gesprek af te spelen op jouw favoriete podcast-app.

• ChatGPT kost ontzettend veel stroom: 'Willen we dit echt, en worden we er beter van?'

  ChatGPT kost ontzettend veel stroom: 'Willen we dit echt, en worden we er beter van?'

• Nu ook starters de sjaak door AI? 'Minder startersvacatures'

  Nu ook starters de sjaak door AI? 'Minder startersvacatures'

• Geen politieke reclame meer op Facebook: is dat wel eerlijk?

  Geen politieke reclame meer op Facebook: is dat wel eerlijk?