Moeten we ons zorgen maken over super-AI? 'Het is de over­tref­fen­de trap van alles'

Dit is de situatie

SuperAI: slim, slimmer, slimst

Denk eens aan de slimste mens die je kent. Bijvoorbeeld iemand als de Britse wetenschapper Stephen Hawking. Super-AI zal in het kwadraat slimmer zijn en overtreft mensen volledig. Het is heel anders dan bijvoorbeeld ChatGPT, wat je ongetwijfeld kent. Zo zou super-AI ook goed zijn in liegen, manipuleren en bedriegen. Of zichzelf misschien wel vermenigvuldigen. Waar het 'gewone' AI bestaat uit algemene kennis, zal super-AI onze cognitieve vermogens overstijgen.

Techbedrijven werken er hard aan om de technologie als eerste te kunnen ontwikkelen. Dit is geen garantie dat de techniek er ook binnen 20 of 30 jaar komt. Toch maakt dat wel dat het geen pure speculatie is en dat we erover moeten nadenken, vinden critici.

Dit is de discussie

Super-AI: groot gevaar of een kans?

Ook al bestaat super-AI (nog) niet en misschien zal het zelfs nooit bestaan: we moeten het wel ernstig serieus nemen, vindt Lode Lauwaert, hoogleraar techniekfilosofie. Hij stelt zelfs dat – door de dreiging van deze ontwikkeling - de toekomst van de mensheid op het spel staat.

000

scherm sluiten

000

Lode Lauwaert

Hoogleraar techniekfilosofie

"De machtigste tech-bedrijven op aarde werken allemaal aan superintelligentie. Het AI-systeem zou alles kunnen wat mensen kunnen, maar dan op expertniveau in het kwadraat. Denk bijvoorbeeld aan Stephan Hawking, maal 2 of 3. Of het nou een onderzoeker, CEO of politicus is: voor alles komt er een systeem dat het in het kwadraat zoveel beter kan. We werken aan een systeem dat onze cognitieve capaciteiten kan overschrijden. Ik denk niet dat we er goed op voorbereid zijn als dat lukt."

000

Super-AI zou alles in de overtreffende trap kunnen van mensen. Maar dat hebben we helemaal niet nodig, stelt Lauwaert. Hij stelt dat we ons beter kunnen richten op het AI dat we al kennen en dat ons al veel brengt.

000

scherm sluiten

000

"Ik denk dat we ons hard moeten inzetten voor artificiële intelligentie en daarin moeten investeren. Ook voor AI die ons verregaand overschrijdt, bijvoorbeeld voor klimaatonderzoek of biomedisch onderzoek om kanker de wereld uit te helpen. Dat hebben we nodig. Maar ik denk niet dat we nood hebben aan een systeem dat daarnaast ook nog eens supergoed kan liegen, manipuleren, chanteren, verraden, bedriegen enzovoort. Dat is het gevaar."

000

Volgens hoogleraar Lauwaert bevinden we ons in een ‘AI-race’: grote techbedrijven werken superhard om het systeem als eerste te kunnen ontwikkelen. Hij vreest dat daarin weinig aandacht is voor ethiek.

000

scherm sluiten

000

"Grote tech-bedrijven hebben er alle belang bij om de eerste te zijn bij het ontwikkelen van superintelligentie. En als er nu iets is wat mensen doen als ze racen, dan is het geen aandacht meer hebben voor veiligheid, of die maar losjes nemen. Ik ben er niet zo zeker van dat we hard moeten vertrouwen op de ethiek van bedrijven die er nu 500 tot 600 miljard in pompen."

000

AI-trendwatcher Christiaan Krommer denkt juist dat we zo’n superintelligentie keihard nodig gaan hebben in de wereld.

000

scherm sluiten

000

Christiaan Krommer

Trendwatcher

"De samenleving wordt steeds complexer en als mensen zijn we duidelijk niet in staat om dat te managen. Het lijkt niet de goede kant op te gaan met de wereld. Ik denk juist dat intelligenties ons kunnen helpen om beslissingen te maken die we vandaag de dag niet maken. De wereld wordt nu geregeerd wordt door individuen met een beperkte intelligentie en dat lijkt steeds meer af te brokkelen. Dus we hebben keihard systemen nodig die de complexiteit kunnen overzien en met oplossingen komen die voor de hele mensheid dienstbaar zijn."

000

Tuurlijk zijn er ook gevaren, ziet ook hij. Toch benadrukt hij vooral de kansen van super-AI.

000

scherm sluiten

000

"Het is schadelijk als zo’n hoge intelligentie ons om de tuin kan leiden. Alleen je ziet nu ook dat grote tech-bedrijven er enorm veel aan dacht aan geven om het veilig te ontwikkelen. Daarom is het ook belangrijk dat het systeem leert om te verklaren hoe het tot een bepaalde beslissing is gekomen. De huidige AI-systemen kunnen dat niet echt."

000

Hij is minder bang dat de ethiek overboord wordt gegooid in de harde race van tech-bedrijven. Ze zullen wel moeten, zo stelt hij.

000

scherm sluiten

000

"Wie het eerste superintelligentie bereikt, heeft de hoofdprijs gewonnen. Die krijgt een jackpot. Maar de tech-bedrijven hebben er geen belang bij dat AI negatief uitstraalt op de samenleving. Dus je ziet dat die bedrijven er heel veel aan doen om het in goede banen te leiden. Misschien op ethisch vlak niet alles, maar wel veel."

000

Meer weten?

Luister naar Dit is de Dag (EO)

In Dit is de Dag (EO) gaat presentator Margje Fikse verder over super-AI in gesprek met hoogleraar techniekfilosofie Lode Lauweaert en AI-trendwatcher Christiaan Krommer. Beluister de uitzending hieronder als podcast. 

Luister jij liever via een ander kanaal? Klik hier om het gesprek af te spelen op jouw favoriete podcast-app.

Dit maakten we ook

• Is AI een vloek of een zegen? 'Stel je voor dat je voor alle problemen oplossingen vindt’

  Is AI een vloek of een zegen? 'Stel je voor dat je voor alle problemen oplossingen vindt’

• Criminelen maken misbruik van kunstmatige intelligentie (AI) om jou te misleiden

  Criminelen maken misbruik van kunstmatige intelligentie (AI) om jou te misleiden

• Waarom je kinderen al jong over AI moet leren: 'Ze gaan het later in hun werk gebruiken'

  Waarom je kinderen al jong over AI moet leren: 'Ze gaan het later in hun werk gebruiken'