Moeten we ons zorgen maken over super-AI? 'Het is de overtreffende trap van alles'
Leestijd: 3 minDoor Nicolette de Boer
Leestijd: 3 minDoor Nicolette de Boer
Heb jij al eens gehoord van super-AI? Dit is de superslimme opvolger van AI. Techbedrijven werken er hard aan, maar het bestaat nog niet. Moeten we ons zorgen maken? "Ik denk niet dat we er op zijn voorbereid als dit lukt."
Denk eens aan de slimste mens die je kent. Bijvoorbeeld iemand als de Britse wetenschapper Stephen Hawking. Super-AI zal in het kwadraat slimmer zijn en overtreft mensen volledig. Het is heel anders dan bijvoorbeeld ChatGPT, wat je ongetwijfeld kent. Zo zou super-AI ook goed zijn in liegen, manipuleren en bedriegen. Of zichzelf misschien wel vermenigvuldigen. Waar het 'gewone' AI bestaat uit algemene kennis, zal super-AI onze cognitieve vermogens overstijgen.
Techbedrijven werken er hard aan om de technologie als eerste te kunnen ontwikkelen. Dit is geen garantie dat de techniek er ook binnen 20 of 30 jaar komt. Toch maakt dat wel dat het geen pure speculatie is en dat we erover moeten nadenken, vinden critici.
Ook al bestaat super-AI (nog) niet en misschien zal het zelfs nooit bestaan: we moeten het wel ernstig serieus nemen, vindt Lode Lauwaert, hoogleraar techniekfilosofie. Hij stelt zelfs dat – door de dreiging van deze ontwikkeling - de toekomst van de mensheid op het spel staat.
Lode Lauwaert
Hoogleraar techniekfilosofie"De machtigste tech-bedrijven op aarde werken allemaal aan superintelligentie. Het AI-systeem zou alles kunnen wat mensen kunnen, maar dan op expertniveau in het kwadraat. Denk bijvoorbeeld aan Stephan Hawking, maal 2 of 3. Of het nou een onderzoeker, CEO of politicus is: voor alles komt er een systeem dat het in het kwadraat zoveel beter kan. We werken aan een systeem dat onze cognitieve capaciteiten kan overschrijden. Ik denk niet dat we er goed op voorbereid zijn als dat lukt."
Super-AI zou alles in de overtreffende trap kunnen van mensen. Maar dat hebben we helemaal niet nodig, stelt Lauwaert. Hij stelt dat we ons beter kunnen richten op het AI dat we al kennen en dat ons al veel brengt.
"Ik denk dat we ons hard moeten inzetten voor artificiële intelligentie en daarin moeten investeren. Ook voor AI die ons verregaand overschrijdt, bijvoorbeeld voor klimaatonderzoek of biomedisch onderzoek om kanker de wereld uit te helpen. Dat hebben we nodig. Maar ik denk niet dat we nood hebben aan een systeem dat daarnaast ook nog eens supergoed kan liegen, manipuleren, chanteren, verraden, bedriegen enzovoort. Dat is het gevaar."
Volgens hoogleraar Lauwaert bevinden we ons in een ‘AI-race’: grote techbedrijven werken superhard om het systeem als eerste te kunnen ontwikkelen. Hij vreest dat daarin weinig aandacht is voor ethiek.
"Grote tech-bedrijven hebben er alle belang bij om de eerste te zijn bij het ontwikkelen van superintelligentie. En als er nu iets is wat mensen doen als ze racen, dan is het geen aandacht meer hebben voor veiligheid, of die maar losjes nemen. Ik ben er niet zo zeker van dat we hard moeten vertrouwen op de ethiek van bedrijven die er nu 500 tot 600 miljard in pompen."
AI-trendwatcher Christiaan Krommer denkt juist dat we zo’n superintelligentie keihard nodig gaan hebben in de wereld.
Christiaan Krommer
Trendwatcher"De samenleving wordt steeds complexer en als mensen zijn we duidelijk niet in staat om dat te managen. Het lijkt niet de goede kant op te gaan met de wereld. Ik denk juist dat intelligenties ons kunnen helpen om beslissingen te maken die we vandaag de dag niet maken. De wereld wordt nu geregeerd wordt door individuen met een beperkte intelligentie en dat lijkt steeds meer af te brokkelen. Dus we hebben keihard systemen nodig die de complexiteit kunnen overzien en met oplossingen komen die voor de hele mensheid dienstbaar zijn."
Tuurlijk zijn er ook gevaren, ziet ook hij. Toch benadrukt hij vooral de kansen van super-AI.
"Het is schadelijk als zo’n hoge intelligentie ons om de tuin kan leiden. Alleen je ziet nu ook dat grote tech-bedrijven er enorm veel aan dacht aan geven om het veilig te ontwikkelen. Daarom is het ook belangrijk dat het systeem leert om te verklaren hoe het tot een bepaalde beslissing is gekomen. De huidige AI-systemen kunnen dat niet echt."
Hij is minder bang dat de ethiek overboord wordt gegooid in de harde race van tech-bedrijven. Ze zullen wel moeten, zo stelt hij.
"Wie het eerste superintelligentie bereikt, heeft de hoofdprijs gewonnen. Die krijgt een jackpot. Maar de tech-bedrijven hebben er geen belang bij dat AI negatief uitstraalt op de samenleving. Dus je ziet dat die bedrijven er heel veel aan doen om het in goede banen te leiden. Misschien op ethisch vlak niet alles, maar wel veel."
In Dit is de Dag (EO) gaat presentator Margje Fikse verder over super-AI in gesprek met hoogleraar techniekfilosofie Lode Lauweaert en AI-trendwatcher Christiaan Krommer. Beluister de uitzending hieronder als podcast.
De weergave van Spotify vereist jouw toestemming voor social media cookies.
Luister jij liever via een ander kanaal? Klik hier om het gesprek af te spelen op jouw favoriete podcast-app.
Is AI een vloek of een zegen? 'Stel je voor dat je voor alle problemen oplossingen vindt’
Criminelen maken misbruik van kunstmatige intelligentie (AI) om jou te misleiden
Waarom je kinderen al jong over AI moet leren: 'Ze gaan het later in hun werk gebruiken'
