AI speelt steeds grotere rol in oorlogen: 'Je moet niet de grens overgaan om het te gebruiken bij moord'
Leestijd: 4 minDoor Stijn de Jong
Leestijd: 4 minDoor Stijn de Jong
"Ik denk dat de echte kern van oorlogsvoering een menselijk iets is."
"Het tempo wordt zo hoog dat het ten koste gaat van precisie."
"We werken altijd met een betekenisvolle menselijke controle."
AI: we kunnen er niet meer omheen. Ook in oorlogen speelt het een steeds grotere rol en dat kent gevaren. "De mens kan nadenken over ethiek, AI niet", vertelt Roos Boer van vredesorganisatie PAX.
Kunstmatige intelligentie is volgens paus Leo XIV de omwenteling van deze tijd, te lezen in zijn eerste encycliek. Hij noemt het een gevaarlijke ontwikkeling dat een kleine groep particulieren en bedrijven met hun technologie een enorme invloed heeft op de wereld. Ook betrekt hij het op oorlogssituaties: zo waarschuwt hij voor de opkomst van autonome wapensystemen, waarbij wapens zelfstandig doelen zoeken en aanvallen zonder dat een mens ingrijpt. Ook vindt er doelwitselectie plaats, waarbij AI kijkt naar welke doelen er aangevallen moeten worden. Zo wordt in kaart gebracht wat wel en wat niet aangevallen kan worden.
In het voorjaar werd in Iran een meisjesschool geraakt door een Israƫlische raket, met tientallen doden tot gevolg. Volgens defensie-expert Bart van den Berg zou 'het heel goed kunnen' dat dit een fout was door AI. Er loopt een Amerikaans onderzoek naar de oorzaak. "Er wordt gerapporteerd dat het mogelijk te maken heeft met het gebruik van oude satellietbeelden", vertelt Roos Boer van vredesorganisatie PAX.
Nederland probeert de kar te trekken om wereldwijd tot afspraken te komen over de ethische kwesties bij kunstmatige intelligentie. Er moet oog zijn voor onder meer zaken als gendergelijkheid en het effect op het klimaat. De mens staat centraal.
AI in tijden van oorlog: is het wijsheid? De digitale revolutie zorgt volgens de paus voor een verandering bij oorlogsvoering. Dat volgt Bart van den Berg, defensie-expert bij Clingendael, wel.
Bart van den Berg
Defensie-expert Clingendael"Ik denk dat de echte kern van oorlogsvoering een menselijk iets is, dat zal niet veranderen. Maar de wijze waarop het gevoerd wordt, is zeker veranderlijk."
Veel van de stappen om een militair doel in kaart te brengen, gaat volgens Van den Berg veel sneller dan vroeger.
"Veel van die stappen gaan geautomatiseerd. Wat vroeger 2000 mensen aan het doen waren, zijn dat er nu 20. Dus dat gaat veel sneller. Maar wat dan vervolgens het effect en de kwaliteit is van die lijsten met doelwitten en die bommen, daar heb ik wel mijn vraagtekens bij."
Ook Roos Boer van vredesorganisatie PAX ziet dat er technologisch meer mogelijkheden zijn voor autonome wapensystemen, maar heeft daar haar kanttekeningen bij.
Roos Boer
Vredesorganisatie PAX"Wat natuurlijk geen probleem is als je het hebt over logistiek, bevoorrading en dat soort zaken. Maar als je het hebt over het inzetten van geweld tegen mensen dan is dat wat ons betreft een bepaalde grens die niet overgegaan moet worden."
Het is volgens Boer de vraag of een algoritme in staat is om de waarde van een menselijk leven in te schatten.
"Het systeem geeft je maar kort de tijd om te handelen. Je hebt twintig seconden om ja of nee te zeggen. En dan is dus de vraag of er nog betekenisvolle menselijke controle is bij het goedkeuren van die doelen. Daarbij is ook nog eens bekend dat die systemen een foutmarge hadden van tien procent. (...) Het tempo wordt zo hoog, dat het inboet aan precisie en het controleren van de doelen die gesuggereerd worden."
Marc Derksen is oprichter van drone-softwarebouwer Intelic en ontwikkelt software voor Defensie. Snelheid kan een probleem zijn, maar ook een voordeel hebben, denkt hij.
Marc Derksen
Oprichter drone-softwarebouwer Intelic"Op het moment dat je in strijd bent met een land is het de bedoeling om zo snel mogelijk die strijd tot een einde te brengen. Dat doe je door ervoor te zorgen de wil om te vechten van de vijand te breken. Door dit soort software te gebruiken om sneller doelen uit te schakelen, kan je de strijd korter laten duren."
Of een drone zelf kan beslissen of die schiet?
"Dat kan niet. We werken altijd met een human onderloop, een betekenisvolle menselijke controle. Een drone komt zelf niet tot besluiten."
Een mens zou volgens alle sprekers niet verwijderd moeten worden in die ethische keuzes.
Roos Boer
Vredesorganisatie PAX"Want mensen zijn in staat tot empathie en in staat verantwoordelijkheid te nemen als ze op fouten worden aangesproken. Daarnaast kunnen ze bedenken wat de waarde van een menselijk leven is en compassie tonen. Dat zijn allemaal waarden die je aan AI kan meegeven. Maar ik denk dat de mens tot ethiek in staat is en AI niet."
In Dit is de dag (EO) gaat Jan Willem Wesselink verder over dit onderwerp in gesprek. Beluister de uitzending hieronder als podcast.
De weergave van Spotify vereist jouw toestemming voor social media cookies.
Luister jij liever via een ander kanaal? Klik hier om het gesprek af te spelen op jouw favoriete podcast-app.
