KAMEROEN – Het zijn moordende robots versus superintelligentie.
Visies op de toekomst, rechtstreeks uit stripboeken, spelen zich af bij de Verenigde Naties terwijl wereldleiders praten over de dreiging – of belofte – van kunstmatige intelligentie.
Aanbevolen video’s
Opnieuw was het Donald Trump tegen de VN, het hoofd van de VN en andere leiders over een dringende kwestie die betrekking heeft op de wetenschap en de toekomst, in navolging van de aanhoudende geschillen over de dreiging van klimaatverandering.
Gewapend met een nieuw wetenschappelijk rapport van de VN dat waarschuwt voor een klein maar reëel potentieel van catastrofale en onomkeerbare schade, trapte VN-secretaris-generaal Antonio Guterres de parade van wereldleiders af die op de Algemene Vergadering spraken door op te roepen tot meer toezicht op AI, waarbij hij in levendige, zo niet onheilspellende termen waarschuwde voor wat er mis zou kunnen gaan.
“Laten we besluiten dat beslissingen over leven en dood nooit aan machines mogen worden overgelaten. Killer-robots mogen geen plaats hebben in onze toekomst”, zei Guterres in zijn afscheidstoespraak tot de wereldleiders. Tien jaar geleden waarschuwde hij ook voor AI in zijn eerste toespraak op de Algemene Vergadering.
Nu Guterres zegt dat de wereld “de voorwaarden moet bevorderen voor het verantwoorde tempo van AI en de aanvullende waarborgen die nodig zijn om risico’s aan te pakken”, zal de VN-Veiligheidsraad woensdag ingaan op de vraag hoe enige vorm van controle op de technologie kan worden uitgeoefend, en daarin zullen enkele van de grootste namen in het veld aan bod komen.
Het is super, niet kunstmatig, zegt Trump
Nog geen uur later had Trump daar niets van. “De Verenigde Staten verwerpen ook volledig elke poging om een mondiaal plan op te zetten om controle te krijgen over de kunstmatige intelligentie waarover zoveel wordt gesproken. Nu hier en daarna officieel superintelligentie genoemd, waarbij de naam verandert”, zei hij.
Wereldleiders spraken nadat Trump ‘kunstmatige intelligentie’ gebruikte – niet ‘super’.
“Elke grote nieuwe technologie brengt uitdagingen met zich mee, en superintelligentie is daarop geen uitzondering”, zei Trump. “Toch zijn het dezelfde mensen die zeiden dat we over twaalf jaar allemaal dood zullen zijn vanwege de opwarming van de aarde, een naam die sindsdien herboren is door de klimaatverandering, omdat de planeet afkoelde, niet opwarmde, en niemand dood was. Dit zijn dezelfde mensen die nu zeggen dat AI ons allemaal gaat vermoorden, dat robots ons gaan aanvallen en dat alles een totale ramp gaat worden.”
Trump verwees naar een VN-rapport uit 2018 waarin het gevaar werd geschetst van door de mens veroorzaakte klimaatverandering voor het op lange termijn overschrijden van de internationaal overeengekomen opwarmingsdrempel van 1,5 graden Celsius (2,7 graden Fahrenheit) sinds de pre-industriële tijd, en zei dat het nog twaalf jaar duurt.
Uit onderzoek blijkt nu dat er de komende jaren een inbreuk dreigt. Dat rapport – samen met andere wetenschappelijke documenten – zei niet dat iedereen zou sterven. Het zei dat extreem weer gevaarlijker zou worden en dat het verminderen van de vervuiling 100 miljoen voortijdige sterfgevallen in de komende 82 jaar zou kunnen voorkomen.
Bovendien is de wereld de afgelopen twaalf jaar niet afgekoeld, maar met 0,8 graden Fahrenheit (0,45 graden Celsius) opgewarmd, aldus de Amerikaanse National Oceanic and Atmospheric Administration.
Doe het langzaam maar werk samen, zeggen anderen
Het probleem is dat zowel Trump als Guterres de kwestie reduceren tot iets dat niet nuttig is, zegt Henry Hoffmann, voorzitter van de computerwetenschappenafdeling van de Universiteit van Chicago.
“De een maakt er een sciencefictionfilm van, de ander maakt er een non-issue van”, zei Hoffmann in een e-mail. “Beide zetten mensen ertoe aan een team te kiezen in plaats van zich bezig te houden met de echte risico’s en de mogelijke oplossingen. Er mogen geen ‘kanten’ zijn over de vraag of we adequate controle over krachtige autonome systemen nodig hebben. Het interessante debat gaat over welke mechanismen daadwerkelijk voor die controle zorgen.”
Andere landen willen ervoor zorgen dat ze niet achterblijven tijdens een AI-race tussen de VS en China, waarvan Trump zei dat Amerika aan het winnen is. De Franse president Emmanuel Macron en Guterres hebben ook de kwestie van de bescherming van kinderen ter sprake gebracht.
“Laten we niet wachten tot de gevolgen op AI neerdalen”, zei Macron. “We moeten nu handelen om onze kinderen en onze jongeren te beschermen.”
De Finse president Alexander Stubb zei, net als andere leiders, dat AI de wereld zal veranderen, mogelijk voorgoed, maar dat er sterke controles nodig zijn.
“Kunstmatige intelligentie is de meest consequente technologie in de geschiedenis van de mensheid. Het zal een impact hebben op de wetenschap, de economie, de politiek, de veiligheid en de essentie van onze menselijkheid”, aldus Stubb. “Mensen kunnen en moeten aan het stuur zitten. We hebben een keuze. We kunnen concurreren, samenwerken of vertragen. Voor mij is samenwerking de beste weg vooruit.”
De Britse premier Andy Burnham vertelde op een bijeenkomst van bedrijfsleiders aan de zijlijn van de Algemene Vergadering van de VN dat hij “één enkele reeks mondiale principes en normen” wil zien die het potentieel van AI kan ontsluiten en tegelijkertijd de risico’s ervan kan beperken.
Hij zei dat het smeden van “AI voorgoed” de belangrijkste focus zal zijn van het Britse voorzitterschap van de G20-groep van landen volgend jaar.
Voorafgaand aan de toespraken van maandag zei Ian Bremmer, voorzitter van de Eurasia Group, een adviesbureau voor politieke risico’s, dat AI het potentieel heeft om de wereld schoner te maken, de technologie te verbeteren en levens te verbeteren – maar ook eng kan zijn. Proberen om te gaan met AI zou, net als klimaatverandering, een van de meest betekenisvolle rollen kunnen zijn die de Verenigde Naties zouden kunnen spelen, maar de macht ervan is beperkt, zei Bremmer.
Op de AI-bijeenkomst van de Veiligheidsraad van woensdag zullen enkele van de grootste namen op het gebied van AI aanwezig zijn, waaronder degenen die onlangs aan de bel hebben getrokken over de noodzaak van vangrails. Sam Altman, de CEO van OpenAI, gevolgd door Dario Amodei, de CEO van Anthropic, en ten slotte Clément Delangue, de CEO van en mede-oprichter van Hugging Face, dat werd gehackt door een frauduleus OpenAI-programma.
Edith M. Lederer, Jill Lawless en Jennifer Peltz hebben bijgedragen aan dit rapport van de Verenigde Naties.