Prins Harry en zijn vrouw Meghan hebben zich aangesloten bij vooraanstaande computerwetenschappers, economen, kunstenaars, evangelische christelijke leiders en Amerikaanse conservatieve commentatoren Steve Bannon en Glenn Beck om op te roepen tot een verbod op AI-‘superintelligentie’ die de mensheid bedreigt.
De brief, woensdag vrijgegeven door een politiek en geografisch diverse groep publieke figuren, is regelrecht gericht op technologiegiganten als Google, OpenAI en Meta Platforms die met elkaar racen om een vorm van kunstmatige intelligentie te bouwen die is ontworpen om mensen bij veel taken te overtreffen.
Aanbevolen video’s
In de brief wordt opgeroepen tot een verbod, tenzij aan een aantal voorwaarden wordt voldaan
De verklaring van 30 woorden luidt:
“Wij roepen op tot een verbod op de ontwikkeling van superintelligentie, dat niet wordt opgeheven voordat er een brede wetenschappelijke consensus bestaat dat dit veilig en controleerbaar zal gebeuren, en er een sterke publieke buy-in is.”
In een preambule wordt in de brief opgemerkt dat AI-instrumenten gezondheid en welvaart kunnen brengen, maar naast deze instrumenten “hebben veel toonaangevende AI-bedrijven het gestelde doel om in het komende decennium superintelligentie op te bouwen die aanzienlijk beter kan presteren dan alle mensen op vrijwel alle cognitieve taken. Dit heeft aanleiding gegeven tot zorgen, variërend van menselijke economische veroudering en machteloosheid, verlies van vrijheid, burgerlijke vrijheden, waardigheid en controle, tot nationale veiligheidsrisico’s en zelfs mogelijke uitsterving van de mensheid.”
Wie heeft getekend en wat ze erover zeggen
Prins Harry voegde er in een persoonlijke notitie aan toe dat “de toekomst van AI de mensheid moet dienen en niet moet vervangen. Ik geloof dat de echte test voor vooruitgang niet zal zijn hoe snel we bewegen, maar hoe verstandig we sturen. Er is geen tweede kans.”
Naast de hertog van Sussex tekende zijn vrouw Meghan, de hertogin van Sussex.
“Dit is geen verbod of zelfs maar een moratorium in de gebruikelijke zin”, schreef een andere ondertekenaar, Stuart Russell, een AI-pionier en hoogleraar computerwetenschappen aan de Universiteit van Californië, Berkeley. “Het is eenvoudigweg een voorstel om adequate veiligheidsmaatregelen te eisen voor een technologie die, volgens de ontwikkelaars ervan, een aanzienlijke kans heeft om het uitsterven van de mens te veroorzaken. Is dat te veel gevraagd?”
Ook ondertekenaars waren AI-pioniers Yoshua Bengio en Geoffrey Hinton, medewinnaars van de Turing Award, de hoofdprijs van de informatica. Hinton won vorig jaar ook de Nobelprijs voor de natuurkunde. Beiden hebben hun stem uitgesproken in het vestigen van de aandacht op de gevaren van een technologie die zij hebben helpen creëren.
Maar de lijst bevat ook enkele verrassingen, waaronder die van Bannon en Beck, in een poging van de organisatoren van de brief van het non-profit Future of Life Institute om een beroep te doen op de Make America Great Again-beweging van president Donald Trump, terwijl het personeel van Trump in het Witte Huis heeft geprobeerd de beperkingen op de ontwikkeling van AI in de VS te versoepelen.
Ook op de lijst staan mede-oprichter van Apple, Steve Wozniak; Britse miljardair Richard Branson; de voormalige voorzitter van de Amerikaanse gezamenlijke stafchefs Mike Mullen, die onder Republikeinse en Democratische regeringen diende; en Susan Rice, deskundige op het gebied van het democratische buitenlands beleid, die nationaal veiligheidsadviseur was van president Barack Obama.
De voormalige Ierse president Mary Robinson en verschillende Britse en Europese parlementsleden en voormalige leden van het Amerikaanse Congres hebben hun handtekening gezet, net als acteurs Stephen Fry en Joseph Gordon-Levitt, en muzikant will.i.am, die overigens AI heeft omarmd in de muziekcreatie.
“Ja, we willen specifieke AI-tools die ziekten kunnen helpen genezen, de nationale veiligheid kunnen versterken, enz.”, schreef Gordon-Levitt, wiens vrouw Tasha McCauley lid was van de raad van bestuur van OpenAI vóór de onrust die leidde tot de tijdelijke afzetting van CEO Sam Altman in 2023. “Maar moet AI ook mensen imiteren, onze kinderen verzorgen, ons allemaal in slordige junkies veranderen en ontelbare dollars verdienen aan advertenties? De meeste mensen willen dat niet.”
Voeden zorgen over AI-superintelligentie ook de AI-hype?
De brief zal waarschijnlijk voortdurende debatten uitlokken binnen de AI-onderzoeksgemeenschap over de waarschijnlijkheid van bovenmenselijke AI, de technische wegen om deze te bereiken en hoe gevaarlijk deze zou kunnen zijn.
“In het verleden waren het vooral de nerds versus de nerds”, zegt Max Tegmark, voorzitter van het Future of Life Institute en professor aan het Massachusetts Institute of Technology. “Wat we hier echt zien, is dat de kritiek heel mainstream is geworden.”
Wat de bredere debatten ingewikkelder maakt, is dat dezelfde bedrijven die streven naar wat sommigen superintelligentie noemen en anderen kunstmatige algemene intelligentie of AGI noemen, soms ook de mogelijkheden van hun producten opblazen, waardoor ze beter verkoopbaar kunnen worden en hebben bijgedragen aan de zorgen over een AI-zeepbel. OpenAI werd onlangs belachelijk gemaakt door wiskundigen en AI-wetenschappers toen de onderzoeker beweerde dat ChatGPT onopgeloste wiskundige problemen had ontdekt – terwijl het in werkelijkheid het vinden en samenvatten was van wat al online stond.
“Er zijn een heleboel dingen die overhyped zijn en je moet voorzichtig zijn als investeerder, maar dat verandert niets aan het feit dat – als je uitzoomt – AI de afgelopen vier jaar veel sneller is gegaan dan de meeste mensen hadden voorspeld”, aldus Tegmark.
De groep van Tegmark zat ook achter een brief uit maart 2023 – nog steeds aan het begin van een commerciële AI-hausse – waarin technologiegiganten werden opgeroepen om de ontwikkeling van krachtigere AI-modellen tijdelijk te onderbreken. Geen van de grote AI-bedrijven heeft gehoor gegeven aan deze oproep. En de meest prominente ondertekenaar van de brief uit 2023, Elon Musk, richtte tegelijkertijd stilletjes zijn eigen AI-startup op om te concurreren met degenen van wie hij een pauze van zes maanden wilde nemen.
Op de vraag of hij deze keer opnieuw contact opnam met Musk, zei Tegmark dat hij een brief schreef aan de CEO’s van alle grote AI-ontwikkelaars in de VS, maar niet verwachtte dat ze zouden tekenen.
“Eerlijk gezegd leef ik echt met ze mee, omdat ze zo vastzitten in deze race naar de bodem dat ze gewoon een onweerstaanbare druk voelen om door te gaan en niet ingehaald te worden door de andere man”, zei Tegmark. “Ik denk dat het daarom zo belangrijk is om de race naar superintelligentie te stigmatiseren, tot het punt waarop de Amerikaanse regering gewoon tussenbeide komt.”
Google, Meta, OpenAI en Musk’s xAI reageerden woensdag niet onmiddellijk op verzoeken om commentaar.