Kunstmatige intelligentie neemt deel aan de lijst met grote en complexe wereldwijde uitdagingen die wereldleiders en diplomaten zullen aanpakken tijdens de jaarlijkse hoogwaardige bijeenkomst van de Verenigde Naties van deze week.
Sinds de AI Boom ongeveer drie jaar geleden begon met het debuut van Chatgpt, hebben de adembenemende mogelijkheden van de technologie de wereld verbaasd. Technologiebedrijven hebben geracet om betere AI-systemen te ontwikkelen, zelfs terwijl experts waarschuwen voor haar risico’s, waaronder existentiële bedreigingen zoals ontwikkelde pandemieën, grootschalige verkeerde informatie of schurkenstige AI’s die uit de hand lopen en solliciteren.
Aanbevolen video’s
De adoptie van een nieuwe bestuursarchitectuur door de VN is de nieuwste en grootste inspanning om AI te beteugelen. Eerdere multilaterale inspanningen, waaronder drie AI-toppen georganiseerd door Groot-Brittannië, Zuid-Korea en Frankrijk, hebben alleen het gevolg van niet-bindende toezeggingen.
Vorige maand heeft de Algemene Vergadering een resolutie aangenomen om twee belangrijke instanties op te zetten op AI – een wereldwijd forum en een onafhankelijk wetenschappelijk panel van experts – in een mijlpaalbeweging naar Shepherd Global Governance -inspanningen voor de technologie.
Op woensdag zal een VN -Veiligheidsraadvergadering een open debat over deze kwestie bijeenroepen. Onder de te beantwoorden vragen: hoe kan de Raad de verantwoordelijke toepassing van AI ervoor zorgen om te voldoen aan het internationale recht en vredesprocessen en conflictpreventie te ondersteunen?
En op donderdag, als onderdeel van de jaarlijkse bijeenkomst van het lichaam, zal VN-secretaris-generaal António Guterres een vergadering houden om het forum te lanceren, genaamd de Global Dialogue on AI Governance.
Het is een locatie voor regeringen en “stakeholders” om internationale samenwerking te bespreken en ideeën en oplossingen te delen. Het is gepland om volgend jaar formeel in Genève en in New York te ontmoeten in 2027.
Ondertussen wordt verwacht dat werving van start gaat om 40 experts te vinden voor het wetenschappelijke panel, waaronder twee co-voorzitters, een van een ontwikkeld land en een van een ontwikkelingslanden. Het panel heeft vergelijkingen getrokken met het Panel van het klimaatverandering van de VN en de vlaggenschip jaarlijkse COP -bijeenkomst.
De nieuwe lichamen vertegenwoordigen ‘een symbolische triomf’. Ze zijn “verreweg ’s werelds meest wereldwijd inclusieve benadering van het besturen van AI”, schreef Isabella Wilkinson, een onderzoeker bij het in Londen gevestigde denktank Chatham House, in een blogpost.
“Maar in de praktijk zien de nieuwe mechanismen eruit alsof ze meestal machteloos zullen zijn,” voegde ze eraan toe. Een van de mogelijke kwesties is of de houtbeheer van de VN in staat is om een snel bewegende technologie zoals AI te reguleren.
Vooruitlopend op de vergadering riep een groep invloedrijke experts op dat regeringen het eens zijn over zogenaamde rode lijnen voor AI om tegen het einde van volgend jaar van kracht te worden, en zei dat de technologie “minimale vangrails” nodig heeft om de “meest urgente en onaanvaardbare risico’s” te voorkomen.
De groep, inclusief senior medewerkers van Chatgpt Maker Openai, Google’s AI Research Lab Deepmind en Chatbot Maker Anthropic, wil dat regeringen een internationaal bindende overeenkomst ondertekent over AI. Ze wijzen erop dat de wereld eerder is overeengekomen over verdragen die nucleaire testen en biologische wapens verbieden en de volle zee beschermen.
“Het idee is heel eenvoudig”, zei een van de backers, Stuart Russell, professor in de informatica en directeur van de University of California, Berkeley’s Centre for Human Compatible AI. “Zoals we doen met medicijnen en kerncentrales, kunnen we eisen dat ontwikkelaars de veiligheid bewijzen als voorwaarde voor markttoegang.”
Russell suggereerde dat UN-bestuur zou kunnen lijken op de werking van een ander niet-gelieerd orgaan, de International Civil Aviation Organisation, die coördineert met veiligheidsregelgevers in verschillende landen en ervoor zorgt dat ze allemaal van dezelfde pagina werken.
En in plaats van een reeks regels op te stellen die in steen zijn vastgesteld, kunnen diplomaten een “framework -conventie” opstellen die flexibel genoeg is om te worden bijgewerkt om de laatste vorderingen van AI weer te geven, zei hij.