Toronto, Ont – Op 77 -jarige leeftijd heeft Geoffrey Hinton een nieuwe roeping in het leven. Net als een moderne profeet, verhoogt de Nobelprijswinnaar alarmen over de gevaren van ongecontroleerde en niet-gereguleerde kunstmatige intelligentie.
Vaak de ‘Godfather of Ai’ genoemd, staat Hinton bekend om zijn baanbrekende werk over diep leren en neurale netwerken die de basis hebben gelegd voor de AI -technologie die vandaag vaak wordt gebruikt. Hij voelde zich ‘enigszins verantwoordelijk’ en begon publiekelijk te spreken over zijn zorgen in 2023 nadat hij zijn baan bij Google had verlaten, waar hij meer dan een decennium werkte.
Aanbevolen video’s
Aangezien de technologie – en investeringsdollars – AI de afgelopen jaren zijn gevorderd, hebben ze ook de inzet erachter.
“Het is echt goddelijk,” zei Hinton.
Hinton is een van een groeiend aantal prominente technische figuren die over AI spreken met behulp van taal die eenmaal gereserveerd voor het goddelijke. Openai CEO Sam Altman heeft de technologie van zijn bedrijf aangeduid als een ‘magische intelligentie in de hemel’, terwijl Peter Thiel, de mede-oprichter van Paypal en Palantir, zelfs heeft betoogd dat AI de Antichrist zou kunnen helpen tot stand te brengen.
Zal AI veroordeling of redding brengen?
Er zijn veel sceptici die twijfelen aan de technologie verdient dit soort angst, waaronder Dylan Baker, een voormalige Google -medewerker en hoofdonderzoekingenieur bij het Distributed AI Research Institute, dat de schadelijke effecten van AI bestudeert.
“Ik denk dat ze natuurlijk opereren vanuit magisch fantastisch denken, geïnformeerd door veel sci-fi dat ze vermoedelijk in hun vormende jaren kwamen,” zei Baker. “Ze zijn echt los van de realiteit.”
Hoewel chatbots zoals Chatgpt pas onlangs de tijdsgeest binnendrongen, hebben bepaalde Silicon Valley -cirkels al tientallen jaren geprofeteerd van AI’s kracht.
“We proberen mensen wakker te maken,” zei Hinton. “Om het publiek de risico’s te laten begrijpen, zodat de publieke politici er iets aan doen om er iets aan te doen.”
Hoewel onderzoekers zoals Hinton waarschuwen voor de existentiële dreiging waarvan ze geloven dat AI voor de mensheid poseert, zijn er CEO’s en theoretici aan de andere kant van het spectrum die beweren dat we een soort technologische apocalyps naderen die een nieuw tijdperk van menselijke evolutie zal inluiden.
In een essay dat vorig jaar werd gepubliceerd getiteld “Machines of Loving Grace: How Ai zou de wereld kunnen transformeren”, legt Anthropic CEO Dario Amodei zijn visie op voor een toekomst “Als alles goed gaat met AI.”
De AI -ondernemer voorspelt “de nederlaag van de meeste ziekten, de groei van biologische en cognitieve vrijheid, het opheffen van miljarden mensen uit armoede om te delen in de nieuwe technologieën, een renaissance van liberale democratie en mensenrechten.”
Terwijl Amodei kiest voor de uitdrukking ‘krachtige AI’, gebruiken anderen termen als ‘de singulariteit’ of ‘kunstmatige algemene intelligentie (AGI)’. Hoewel voorstanders van deze concepten niet vaak overeenkomen hoe ze ze moeten definiëren, verwijzen ze breed naar een hypothetisch toekomstig punt waarop AI intelligentie op menselijke niveau zal overtreffen, die mogelijk snelle, onomkeerbare veranderingen in de samenleving zullen veroorzaken.
Computerwetenschapper en auteur Ray Kurzweil voorspelt sinds de jaren negentig dat mensen ooit zullen fuseren met technologie, een concept dat vaak transhumanisme wordt genoemd.
“We gaan niet echt vertellen wat er uit ons eigen brein komt versus wat er van AI komt. Het zal allemaal in onszelf worden ingebed. En het gaat onszelf intelligenter maken,” zei Kurzweil.
In zijn nieuwste boek, “The Singularity Is Closer: When We Merge met AI”, verdubbelt Kurzweil zijn eerdere voorspellingen. Hij gelooft dat we tegen 2045 ‘onze eigen intelligentie een miljoen vouw zullen hebben vermenigvuldigd’.
“Ja,” gaf hij uiteindelijk toe toen hem werd gevraagd of hij AI als zijn religie beschouwt. Het informeert zijn doelgevoel.
“Mijn gedachten over de toekomst en de toekomst van technologie en hoe snel het komt, heeft zeker invloed op mijn houding ten opzichte van hier en wat ik doe en hoe ik andere mensen kan beïnvloeden,” zei hij.
Visioenen van de apocalyps borrelen
Ondanks Thiel’s expliciete aanroep van taal uit het boek Openbaring, zijn de positieve visies van een AI -toekomst meer “apocalyptisch” in de historische zin van het woord.
“In de oude wereld is apocalyptisch niet negatief”, legt Domenico Agostini, een professor aan de Universiteit van Napels L’Orientale, die oude apocalyptische literatuur bestudeert. “We hebben de semantiek van dit woord volledig veranderd.”
De term “Apocalypse” komt van het Griekse woord “Apokalypsis”, wat “Openbaring” betekent. Hoewel vaak geassocieerd met het einde van de wereld, waren apocalyps in het oude Joodse en christelijke denken een bron van aanmoediging in tijden van ontberingen of vervolging.
“God belooft een nieuwe wereld,” zei professor Robert Geraci, die religie en technologie bestudeert aan het Knox College. “Om die nieuwe wereld te bezetten, moet je een glorieus nieuw lichaam hebben dat triomfeert over het kwaad dat we allemaal ervaren.”
Geraci merkte voor het eerst op dat apocalyptische taal werd gebruikt om het potentieel van AI in de vroege jaren 2000 te beschrijven. Kurzweil en andere theoretici inspireerden hem uiteindelijk om zijn boek uit 2010 te schrijven, “Apocalyptic AI: Visions of Heaven in Robotics, Artificial Intelligence en Virtual Reality.”
De taal deed hem denken aan het vroege christendom. “Alleen we gaan God eruit glijden en erin glijden … je keuze uit kosmische wetenschapswetten die dit vermoedelijk doen en dan zouden we dezelfde soort glorieuze toekomst hebben die zou komen,” zei hij.
Geraci beweert dat dit soort taal niet veel is veranderd sinds hij het begon te bestuderen. Wat hem verbaast, is hoe diepgaand het is geworden.
“Wat ooit heel raar was, is overal een beetje,” zei hij.
Heeft Silicon Valley eindelijk zijn God gevonden?
Een factor in de groeiende cultus van AI is winstgevendheid.
“Twintig jaar geleden genereerde die fantasie, waar of niet, niet echt veel geld,” zei Geraci. Maar nu, “er is een financiële stimulans voor Sam Altman dat Agi om de hoek staat.”
Maar Geraci, die beweert dat Chatgpt “niet eens op afstand, vaag, plausibel bewust is”, gelooft dat er dit fenomeen meer kan besturen.
Historisch gezien is de technische wereld notoir verstoken van religie. De seculiere reputatie was zo voorafgegaan dat een aflevering van de satirische HBO-comedy-serie, “Silicon Valley”, draait om “Outing” een collega als christen.
In plaats van de verering van de sceptische technische wereld van AI als ironisch te beschouwen, gelooft Geraci dat ze causaal verbonden zijn.
“Wij mensen zijn diep, diep, inherent religieus,” zei hij, eraan toevoegend dat de indrukwekkende technologieën achter AI mensen in Silicon Valley kunnen aanspreken die al “gewone benaderingen van transcendentie en betekenis hebben opzij gezet.”
Geen religie is zonder sceptici
Niet elke CEO van Silicon Valley is bekeerd – zelfs als ze willen in de technologie.
“Wanneer mensen in de technische industrie praten over het bouwen van deze echte AI, is het bijna alsof ze denken dat ze God creëren of zoiets,” zei Mark Zuckerberg, meta CEO, vorig jaar op een podcast terwijl hij de eigen onderneming van zijn bedrijf tot AI promootte.
Hoewel transhumanistische theorieën zoals Kurzweil’s meer wijdverbreid zijn geworden, zijn ze nog steeds niet alomtegenwoordig in Silicon Valley.
“De wetenschappelijke zaak daarvoor is op geen enkele manier sterker dan het geval voor een religieus hiernamaals”, betoogt Max Tegmark, een fysicus en machine learning -onderzoeker bij het Massachusetts Institute of Technology.
Net als Hinton is Tegmark uitgesproken over de potentiële risico’s van niet -gereguleerde AI. In 2023, als president van de Future of Life Institute, hielp Tegmark een open brief te leiden die opgeroepen tot krachtige AI -laboratoria om de training van hun systemen “onmiddellijk te pauzeren”.
De brief verzamelde meer dan 33.000 handtekeningen, waaronder van Elon Musk en mede-oprichter van Apple Steve Wozniak. Tegmark beschouwt de brief als succesvol omdat het “het gesprek mainstream” over AI -veiligheid heeft geholpen, maar gelooft dat zijn werk nog lang niet voorbij is.
Met voorschriften en waarborgen denkt Tegmark dat AI kan worden gebruikt als een hulpmiddel om dingen te doen zoals genezen van ziekten en de menselijke productiviteit te verhogen. Maar het is absoluut noodzakelijk, betoogt hij, om weg te blijven van de “behoorlijk franje” race die sommige bedrijven runnen – “de pseudoreligieuze achtervolging om te proberen een alternatieve God op te bouwen.”
“Er zijn veel verhalen, zowel in religieuze teksten als in bijvoorbeeld oude Griekse mythologie, over hoe wanneer wij mensen goden beginnen te spelen, het slecht eindigt,” zei hij. “En ik heb het gevoel dat er nu veel overmoed in San Francisco is.”