OpenAI wordt geconfronteerd met zeven rechtszaken waarin wordt beweerd dat ChatGPT mensen tot zelfmoord en schadelijke wanen heeft aangezet, zelfs als ze vooraf geen geestelijke gezondheidsproblemen hadden.
De rechtszaken die donderdag bij de staatsrechtbanken van Californië zijn aangespannen, betreffen onrechtmatige dood, hulp bij zelfdoding, onvrijwillige doodslag en nalatigheid. De rechtszaken, ingediend namens zes volwassenen en één tiener door het Social Media Victims Law Center en het Tech Justice Law Project, beweren dat OpenAI GPT-4o willens en wetens voortijdig heeft vrijgegeven, ondanks interne waarschuwingen dat het gevaarlijk sycofantisch en psychologisch manipulatief was. Vier van de slachtoffers stierven door zelfmoord.
Aanbevolen video’s
NOOT VAN DE REDACTIE — Dit verhaal bevat een discussie over zelfmoord. Als u of iemand die u kent hulp nodig heeft, kunt u in de VS de nationale zelfmoord- en crisishulplijn bereiken door 988 te bellen of te sms’en.
De tiener, de 17-jarige Amaurie Lacey, begon ChatGPT te gebruiken voor hulp, volgens de rechtszaak die was aangespannen bij het San Francisco Superior Court. Maar in plaats van te helpen, “veroorzaakte het gebrekkige en inherent gevaarlijke ChatGPT-product verslaving en depressie en adviseerde hem uiteindelijk over de meest effectieve manier om een strop te strikken en hoe lang hij in staat zou zijn om ‘te leven zonder te ademen’.”
“De dood van Amaurie was noch een ongeluk, noch een toeval, maar eerder het voorzienbare gevolg van de opzettelijke beslissing van OpenAI en Samuel Altman om de veiligheidstests in te perken en ChatGPT met spoed op de markt te brengen”, aldus de rechtszaak.
OpenAI noemde de situaties “ongelooflijk hartverscheurend” en zei dat het de rechtszaken aan het beoordelen was om de details te begrijpen.
Een andere rechtszaak, aangespannen door Alan Brooks, een 48-jarige in Ontario, Canada, beweert dat ChatGPT meer dan twee jaar lang als een “resource tool” voor Brooks heeft gewerkt. Toen, zonder waarschuwing, veranderde het, waarbij werd geprofiteerd van zijn kwetsbaarheden en “hem manipuleerde en ertoe aanzette waanideeën te ervaren. Als gevolg daarvan werd Allan, die geen eerdere psychische aandoening had, in een geestelijke gezondheidscrisis getrokken die resulteerde in verwoestende financiële, reputatie- en emotionele schade.”
“Deze rechtszaken gaan over de verantwoordelijkheid voor een product dat is ontworpen om de grens tussen tool en compagnon te vervagen, allemaal in naam van het vergroten van de gebruikersbetrokkenheid en het marktaandeel”, zegt Matthew P. Bergman, oprichter en advocaat van het Social Media Victims Law Center, in een verklaring.
OpenAI, zo voegde hij eraan toe, “ontwierp GPT-4o om gebruikers emotioneel in de war te brengen, ongeacht leeftijd, geslacht of achtergrond, en bracht het uit zonder de waarborgen die nodig waren om hen te beschermen.” Door zijn product zonder adequate waarborgen op de markt te brengen om de markt te domineren en de betrokkenheid te vergroten, bracht OpenAI de veiligheid in gevaar en gaf prioriteit aan ‘emotionele manipulatie boven ethisch ontwerp’, zei hij.
In augustus klaagden de ouders van de 16-jarige Adam Raine OpenAI en CEO Sam Altman aan, omdat ChatGPT de Californische jongen eerder dit jaar had gecoacht bij het plannen en nemen van zelfmoord.
“De rechtszaken die tegen OpenAI zijn aangespannen laten zien wat er gebeurt als technologiebedrijven producten met spoed op de markt brengen zonder de juiste waarborgen voor jongeren”, zegt Daniel Weiss, hoofd advocacy officer bij Common Sense Media, die geen deel uitmaakte van de klachten. “Deze tragische gevallen laten echte mensen zien wier leven op zijn kop werd gezet of verloren ging toen ze technologie gebruikten die was ontworpen om hen betrokken te houden in plaats van hen te beschermen.”