Character.AI verbiedt minderjarigen om zijn chatbots te gebruiken vanwege de groeiende bezorgdheid over de effecten van kunstmatige intelligentie-gesprekken op kinderen. Het bedrijf wordt geconfronteerd met verschillende rechtszaken over de veiligheid van kinderen, onder meer door de moeder van een tiener die zegt dat de chatbots van het bedrijf haar tienerzoon ertoe hebben aangezet zelfmoord te plegen.
Character Technologies, het in Menlo Park, Californië gevestigde bedrijf achter Character.AI, zei woensdag dat het de mogelijkheid van gebruikers onder de 18 jaar om deel te nemen aan open chats met AI-personages zal verwijderen. De wijzigingen worden op 25 november van kracht en er gaat onmiddellijk een dagelijkse limiet van twee uur in. Character.AI voegde eraan toe dat het werkt aan nieuwe functies voor kinderen, zoals de mogelijkheid om video’s, verhalen en streams te maken met AI-personages. Het bedrijf is ook bezig met het opzetten van een AI-veiligheidslaboratorium.
Aanbevolen video’s
Character.AI zei dat het leeftijdsverificatiefuncties zal uitrollen om te helpen bepalen welke gebruikers jonger zijn dan 18 jaar. Een groeiend aantal technologieplatforms wendt zich tot leeftijdscontroles om te voorkomen dat kinderen toegang krijgen tot tools die niet veilig voor hen zijn. Maar deze zijn onvolmaakt, en veel kinderen vinden manieren om ze te omzeilen. Gezichtsscans kunnen bijvoorbeeld niet altijd zeggen of iemand 17 of 18 is. En er zijn zorgen over de privacy als mensen worden gevraagd een identiteitsbewijs van de overheid te uploaden.
Character.AI, een app waarmee gebruikers aanpasbare karakters kunnen creëren of kunnen communiceren met karakters die door anderen zijn gegenereerd, omvat ervaringen van fantasierijk spel tot nep-sollicitatiegesprekken. Het bedrijf zegt dat de kunstmatige persona’s zijn ontworpen om ‘levend en menselijk’ te voelen.
“Stel je voor dat je spreekt met superintelligente en levensechte chatbot-personages die je horen, begrijpen en onthouden”, luidt een beschrijving van de app op Google Play. “Wij moedigen u aan om met deze innovatieve technologie de grens te verleggen van wat mogelijk is.”
Critici verwelkomden de stap, maar zeiden dat het niet genoeg is – en eerder had moeten gebeuren. Meetali Jain, uitvoerend directeur van het Tech Justice Law Project, zei: “Er zijn nog steeds veel details open.”
“Ze hebben niet besproken hoe ze de leeftijdsverificatie operationeel zullen maken, hoe ze ervoor zullen zorgen dat hun methoden de privacy beschermen, en ook niet over de mogelijke psychologische impact van het plotseling uitschakelen van de toegang voor jonge gebruikers, gezien de emotionele afhankelijkheden die zijn gecreëerd”, aldus Jain. “Bovendien gaan deze veranderingen niet in op de onderliggende ontwerpkenmerken die deze emotionele afhankelijkheden faciliteren – niet alleen voor kinderen, maar ook voor mensen ouder dan 18 jaar.”
Meer dan 70% van de tieners heeft AI-metgezellen gebruikt en de helft gebruikt ze regelmatig, volgens een recent onderzoek van Common Sense Media, een groep die onderzoek doet naar en pleit voor een verstandig gebruik van schermen en digitale media.