LONDEN -Openai zei maandag dat het ouderlijk toezicht op Chatgpt toevoegt die zijn ontworpen om tieners van het populaire platform te bieden met een veiligere en meer “geschikt” -varing.
Het bedrijf onderneemt actie na AI Chatbot Safety voor jonge gebruikers heeft de krantenkoppen gehaald. De gevaren van de technologie zijn onlangs benadrukt door een aantal gevallen waarin tieners hun leven namen na interactie met Chatgpt.
Aanbevolen video’s
In de Verenigde Staten heeft de Federal Trade Commission zelfs een onderzoek geopend naar verschillende technologiebedrijven over de mogelijke schade aan kinderen en tieners die hun AI -chatbots als metgezellen gebruiken.
In een blogbericht op maandag, schetste Openai de nieuwe bedieningselementen voor ouders. Hier is een uitsplitsing:
Aan de slag
De ouderlijke controles zijn beschikbaar voor alle gebruikers, maar zowel ouders als tieners hebben hun eigen accounts nodig om van hen te profiteren.
Om aan de slag te gaan, moet een ouder of voogd een e -mail of sms -bericht verzenden om een tiener uit te nodigen om hun accounts te verbinden. Of een tiener kan een uitnodiging naar een ouder sturen. Gebruikers kunnen een verzoek verzenden door naar het menu Instellingen te gaan en vervolgens naar het gedeelte “ouderlijk bedieningselementen”.
Tieners kunnen hun accounts op elk moment ontkoppelen, maar ouders worden op de hoogte gebracht als ze dat doen.
Automatische waarborgen
Zodra de accounts zijn gekoppeld, krijgt het Teen-account enkele ingebouwde bescherming, zei Openai.
Tieneraccounts zullen “automatisch extra contentbescherming krijgen, inclusief verminderde grafische inhoud, virale uitdagingen, seksuele, romantische of gewelddadige rollenspel en extreme schoonheidsidealen, om hun ervaring te helpen geschikt te houden,” zei het bedrijf.
Ouders kunnen ervoor kiezen om deze filters uit te schakelen, maar tienersgebruikers hebben niet de optie.
Openai waarschuwt dat dergelijke vangrails “niet waterdicht zijn en kunnen worden omzeild als iemand opzettelijk probeert om hen heen te omzeilen.” Het adviseerde ouders om met hun kinderen te praten over ‘gezond AI -gebruik’.
Instellingen aanpassen
Ouders krijgen een bedieningspaneel waar ze een reeks instellingen kunnen aanpassen en de beperkingen van de hierboven genoemde beperkingen kunnen uitschakelen.
Blijft uw tiener bijvoorbeeld ver voorbij het slapengaan om chatgpt te gebruiken? Ouders kunnen een rustige tijd instellen wanneer de chatbot niet kan worden gebruikt.
Andere instellingen omvatten het uitschakelen van het geheugen van de AI, zodat gesprekken niet worden opgeslagen en niet worden gebruikt in toekomstige antwoorden; het uitschakelen van de mogelijkheid om afbeeldingen te genereren of te bewerken; de spraakmodus uitschakelen; en kiezen voor het hebben van chats die worden gebruikt om de AI -modellen van Chatgpt te trainen.
Word op de hoogte
Openai is ook proactiever als het gaat om ouders te laten weten dat hun kind in nood kan zijn.
Het is een nieuw meldingssysteem opgezet om hen te informeren wanneer iets “serieus verkeerd” kan zijn en een tienergebruiker er misschien aan denkt zichzelf te schaden.
Een klein team van specialisten zal de situatie beoordelen en, in het zeldzame geval dat er ’tekenen van acute stress zijn’, zullen ze ouders per e -mail, sms en push alert op hun telefoon op de hoogte stellen – tenzij de ouder heeft afgemeld.
Openai zei dat het de privacy van de tiener zal beschermen door alleen de informatie te delen die nodig is voor ouders of hulpdiensten om hulp te bieden.
“Geen enkel systeem is perfect, en we weten dat we soms een alarm kunnen opleveren als er geen echt gevaar is, maar we denken dat het beter is om een ouder te handelen en te waarschuwen zodat ze kunnen ingrijpen dan om te zwijgen,” zei het bedrijf.
Is er een technisch onderwerp dat volgens u moet worden uitgelegd? Schrijf ons op OneTeTip@ap.org met uw suggesties voor toekomstige edities van één technische tip.