PARIJS – De Franse regering onderneemt actie tegen de kunstmatige intelligentie-chatbot Grok van miljardair Elon Musk nadat deze Franstalige berichten heeft gegenereerd waarin het gebruik van de gaskamers in Auschwitz in twijfel wordt getrokken, zeiden functionarissen.
Grok, gebouwd door Musks bedrijf xAI en geïntegreerd in zijn sociale mediaplatform X, schreef in een breed gedeelde post in het Frans dat de gaskamers in het vernietigingskamp Auschwitz-Birkenau ontworpen waren voor “desinfectie met Zyklon B tegen tyfus” in plaats van voor massamoord – taal die lang geassocieerd werd met de ontkenning van de Holocaust.
Aanbevolen video’s
Het Auschwitz Memorial benadrukte de discussie over X en zei dat de reactie de historische feiten verdraaide en de regels van het platform schond.
In latere berichten op zijn X-account erkende de chatbot dat zijn eerdere antwoord aan een X-gebruiker verkeerd was, zei dat het was verwijderd en wees op historisch bewijs dat de gaskamers van Auschwitz met behulp van Zyklon B werden gebruikt om meer dan 1 miljoen mensen te vermoorden. De follow-ups gingen niet vergezeld van enige verduidelijking van X.
Grok heeft een geschiedenis van het maken van antisemitische opmerkingen. Eerder dit jaar verwijderde het bedrijf van Musk berichten van de chatbot die Adolf Hitler leek te prijzen na klachten over antisemitische inhoud.
Aanklagers zeiden dat de opmerkingen van Grok nu deel uitmaken van het onderzoek en dat “het functioneren van de AI zal worden onderzocht.”
Frankrijk heeft een van de strengste wetten ter ontkenning van de Holocaust in Europa. Het betwisten van de realiteit of het genocidale karakter van nazi-misdaden kan als misdaad worden vervolgd, naast andere vormen van aanzetten tot rassenhaat.
Verschillende Franse ministers, waaronder minister van Industrie Roland Lescure, hebben de posten van Grok ook gerapporteerd aan de aanklager van Parijs op grond van een bepaling die overheidsfunctionarissen verplicht om mogelijke misdaden te signaleren. In een regeringsverklaring omschrijven ze de door AI gegenereerde inhoud als “kennelijk illegaal”, waarbij ze zeggen dat het zou kunnen neerkomen op racistisch gemotiveerde laster en de ontkenning van misdaden tegen de menselijkheid.
De Franse autoriteiten verwezen de berichten naar een nationaal politieplatform voor illegale online-inhoud en waarschuwden de Franse digitale toezichthouder over vermoedelijke schendingen van de Digital Services Act van de Europese Unie.
De zaak vergroot de druk vanuit Brussel. Deze week zei de Europese Commissie, de uitvoerende macht van de EU, dat het blok contact heeft met X over Grok en noemde een deel van de output van de chatbot “verschrikkelijk”, omdat het in strijd is met de fundamentele rechten en waarden van Europa.
Twee Franse rechtengroepen, de Ligue des droits de l’Homme en SOS Racisme, hebben een strafrechtelijke klacht ingediend waarin ze Grok en X ervan beschuldigen misdaden tegen de menselijkheid te betwisten.
X en zijn AI-eenheid, xAI, reageerden niet onmiddellijk op verzoeken om commentaar.