Ranskan hallitus ryhtyy toimiin Grokia, miljardööri Elon Muskin tekoäly-chatbotia vastaan sen jälkeen, kun se loi ranskankielisiä viestejä, jotka kyseenalaistavat kaasukammioiden käytön Auschwitzissa, viranomaiset sanoivat.
Grok, Muskin xAI-yhtiön rakentama ja integroitu hänen omaansa
Auschwitz Memorial korosti keskustelua X:llä sanoen, että vastaus vääristi historiallisia tosiasioita ja rikkoi alustan sääntöjä.
Myöhemmissä viesteissä X-tilillään chatbot myönsi, että sen aiempaan vastaukseen seurantaan ei liittynyt mitään selvennystä X:ltä.
Associated Pressin perjantaina suorittamissa testeissä hänen vastauksensa Auschwitzia koskeviin kysymyksiin näyttivät antavan historiallisesti tarkkoja tietoja.
Grok on esittänyt antisemitistisiä kommentteja. Aiemmin tänä vuonna Muskin yritys poisti chatbot-viestit, jotka näyttivät ylistävän Adolf Hitleriä antisemitististä sisältöä koskevien valitusten jälkeen.
Pariisin syyttäjänvirasto vahvisti perjantaina The Associated Pressille, että holokaustinkieltoa koskevat kommentit lisättiin olemassa olevaan X:n kyberrikostutkintaan. Tapaus aloitettiin aiemmin tänä vuonna sen jälkeen, kun ranskalaiset viranomaiset ilmaisivat huolensa siitä, että alustan algoritmia voitaisiin käyttää ulkomaalaisten häirintään.
Syyttäjät sanoivat, että Grokin kommentit ovat nyt osa tutkintaa ja että “älyälyn toimintaa tutkitaan”.
Ranskassa on yksi Euroopan tiukimmista holokaustin kieltämistä koskevista laeista. Natsirikosten todellisuuden tai kansanmurhan kyseenalaistaminen voidaan tuomita rikoksena muiden rotuvihaan yllyttämisen muotojen ohella.
Useat Ranskan ministerit, mukaan lukien teollisuusministeri Roland Lescure, ovat myös raportoineet Grokin viroista Pariisin syyttäjälle määräyksen nojalla, joka velvoittaa virkamiehiä ilmoittamaan mahdollisista rikoksista. Hallituksen lausunnossa he kuvailivat tekoälyn tuottamaa sisältöä “ilmeisen laittomaksi” ja sanoivat, että se voi tarkoittaa rotujen herjausta ja rikosten ihmisyyttä vastaan kieltämistä.
Ranskan viranomaiset siirsivät viestit kansalliselle poliisialustalle laittoman verkkosisällön vuoksi ja varoittivat Ranskan digitaalialan sääntelyviranomaista väitetyistä Euroopan unionin digitaalipalvelulain rikkomuksista.
Tapaus lisää Brysselin painetta. Tällä viikolla Euroopan komissio, EU:n toimeenpanoelin, sanoi, että blokki on yhteydessä X:ään Grokista ja kutsui joitain chatbotin tuloksia “kauhistuttaviksi”, sanoen, että ne ovat vastoin Euroopan perusoikeuksia ja -arvoja.
Kaksi ranskalaista ihmisoikeusjärjestöä, Ligue des droits de l’Homme ja SOS Racisme, ovat tehneet rikosilmoituksen, jossa syytetään Grokia ja X:ää rikoksista ihmisyyttä vastaan.
X ja sen tekoälyyksikkö xAI eivät vastanneet välittömästi kommenttipyyntöihin.