Elon Muskin xAI on rajoittanut Grok AI -chatbotin kuvantamisominaisuudet vain maksaviin tilaajiin sen jälkeen, kun laajalti tuomittiin sen käyttö todellisten naisten ja lasten seksualisoitujen kuvien luomiseen ilman suostumusta.
“Kuvan luominen ja muokkaaminen rajoittuvat tällä hetkellä maksaviin tilaajiin”, Grok ilmoitti X:n kautta perjantaina. Rajoitus tarkoittaa, että suurin osa käyttäjistä ei voi enää käyttää ominaisuutta. Vahvistetut ja maksavat tilaajat, joilla on luottokorttitiedot, voivat silti tehdä niin, mutta teoriassa heidät voidaan tunnistaa helpommin, jos ominaisuutta käytetään väärin.
Asiantuntijat, sääntelyviranomaiset ja uhrit kuitenkin sanovat, että uudet rajoitukset eivät ole ratkaisu nyt laajalle levinneeseen ongelmaan.
“Argumentti siitä, että käyttäjätietojen ja maksutapojen antaminen auttaa tunnistamaan tekijät, ei myöskään ole vakuuttava, kun otetaan huomioon, kuinka helppoa on antaa vääriä tietoja ja käyttää väliaikaisia maksutapoja”, brittiläinen syväväärennösten asiantuntija Henry Ajder kertoi Fortunelle. “Logiikka tässä on myös reaktiivinen: sen oletetaan auttavan tunnistamaan rikkojat, kun sisältö on luotu, mutta se ei edusta mitään merkittävää linjausta tai rajoitusta itse malliin.”
Yhdistyneen kuningaskunnan hallitus kuvaili toimenpidettä “loukkaavaksi” uhreja kohtaan BBC:n raportoimissa lausunnoissa. Britannian pääministerin tiedottaja kertoi toimittajille perjantaina, että muutos “yksinkertaisesti muuttaa laittomien kuvien luomisen mahdollistavan tekoälyominaisuuden premium-palveluksi.
“On aika
X:n edustaja sanoi, että he “tutkivat” uusia rajoituksia. xAI vastasi automaattisella viestillä: “Legacy Media Lies”.
Kuluneen viikon aikana oikeita naisia vastaan on hyökätty laajasti, ja käyttäjät ovat manipuloineet valokuvia riisuakseen vaatteensa, laittaakseen kohteet bikineihin tai asettaakseen heidät seksuaaliseen tapaukseen ilman heidän suostumustaan. Jotkut uhrit ilmoittivat olevansa trendin loukkaavia ja häiriintyneitä, ja monet sanoivat, että heidän X:lle tehtyihin ilmoituksiinsa ei vastattu, ja kuvat pysyivät esillä alustalla.
Tutkijat sanoivat, että Grokin kuvien tuottamisen ja jakamisen mittakaava oli ennennäkemätön, koska toisin kuin muissa tekoälyroboteissa, Grokilla on käytännössä sisäänrakennettu jakelujärjestelmä X-alustaan.
Ashley St. Clair, konservatiivinen kommentaattori ja yhden Muskin lasten äiti, oli yksi niistä, joihin kuvat vaikuttivat. St. Clair kertoi Fortunelle, että käyttäjät muunsivat hänen X-profiilinsa kuvia hänen tekoälyn luomista valokuvista, mukaan lukien joitain, joissa hän sanoi olevansa alaikäinen. Puhuttuaan kuvia vastaan ja ilmaistuaan huolensa alaikäisille kohdistetuista syväväärennöksistä, St Clair sanoi myös, että X poisti vahvistetun maksavan tilaajan asemansa ilmoittamatta hänelle tai palauttamatta hänen 8 dollarin kuukausimaksuaan.
“Sen rajoittaminen vain maksullisiin käyttäjiin osoittaa, että he aikovat tuplata tämän, mikä asettaa uhreille kohtuuttoman taakan raportoida viranomaisille ja viranomaisille, jotta he voivat käyttää resurssejaan näiden ihmisten jäljittämiseen”, Ashley St Clair sanoi viimeaikaisista rajoituksista. “Se on myös rahanotto.”
St Clair kertoi Fortunelle, että monet hänelle osoitetuista tileistä olivat jo vahvistettuja käyttäjiä: “Se ei ole ollenkaan tehokasta”, hän sanoi. “Tämä on vain esikatselu Grokin kuvantamista koskevista lisätutkimuksista.”
Sääntelypaine
Grokin kykyjen rajoittaminen tapahtuu sääntelyviranomaisten kasvavan paineen keskellä ympäri maailmaa. Isossa-Britanniassa pääministeri Keir Starmer on ilmoittanut olevansa valmis kieltämään alustan kokonaan ja kuvailemalla sisältöä “häpeälliseksi” ja “iljettäväksi”. Myös Intian, Malesian ja Ranskan sääntelyviranomaiset ovat käynnistäneet tutkimukset.
Euroopan komissio määräsi torstaina
Asiantuntijat sanovat, että uudet rajoitukset eivät välttämättä tyydytä sääntelijöiden huolenaiheita: “Tämä lähestymistapa on tylsä väline, joka ei ratkaise Grokin kokoonpanon ongelman juurta, eikä se todennäköisesti riitä sääntelijöille”, Ajder sanoi. “Toimivuuden rajoittaminen maksaviin käyttäjiin ei estä tämän sisällön luomista; kuukauden tilaus ei ole vakaa ratkaisu.”
Yhdysvalloissa tilanne todennäköisesti testaa myös olemassa olevia lakeja, kuten Communications Decency Actin pykälää 230, joka suojaa verkkopalveluntarjoajia vastuulta käyttäjien luomasta sisällöstä. Yhdysvaltain senaattorit Ron Wyden, Edward J. Markey ja Ben Ray Luján antoivat lausunnon, jossa kehotettiin Applea ja Googlea “poistamaan välittömästi Apps X ja Grok sovelluskaupoistaan” sen jälkeen, kun Grokin väitetään käyttäneen “ei-yhteisymmärrykseen perustuvia seksualisoituja kuvia naisista ja lapsista laajassa mittakaavassa”. Lainsäätäjät kutsuivat kuvia “häiritseviksi ja todennäköisesti laittomiksi” ja sanoivat, että sovellukset eivät saisi olla saatavilla ennen kuin Musk käsittelee huolenaiheita.
Yhdysvaltain ja islamilaisten suhteiden neuvosto (CAIR) on myös vaatinut, että Grokia estetään luomasta “seksuaalisia kuvia lapsista ja naisista, mukaan lukien huomattavat musliminaiset”.
Riana Pfefferkorn Stanfordin ihmiskeskeisen tekoälyn instituutista kertoi aiemmin Fortunelle, että tekoälyn luomien kuvien vastuullisuus on hämärää. “Meillä on tilanne, jossa ensimmäistä kertaa itse alusta tuottaa laajassa mittakaavassa ei-sopimukseen perustuvaa pornografiaa aikuisista ja alaikäisistä”, hän sanoi. “Vastuu- ja PR-näkökulmasta katsottuna CSAM-lait muodostavat suurimman mahdollisen vastuuriskin tässä.”
Musk on aiemmin todennut, että “jokainen, joka käyttää Grokia laittoman sisällön luomiseen, kärsii samoista seurauksista kuin jos he lataavat laitonta sisältöä.” Vielä ei kuitenkaan ole selvää, kuinka tilit saatetaan vastuuseen.