Grokia, Elon Muskin tekoälyn chatbottia, on syytetty oikeista ihmisistä, mukaan lukien lapsista, seksualisoitujen kuvien luomisesta ilman suostumusta. Kuluneen viikon aikana
Epäsuorat kuvat ovat saaneet jotkut naiset tuntemaan itsensä loukatuiksi. Samaan aikaan sen luominen Grokin avulla ja sen läsnäolo X:ssä voi johtaa Muskin yrityksen suuriin oikeudellisiin ongelmiin useissa maissa ympäri maailmaa.
Ashley St. Clair, konservatiivinen poliittinen kommentaattori, sosiaalisen median vaikuttaja ja yhden Muskin lasten äiti (Musk on kyseenalaistanut hänen isyytensä), sanoi, että hänestä tuli Grokin viime päivien “strippaus” uhri. Fortune on tarkistanut useita esimerkkejä X:ssä luoduista kuvista, mukaan lukien väärennetyt kuvat St. Clairista.
“Kun näin (kuvat), vastasin välittömästi, merkitsin Grokin ja sanoin hänelle, että en suvaitse tätä”, St. Clair kertoi Fortunen haastattelussa maanantaina. “(Grok) ilmoitti, että en suostu näiden kuvien tuottamiseen… ja jatkoi sitten kuvien tuottamista, ja niistä tuli vain selvempiä.”
“Minusta oli kuvia, joissa ei peittänyt minua mikään muu kuin pala hammaslankaa, jonka taustalla oli taaperolaiseni reppu, ja kuvia minusta, joissa näyttää siltä, ettei minulla ole ollenkaan toppia päälläni”, hän sanoi. “Olin hyvin järkyttynyt ja loukattu. Tunsin myös olevani erittäin vihainen, koska oli muita naisia ja lapsia, joille tämä oli tapahtunut.”
St. Clair kertoi Fortunelle, että julkisesti tilanteesta puhuttuaan monet muut naiset, joilla oli samanlaisia kokemuksia, olivat ottaneet häneen yhteyttä, että hän oli tarkistanut Grokin luomia sopimattomia kuvia alaikäisistä ja että hän harkitsi oikeustoimia kuvien johdosta.
X:n edustajat eivät heti vastanneet Fortunen kommenttipyyntöön. X-julkaisussa Musk sanoi: “Jokainen, joka käyttää Grokia laittoman sisällön luomiseen, kärsii samoista seurauksista kuin jos hän lataa laitonta sisältöä.”
X:n virallinen “Safety” -tili sanoi lauantaina julkaisemassaan viestissä, että “Ryhdymme toimiin laitonta sisältöä vastaan
Sääntelyviranomaiset käynnistävät tutkimukset
Tekoälyn luomat kuvat ja tekoälyllä muunnetut kuvat, joista on tullut laajalle levinneitä ja helppoja luoda XAI:n, OpenAI:n ja Googlen kaltaisten yritysten uusien työkalujen ansiosta, herättävät huolta väärästä tiedosta, yksityisyydestä, häirinnästä ja muunlaisista väärinkäytöksistä.
Vaikka Yhdysvalloissa ei tällä hetkellä ole tekoälyä säätelevää liittovaltion lakia (ja presidentti Trumpin äskettäisellä toimeenpanomääräyksellä on pyritty rajoittamaan osavaltion ja paikallisia lakeja), tekniikan kiistanalainen käyttö ja väärinkäyttö voivat painostaa lainsäätäjiä toimimaan. Tilanne testaa todennäköisesti myös olemassa olevia lakeja, kuten Communications Decency Act -lain 230 §:ää, joka suojaa verkkopalveluntarjoajia vastuulta käyttäjien luomasta sisällöstä.
Riana Pfefferkorn, Stanford Institute for Human-Centered Artificial Intelligence -instituutin politiikan tutkija, sanoi, että tekoälyn luomien kuvien oikeudellinen vastuu on edelleen epäselvä, mutta sitä todennäköisesti testataan oikeudessa lähitulevaisuudessa.
“Digitaalisella alustalla ja työkaluilla on ero”, hän kertoi Fortunelle. “Yleensä (alustoilla) on koskemattomuus käyttäjiensä toimille verkossa. Mutta olemme tällä kehittyvällä alueella, jossa meillä ei vielä ole tuomioistuinten päätöksiä siitä, onko generatiivisen tekoälyn tulos vain kolmannen osapuolen puhetta, josta alustaa ei voida pitää vastuussa, vai onko se itse alustan puhetta, jolloin koskemattomuutta ei ole.”
“Meillä on tämä tilanne, jossa ensimmäistä kertaa itse alusta tuottaa laajassa mittakaavassa ei-sopimukseen perustuvaa pornografiaa sekä aikuisista että alaikäisistä”, Pfefferkorn sanoi. “Vastuu- ja PR-näkökulmasta katsottuna CSAM-lait muodostavat suurimman mahdollisen vastuuriskin tässä.”
Samaan aikaan muiden maiden sääntelyviranomaiset ovat alkaneet reagoida viime aikoina lisääntyneeseen seksualisoitujen tekoälykuvien leviämiseen. Yhdistyneessä kuningaskunnassa maan itsenäinen viestintäteollisuuden sääntelijä Ofcom sanoi ottaneensa “kiireellisen yhteyden” xAI:han pelätessään, että Grok saattaa luoda “kuvia alastomista ihmisistä ja seksualisoituja kuvia lapsista”.
Lausunnossaan sääntelijä sanoi, että se tekee “nopean arvioinnin selvittääkseen, onko olemassa mahdollisia vaatimustenmukaisuusongelmia, jotka oikeuttavat tutkimuksen” perustuen X:n ja xAI:n vastaukseen toimenpiteistä, jotka on toteutettu täyttääkseen lailliset velvoitteensa suojella Yhdistyneen kuningaskunnan käyttäjiä. Yhdistyneen kuningaskunnan online-turvallisuuslain mukaan teknologiayritysten on tarkoitus estää tämäntyyppisen sisällön jakaminen ja niiden on poistettava se nopeasti.
Kaksi ranskalaista lainsäätäjää teki myös ilmoituksia kuvista, joita ei ole hyväksytty, ja Pariisin syyttäjä vahvisti, että nämä tapaukset lisättiin X:n olemassa olevaan tutkimukseen.
Intian IT-ministeriö määräsi erikseen, että Malesian viestintäviranomainen on myös aloittanut tutkinnan Grokiin liittyvistä syväväärennöksistä ja varoittanut X:ää, että se voi joutua täytäntöönpanotoimiin, jos se ei pysty pysäyttämään tekoälytyökalujen väärinkäyttöä alustalla sopimattomien tai loukkaavien kuvien luomiseksi.
“Sen lähettämä viesti on melko huolestuttava”
Henry Ajder, brittiläinen deepfake-asiantuntija, sanoi, että vaikka Muskin yritykset eivät välttämättä luo kuvia suoraan, Platform X saattaa silti olla vastuussa alaikäisten sopimattomien kuvien leviämisestä.
“Jos tarjotaan työkaluja tai lasten seksuaalista hyväksikäyttöä koskevaa materiaalia (CSAM), lainsäädäntö, joka ei ole räätälöity kyseiselle haitalle, tulee todennäköisesti esiin”, hän sanoi. “Iso-Britanniassa olemme kieltäneet tekoälyn tuottamien ei-sopimuksen mukaisten intiimien kuvien julkaisemisen ja pyrimme nyt luomaan työkalupakkeja. Luulen, että tulemme näkemään muiden maiden seuraavan perässä.”
Osa siitä, miksi nämä kuvat luotiin ja jaettiin niin laajasti, johtuu äskettäisestä xAI-fuusioitumisesta ja lisääntyvästä integraatiosta Muskin X sosiaalisen median alustaan. xAI on kouluttanut mallejaan käyttämällä tietoja, jotka on saatu X:stä, jossa Grok on nyt näkyvästi esillä.
“Grok on rakennettu alustaksi, josta Musk haluaa olla tämä supersovellus: hänen alustansa tekoälylle, sosiaaliselle medialle ja mahdollisesti maksuille. Jos sinulla on tämä ankkuripisteenä, elämäsi käyttöjärjestelmä, et voi paeta sitä”, Ajder sanoi. “Jos nämä kyvyt tiedetään ja jätetään huomiotta, vaikka se on niin selkeästi ilmaistu, on lähetettävä viesti varsin huolestuttava.”
xAI ei ole ainoa yritys, jossa seksualisoidut tekoälykuvat ovat herättäneet huolta. Meta poisti kymmeniä seksualisoituja kuvia julkkiksista, jotka on jaettu alustallaan ja jotka luotiin tekoälytyökaluilla viime vuonna, ja lokakuussa OpenAI:n toimitusjohtaja Sam Altman sanoi, että yhtiö lieventäisi “eroottisen” tekoälyn rajoituksia aikuisille, mutta korosti, että se rajoittaisi haitallista sisältöä.
Ajder sanoi, että xAI on omaksunut maineensa hyväksytyn tekoälysisällön rajojen ylittämisessä. Hän sanoi, että vaikka muut perinteiset tekoälymallit vaativat käyttäjiltä “melko luovuutta, melko kieroa” luodakseen riskialtista sisältöä, Grok on valinnut “rohkeamman”.
Perustamisestaan lähtien Grok on markkinoinut itseään “kellottomana” vaihtoehtona perinteisille AI-chatboteille, joista merkittävin on OpenAI:n ChatGPT. Viime vuoden heinäkuussa xAI lanseerasi “flirttailevan” kumppanichatbotin nimeltä Ani osana uutta “Companions”-ominaisuutta Grok-chatbotissaan, ja se oli saatavilla enintään 12-vuotiaille käyttäjille.
“Naisia karkotetaan julkisesta keskustelusta”
Naiset, jotka kohtasivat Grokin luomia kuvia itsestään verkossa, sanovat, että he tunsivat olonsa loukatuiksi ja epäinhimillisiksi.
Toimittaja Samantha Smith, joka havaitsi, että käyttäjät olivat luoneet hänestä väärennettyjä kuvia bikineissä X:llä, kertoi BBC:lle, että tämä jätti hänet tuntemaan “dehumanisoidun ja alentuneen seksuaaliseksi stereotypioksi”.
Postauksessa aiheesta
Yhdistyneessä kuningaskunnassa asuva toimittaja Charlie Smith löysi myös internetistä kuvia, joissa hän oli bikineissä.
“En ollut varma tämän julkaisemisesta, mutta joku pyysi Grokia julkaisemaan kuvan minusta bikiniZ:ssä, ja Grok vastasi valokuvalla”, hän kirjoitti viestissä
St. Clair kertoi Fortunelle, että hän piti X:ää “maailman vaarallisimpana yrityksenä tällä hetkellä” ja syytti yritystä naisten kyvyn olla olemassa turvallisesti verkossa.
“Huolestuttavinta on, että naiset suljetaan julkisen vuoropuhelun ulkopuolelle tämän hyväksikäytön vuoksi”, hän sanoi. “Kun karkotat naiset julkisesta vuoropuhelusta… koska he eivät voi osallistua siihen ilman hyväksikäyttöä, suljet naiset suhteettoman paljon tekoälyn ulkopuolelle.”