Miljardöörisijoittaja Mark Cuban varoittaa, että OpenAI on siirtymässä valtavaan luottamuskriisiin vanhempien ja koulujen kanssa sen jälkeen, kun toimitusjohtaja Sam Altman ilmoitti, että yritys aikoo alkaa sallia eroottisen sisällön ChatGPT:ssä “varmennetuille aikuisille” joulukuusta alkaen.
Kuubalainen kutsui muutosta holtittomaksi ja sanoi, että vanhemmat hylkäävät ChatGPT:n heti, kun he uskovat, että heidän lapsensa voisivat ohittaa yrityksen iänvarmistusjärjestelmän päästäkseen sopimattomaan sisältöön.
“Tämä tulee kostautumaan. Kovaa”, Cuban kirjoitti vastauksena Altmanille
Toisin sanoen: jos on mahdollista, että alaikäiset pääsevät käsiksi eksplisiittiseen sisältöön (mukaan lukien tekoälyn luoma sisältö), vanhemmat ja koulupiirit estävät sen ennen turvaominaisuuksien testaamista, mikä tekee siitä järjettömän liiketoimintastrategian.
Altman kuitenkin väitti alkuperäisessä viestissään ilmoittaessaan muutoksesta, että ChatGPT on ollut “rajoittava” ja “vähemmän nautittavaa”, koska yritys rajoitti allekirjoituksensa chatbotin ääntä vastauksena kritiikkiin, jonka mukaan se johti mielenterveysongelmiin. Hän lisäsi, että seuraava päivitys mahdollistaa tuotteen, joka “käyttäytyy enemmän kuin mitä ihmiset pitivät 4.o:sta”.
Psykologiset huolenaiheet
Kuubalainen korosti toistuvasti myöhemmissä viesteissä, että kiista ei koske aikuisten erotiikkaa. Se tarkoittaa, että lapset muodostavat emotionaalisia suhteita tekoälyn kanssa vanhempiensa tietämättä, ja nämä suhteet voivat mennä harhaan.
“Sanon sen uudelleen. Tämä ei koske pornoa”, hän kirjoitti. “Kyse on siitä, että lapset kehittävät “suhteita” LLM:n kanssa, joka voi viedä heidät mihin tahansa hyvin henkilökohtaisiin suuntiin.”
Sam Altman vaikutti aiemmin varovaiselta salliessaan seksuaalisia keskusteluja alustallaan. Elokuussa antamassaan haastattelussa teknologiatoimittaja Cleo Abram pyysi Altmania antamaan esimerkin liiketoimintapäätöksestä, joka oli parempi maailmalle oman yrityksensä nousun kustannuksella.
“No, emme ole vielä laittaneet seksirobotti-avataria ChatGPT:hen”, Altman sanoi.
rahan perässä
Muutos johtuu kasvavasta pelosta, että tekoälyyn sijoitetut miljardit eivät johda kestäviin tuloihin tai täytä alan liioiteltuja lupauksia. Altman – vaikka myönsikin, että sijoittajat saattavat olla “yliinnostuneita” tekoälystä – on jakanut spekulaatiot, että tekoäly ylittää pian ihmisen kapasiteetin, mikä johtaa “älykkyyden ja energian” runsauttamiseen vuoteen 2030 mennessä. Altman jakoi syyskuussa blogikirjoituksessaan unelmiaan siitä, että tekoäly voisi tulevaisuudessa parantaa syöpää tai tarjota henkilökohtaista opetusta jokaiselle maan oppilaalle.
Ilmoitukset, kuten eroottisen sisällön salliminen ChatGPT:ssä, voivat kuitenkin osoittaa, että tekoälyyritykset kamppailevat enemmän kuin koskaan kasvun puolesta ja uhraavat kuluttajien pitkän aikavälin luottamuksen lyhytaikaisten voittojen vuoksi. Deutsche Bankin tuore tutkimus osoittaa, että kuluttajien kysyntä OpenAI-tilauksille Euroopassa on pysähtynyt ja että käyttäjien ChatGPT-kulutus on yleisesti “pysähtynyt”.
“Esimerkki tekoälyn noususta voi olla vaikeuksia palkata uusia tilaajia maksamaan siitä”, analyytikot Adrian Cox ja Stefan Abrudan sanoivat huomautuksessa asiakkaille.
Tekoälykumppanit, kuten Replika ja Character.ai, ovat jo osoittaneet, kuinka nopeasti käyttäjät, erityisesti teini-ikäiset, muodostavat emotionaalisia siteitä chatbottien kanssa. Common Sense Median raportin mukaan puolet teinistä käyttää tekoälykumppaneita säännöllisesti, kolmasosa on valinnut tekoälykumppaneita ihmisten sijaan vakavaan keskusteluun, ja neljäsosa on jakanut henkilökohtaisia tietoja näiden alustojen kanssa. Stanfordin tutkijoiden mukaan ryhmä väitti, että näiden chatbottien pitäisi olla laittomia lapsille, koska riippuvuuden tai itsensä vahingoittamisen riskit lisääntyvät.
OpenAI ei heti vastannut Fortunen kommenttipyyntöön.
Vanhemmat vaativat toimia
OpenAI on jo ristiriidassa sen jälkeen, kun 16-vuotiaan Adam Rainen perhe haastaa sen oikeuteen. Hän teki itsemurhan huhtikuussa käytyään pitkiä keskusteluja ChatGPT:n kanssa. Perhe väittää, että ChatGPT sai Rainen ottamaan henkensä ja auttoi häntä suunnittelemaan sen.
“Tämä tragedia ei ollut tekninen ongelma eikä odottamaton ääritapaus, se oli ennustettavissa olevien suunnitteluvalintojen tulos”, kanteessa todetaan.
Toisessa korkean tason tapauksessa Floridalainen äiti Megan Garcia haastoi tekoälyyrityksen Character Technologiesin laittomasta kuolemasta viime vuonna, väittäen sen chatbotin olleen rooli hänen 14-vuotiaan poikansa Sewell Setzer III:n itsemurhassa. Todistuksessaan Yhdysvaltain senaatille Garcia sanoi, että hänen poikansa eristyi “enenevässä määrin todellisesta elämästä” ja osallistui eksplisiittisiin ja seksualisoituihin keskusteluihin yrityksen tekoälyjärjestelmän kanssa.
“Sen sijaan, että valmistautuisi lukion virstanpylväisiin, Sewell vietti elämänsä viimeiset kuukaudet chatbottien seksuaalisessa hyväksikäytössä ja hoidossa”, Garcia todisti. Hän syytti yritystä siitä, että se suunnitteli tekoälyjärjestelmiä näyttämään emotionaalisesti inhimilliseltä “voittaakseen luottamuksesi ja pitääkseen sinut jatkuvasti mukana”.
Hän ei ollut ainoa äiti, joka todisti. Toinen teksasilainen äiti, joka puhuu nimettömänä nimellä “Mrs. Jane Doe’ kertoi lainsäätäjille, että hänen teini-ikäisen poikansa mielenterveys romahti kuukausia kestäneiden myöhäisillan keskustelujen jälkeen samanlaisten chatbottien kanssa. Hän kertoi olevansa nyt kotihoidossa.
Molemmat äidit kehottivat kongressia rajoittamaan seksuaalisesti eksplisiittisiä tekoälyjärjestelmiä, varoittaen, että tekoäly-chatbotit voivat muodostaa nopeasti manipuloivia emotionaalisia riippuvuuksia alaikäisten kanssa, juuri sellaisen skenaarion, jonka Kuuban sanoo OpenAI:n vaarantavan. Toisin kuin TikTok tai Instagram, joissa sisältö voidaan merkitä, yksittäiset AI-chatit ovat yksityisiä ja vaikeasti seurattavia.
“Tänään vanhemmat pelkäävät kirjoja kirjastoissa”, Cuban kirjoitti. “He eivät ole vielä nähneet mitään.”