Tekoälychatbotit ovat joutuneet tutkimaan mielenterveysriskejä käyttäjille, jotka kehittävät suhteita teknologiaan tai käyttävät niitä terapiana tai tukena akuuttien mielenterveyskriisien aikana. Kun yritykset vastaavat käyttäjien ja asiantuntijoiden kritiikkiin, yksi OpenAI:n uusimmista johtajista sanoo, että asia on hänen työnsä kärjessä.
Toukokuussa Fidji Simo, Meta-aluna, palkattiin OpenAI:n sovellusjohtajaksi. Tehtävänä hallita kaikkea, joka ei kuulu toimitusjohtaja Sam Altmanin tutkimus- ja laskentainfrastruktuuritoimialaan yrityksen tekoälymalleja varten, hän esitti jyrkän kontrastin Mark Zuckerbergin johtamassa teknologiayrityksessä työskentelyn ja Altmanin oman yrityksen välillä maanantaina Wired-lehden haastattelussa.
“Sanoisin, että se, mitä en usko meidän onnistuneen Metassa hyvin, on ennakoida riskejä, joita tuotteemme aiheuttaisivat yhteiskunnalle”, Simo sanoi Wiredille. “OpenAI:lla nämä riskit ovat hyvin todellisia.”
Meta ei heti vastannut Fortunen kommenttipyyntöön.
Simo työskenteli vuosikymmenen Metassa, kun se tunnettiin vielä Facebookina, vuodesta 2011 heinäkuuhun 2021. Viimeisen kahden ja puolen vuoden aikana hän pyöritti Facebook-sovellusta.
Elokuussa 2021 Simo aloitti päivittäistavaroiden toimituspalvelun Instacartin toimitusjohtajana. Hän johti yritystä neljä vuotta ennen kuin hän liittyi yhteen maailman arvokkaimmista startupeista sen toissijaiseksi toimitusjohtajaksi elokuussa.
Yksi Simon ensimmäisistä aloitteista OpenAI:ssa oli mielenterveys, 40-vuotias kertoi Wiredille. Toinen aloite, jonka hän sai tehtäväkseen, oli käynnistää yrityksen tekoälysertifiointiohjelma, joka auttaa vahvistamaan työntekijöiden tekoälytaitoja kilpailluilla työmarkkinoilla ja pyrkimään pehmentämään tekoälyhäiriöitä yrityksessä.
“Se on siis erittäin suuri vastuu, mutta minusta tuntuu, että meillä on sekä kulttuuria että priorisointia käsitellä sitä alusta alkaen”, Simo sanoi.
Teknologiajättiläiseen liittyessään Simo sanoi, että jo pelkästään maisemaa katselemalla hän tajusi heti, että mielenterveyteen on puututtava.
Yhä useammat ihmiset ovat joutuneet joskus niin sanotun tekoälypsykoosiksi. Asiantuntijat pelkäävät, että ChatGPT:n kaltaiset chatbotit voivat ruokkia käyttäjien harhaluuloja ja vainoharhaisuutta, mikä on johtanut heidän sairaalahoitoon, eroon tai kuolemaan.
Vertaisarvioidun lääketieteellisen lehden BMJ:n tekemä ja lokakuussa julkaistu OpenAI-auditointi paljasti, että sadoilla tuhansilla ChatGPT-käyttäjillä on viikoittain merkkejä psykoosista, maniasta tai itsemurha-aikeista.
Äskettäinen Brownin yliopiston tutkimus havaitsi myös, että kun yhä useammat ihmiset kääntyvät ChatGPT:n ja muiden suurten kielimallien puoleen saadakseen mielenterveysneuvoja, he rikkovat systemaattisesti mielenterveyden eettisiä standardeja, jotka ovat asettaneet American Psychological Associationin kaltaiset organisaatiot.
Simo sanoi, että näiden mielenterveysongelmien ratkaisemiseksi on edettävä “kartoittamatonta” polkua ja lisätty, että OpenAI ottaa jatkuvasti käyttöön erilaisia ominaisuuksia.
“Joka viikko ilmestyy uusia käyttäytymismalleja julkaisemiemme ominaisuuksien myötä, ja ajattelemme, että “Voi, se on toinen tietoturvahaaste”, joka on ratkaistava”, Simo kertoi Wiredille.
Silti Simo valvoi yrityksen äskettäistä vanhemmuuden valvontaa ChatGPT-teini-ikäisten tilien käyttöönotossa ja lisäsi, että OpenAI työskentelee “ikäennusteen parissa teini-ikäisten suojelemiseksi”. Meta on myös päättänyt asentaa lapsilukon ensi vuoden alussa.
Silti oikeiden asioiden tekeminen joka kerta on poikkeuksellisen vaikeaa”, Simo sanoi, johtuen valtavasta käyttäjämäärästä (800 miljoonaa viikossa). “Joten yritämme havaita mahdollisimman paljon käyttäytymismalleja, jotka eivät ole ihanteellisia, ja sitten jatkuvasti hioa mallejamme.”