Yli 200 lasten edunvalvontaryhmää ja asiantuntijaa vaatii YouTubea kieltämään tekoälyn tuottaman “roskan” kokonaan lasten alustalta väittäen, että heikkolaatuiset, algoritmisesti tuotetut videot johdottavat nuorten aivoja ja keräävät miljoonia, kun taas vanhemmat ja sääntelyviranomaiset katsovat toisin.
Yli 135 organisaatiota allekirjoitti lasten edunvalvontaryhmän Fairplayn järjestämän avoimen kirjeen, joka on osoitettu YouTuben toimitusjohtajalle Neal Mohanille ja Googlen toimitusjohtajalle Sundar Pichaille. Allekirjoittajina olivat muun muassa American Federation of Teachers ja American Counseling Association sekä merkittäviä tutkijoita, kuten Jonathan Haidt, The Anxious Generation -kirjan kirjoittaja. Kirjeen kirjoittajat sanovat, että YouTube ei vain pysty estämään tekoälyä saavuttamasta lapsia, vaan myös hyötyy siitä aktiivisesti.
“Tekoälyn luomat videot ovat todellakin vain eskalaatio monista ongelmista, joita YouTubella on jo, kun se tulee olemaan tekemisissä lasten kanssa sen alustoilla”, Fairplayn Young Children Thrive Offline -ohjelman johtaja Rachel Franz kertoi Fortunelle. “On tärkeää puuttua tähän tekoälyilmiöön, mutta yhtä tärkeää on myös kritisoida YouTubea tavasta, jolla sen alusta on suunniteltu houkuttelemaan käyttäjiä viettämään enemmän aikaa tavoilla, jotka eivät välttämättä liity tekoälyyn.”
Mikä on ‘AI-hidastus’?
Termi viittaa massatuotettujen, tekoälyn luomien videoiden aaltoon, joka tulvii YouTuben kaltaisille alustoille. Sisällön luominen on halpaa, usein outoa tai järjetöntä, ja se on suunniteltu vangitsemaan ja pitämään nuorten katsojien (tai oikeastaan kaikkien katsojien) huomio. Ja rakas lukija, videot ovat outoja: sarjakuvaeläimet suorittamassa toistuvia tehtäviä hämmästyttävässä laaksoestetiikkassa; väärennettyjä “opetusvideoita”, joissa on hämmentävää tietoa; tai hypnoottisia silmukoita ilman mitään puhdasta tarkoitusta. New York Times dokumentoi ilmiön helmikuussa tehdyssä tutkimuksessa ja löysi tällaisia videoita upotettuna YouTube Kidsiin, alustaan, jota YouTube on markkinoinut turvalliseksi, kuratoiduksi tilaksi lapsille.
“Suuri osa tekoälyn luomasta sisällöstä on todella suunniteltu kaappaamaan lasten huomio, erityisesti pienten lasten, jotka ovat vasta alkamassa kehittää impulssihallintaansa, ja se voi todella vääristää todellisuutta, aiheuttaa hämmennystä ja vaikuttaa tapaan, jolla lapset ymmärtävät ympäröivää maailmaa”, sanoi varhaislapsuuden kehityksen taustalla oleva Franz. “Tämä ei sinänsä ole vanhemmuuteen liittyvä ongelma. Alusta suosittelee jatkuvasti tekoälysisältöä nuorille käyttäjille tavoilla, joita heidän on lähes mahdoton välttää.”
Taloudelliset kannustimet ovat hämmästyttäviä. Fairplay havaitsi, että suosituimmat lapsille suunnatut tekoälykanavat ovat saaneet yli 4,25 miljoonan dollarin vuotuiset tulot, ja jotkut sisällöntuottajat mainostavat avoimesti tuloja “kiinnostavasta, juonittomasta tekoälysisällöstä”. Kirjeessä väitettiin, että mikään politiikka ei riitä, ennen kuin alusta poistaa näiden videoiden tekijöiden taloudelliset kannustimet.
“Vain noin 5 % alle 8-vuotiaille lapsille suunnatuista YouTube-videoista on todella korkealaatuisia. Ja näiden viiden prosentin joukossa käydään keskustelua siitä, ovatko ne todella laadukkaita”, Franz sanoi. YouTube kuitenkin katsoo, että tämä luku on sen standardikäytäntöjen vastainen.
“Meillä on korkeat vaatimukset YouTube Kids -sisällölle, mukaan lukien tekoälyn luoman sisällön rajoittaminen sovelluksessa pieneen joukkoon korkealaatuisia kanavia”, YouTuben tiedottaja Boot Bullwinkle kertoi Fortunelle lausunnossaan. “Annamme myös vanhemmille mahdollisuuden estää kanavat. YouTubessa asetamme tekoälysisällön läpinäkyvyyden etusijalle, merkitsemme sisältöä omien tekoälytyökalujemme avulla ja vaadimme sisällöntuottajia paljastamaan realistista tekoälysisältöä. Kehitämme jatkuvasti lähestymistapaamme pysyäksemme ajan tasalla ekosysteemin kehittyessä.”
miten se ratkaistaan
Koalitio vetoaa lasten kehitystä koskeviin tutkimuksiin väittääkseen, ettei tämä ole erityinen huolenaihe. Jopa aikuisilla voi olla vaikeuksia tunnistaa tekoälyn luomaa sisältöä oikein, sillä se saa sen oikein vain noin 50 % ajasta. Vielä huolestuttavampaa on, että toistuva altistuminen saa ihmiset todennäköisemmin pitämään tekoälykuvat todellisina, vaikka heille on kerrottu niiden olevan väärennettyjä. Pienten lasten, joiden aivot vielä rakentavat perustavanlaatuisia todellisuuden skeemoja, vauriot lisääntyvät ajan myötä.
Fairplayn vaatimukset ovat rakenteellisia, eivät kosmeettisia. Koalitio kehottaa YouTubea merkitsemään selkeästi kaiken tekoälyn luoman sisällön alustalla; kieltää tekoälyn luoma sisältö kokonaan YouTube Kidsissä; ja kieltää tekoälyn luoma lapsille tehty sisältö YouTuben pääalustalla. Fairplay haluaa YouTuben lopettavan algoritmiaan suosittelemasta tekoälysisältöä alle 18-vuotiaille käyttäjille; ottaa käyttöön vanhempien kytkimen, joka poistaa oletusarvoisesti pois käytöstä AI-sisällön; ja lopettaa kaikki investoinnit tekoälyn luomaan lapsille suunnattuun sisältöön.
Tämä uusin oikeusjuttu kohdistuu suoraan YouTuben sijoitukseen Animajiin, tekoälyllä toimivaan lasten viihdestudioon, jota tukee Googlen AI Futures Fund. “YouTube sijoittaa lähinnä vauvojen vahingoittamiseen ostamalla Animajin”, Franz sanoi.
Bullwinklen Fortunelle antamassaan lausunnossa tiedottaja vahvisti, että YouTube kehittää omia tekoälytunnisteita YouTube Kidsille, vaikka hän ei antanut aikajanaa. YouTuben toimitusjohtaja Neal Mohan oli jo maininnut “AI-jätteenkäsittelyn” yhdeksi tärkeimmistä prioriteeteistaan vuotuisessa kirjeessään. “Halpalaatuisen tekoälysisällön leviämisen vähentämiseksi rakennamme aktiivisesti vakiintuneita järjestelmiämme, jotka ovat onnistuneet hyvin torjumaan roskapostia ja napsautussyöttiä sekä vähentämään huonolaatuisen ja toistuvan sisällön leviämistä”, kirjeessä sanotaan.
Bullwinkle huomautti myös, että Timesin artikkelissa mainitut 15 kanavaa eivät ole YouTube Kidsissä ja että alusta poisti videoita, jotka rikkoivat sen lasten turvallisuutta koskevia käytäntöjä. Mutta Franzille tämä ei riitä.
“Ei saisi olla yksittäisten tutkijoiden asia mainita joitain kanavia esimerkkeinä, jotka tekevät asioita, jotka voivat vahingoittaa lapsia, ja että se on perusta sille, mitä YouTube päättää käynnistää alustan. Näimme Elsagaten kanssa, että YouTube poisti tuolloin alustaltaan 150 000 videota ja useita satoja eri kanavia”, Franz sanoi. Hän viittasi vuoden 2017 skandaaliin, jossa tuhannet videot YouTubessa ja YouTube Kidsissä käyttivät tuttuja lasten hahmoja, kuten Frozenin Elsaa ja Peppa Pigiä, salatakseen syvästi häiritsevää sisältöä, joka sisälsi graafista väkivaltaa, seksuaalisia teemoja ja huumeiden käyttöä, jotka kaikki peitettiin algoritmiystävällisillä tunnisteilla, kuten “koulutus” ja “hauska” lasten tavoittamiseksi.
“Tiedämme siis, että YouTube pystyy tarkkailemaan, jäljittämään ja poistamaan näitä videoita suuressa mittakaavassa, mutta tällä hetkellä he käyttävät bandaide-lähestymistapaa, jossa lehdistötiedotetta saavat kanavat näyttävät olevan niitä, joille he aikovat tehdä jotain”, Franz jatkoi. “Mutta se ei ratkaise yleistä ongelmaa.”
