Trumpin hallinto ei ole vältellyt tekoälyn luomien kuvien jakamista verkossa, sarjakuvamaisten kuvien ja meemien omaksumista ja niiden mainostamista Valkoisen talon virallisilla kanavilla.
Mutta muokattu (ja realistinen) kuva kansalaisoikeusasiamies Nekima Levy Armstrongista, joka itkee pidätyksen jälkeen, herättää uusia hälytyksiä siitä, kuinka hallinto hämärtää rajoja todellisuuden ja väärennösten välillä.
Kotimaan turvallisuusministerin Kristi Noemin tilille julkaistiin alkuperäinen kuva Levy Armstrongin pidätyksestä, ennen kuin Valkoisen talon virallinen tili julkaisi muunnetun kuvan, jossa hän näytti itkevän. Käsitelty kuva on osa tekoälyllä muokattujen kuvien tulvaa, jota on jaettu poliittisella kirjolla sen jälkeen, kun Yhdysvaltain rajavartiolaitoksen agentit ampuivat Renee Goodin ja Alex Pretin kuolemaan Minneapolisissa.
Valkoisen talon tekoälyn käyttö on kuitenkin huolestuttanut disinformaation asiantuntijoita, jotka pelkäävät, että tekoälyn tuottamien tai muokkaamien kuvien leviäminen heikentää yleistä käsitystä totuudesta ja kylvää epäluottamusta.
Vastauksena Levy Armstrongin muokattua kuvaa koskevaan kritiikkiin Valkoisen talon virkamiehet tuplasivat virkaa, ja apulaisviestintäjohtaja Kaelan Dorr kirjoitti X:lle, että “meemit jatkuvat”. Valkoisen talon apulaislehdistösihteeri Abigail Jackson jakoi myös postauksen, joka pilkkasi kritiikkiä.
Cornellin yliopiston tietotieteiden professori David Rand sanoo, että tohtorin kuvan kutsuminen meemiksi “tuntuu varmasti yritykseltä esittää se vitsinä tai humoristisena postauksena, kuten heidän aiemmissa sarjakuvissaan. Tämän oletettavasti on tarkoitus suojella heitä kritiikiltä manipuloidun median julkaisemisesta.” Hän sanoi, että pidätyksen kaapatun kuvan jakamisen tarkoitus näyttää “paljon epäselvämmältä” kuin hallinnon aiemmin jakamat sarjakuvalliset kuvat.
Meemit ovat aina välittäneet kerroksittain viestejä, jotka ovat hauskoja tai informatiivisia ihmisille, jotka ymmärtävät niitä, mutta joita ei voi ymmärtää ulkopuolisille. Tekoälyllä parannetut tai muokatut kuvat ovat vain uusin työkalu, jota Valkoinen talo käyttää vedotakseen Trumpin tukikohdan segmenttiin, joka viettää paljon aikaa verkossa, sanoi Zach Henry, republikaanien viestintäkonsultti, joka perusti Total Viralityn, vaikuttajamarkkinointiyrityksen.
“Ihmiset, jotka ovat verkossa, näkevät sen ja tunnistavat sen välittömästi meemiksi”, hän sanoi. “Isovanhempasi saattavat nähdä sen eivätkä ymmärrä meemiä, mutta koska se näyttää todelliselta, se saa heidät kysymään siitä lapsilleen tai lastenlapsilleen.”
Paljon parempi, jos se herättää kiihkeän reaktion, mikä auttaa sitä leviämään, sanoi Henry, joka yleisesti ylisti Valkoisen talon sosiaalisen median tiimin työtä.
“Hallituksen pitäisi olla paikka, jossa tietoon voidaan luottaa, jossa sen voidaan sanoa olevan paikkansapitävää, koska sillä on vastuu tehdä niin”, hän sanoi. “Tämän tyyppisen sisällön jakaminen ja tämän tyyppisen sisällön luominen… heikentää luottamusta – vaikka olen aina hieman skeptinen termiin luottamus – mutta luottamus, joka meillä pitäisi olla liittohallituksessamme, jotta voimme antaa meille tarkkoja ja vahvistettuja tietoja. Se on todellinen menetys, ja se huolestuttaa minua todella paljon.”
Ramesh Srinivasan, UCLA:n professori ja Utopias-podcastin isäntä, sanoi, että monet ihmiset ihmettelevät nyt, mistä he voivat mennä saadakseen “luotettavaa tietoa”. “Tekoälyjärjestelmät vain pahentavat, vahvistavat ja kiihdyttävät näitä ongelmia, jotka johtuvat luottamuksen puutteesta, siitä, ettei edes ymmärretä, mitä voitaisiin pitää todellisuutena, totuutena tai todisteina”, hän sanoi.
Srinivasan sanoi, että hänen mielestään Valkoinen talo ja muut virkamiehet, jotka jakavat tekoälyn tuottamaa sisältöä, eivät vain kutsu tavallisia ihmisiä jatkamaan samanlaisen sisällön julkaisemista, vaan myös antavat luvan muille uskottavilla ja valta-asemilla oleville, kuten poliittisille päättäjille, jakaa merkitsemätöntä synteettistä sisältöä. Hän lisäsi, että koska sosiaalisen median alustoilla on tapana “algoritmisesti antaa etuoikeus” äärimmäiselle ja salaliittoon perustuvalle sisällölle, jonka tekoälyn sukupolven työkalut voivat helposti luoda, “meillä on käsissämme suuri joukko haasteita.”
Tekoälyllä luotuja videoita, jotka liittyvät maahanmuutto- ja tullivalvontatoimiin, mielenosoituksiin ja vuorovaikutukseen kansalaisten kanssa, on jo levinnyt sosiaalisessa mediassa. Sen jälkeen kun ICE-upseeri ampui Renee Goodin hänen ollessaan autossaan, useita tekoälyn luomia videoita alkoi levitä naisista, jotka kävelivät pois ICE-upseereilta, jotka käskivät heitä pysähtymään. On myös monia tekaistuja videoita maahanmuuttohyökkäyksestä ja ihmisistä, jotka kohtaavat ICE-agentteja, usein huutaen heille tai heittäen ruokaa heidän kasvoilleen.
Jeremy Carrasco, sisällöntuottaja, joka on erikoistunut medialukutaitoon ja viraalisten tekoälyvideoiden paljastamiseen, sanoi, että suurin osa näistä videoista tulee todennäköisesti tileiltä, jotka “viljelivät sitoutumista” tai haluavat hyötyä napsautuksista luomalla sisältöä suosituilla avainsanoilla ja hakutermeillä, kuten ICE. Mutta hän sanoi myös, että videot saavat näkemyksiä ihmisiltä, jotka vastustavat ICE:tä ja DHS:ää ja jotka saattavat pitää niitä “fanifiktioina” tai harjoittaa “toiveajattelua”, toivoen näkevänsä todellista vastaiskua järjestöjä ja niiden virkamiehiä vastaan.
Silti Carrasco uskoo myös, että useimmat katsojat eivät voi tietää, onko näkemästään väärennös, ja pohtii, tietäisivätkö he “mikä on totta vai ei, kun sillä on todella merkitystä, kuten silloin, kun panokset ovat paljon korkeammat.”
Silloinkin, kun tekoälyn synnystä on ilmeisiä merkkejä, kuten katukylttejä, joissa on hölynpölyä tai muita ilmeisiä virheitä, vain “parhaassa tapauksessa” katsoja olisi tarpeeksi älykäs tai kiinnittäisi tarpeeksi huomiota tekoälyn käytön rekisteröimiseen.
Carrasco uskoo, että vesileimajärjestelmän laaja käyttöönotto, joka sisällyttää tiedot median alkuperästä sen metatietokerrokseen, voisi olla askel kohti ratkaisua. Sisällön alkuperän ja aitouden koalitio on kehittänyt tällaisen järjestelmän, mutta Carrasco ei usko, että se otettaisiin laajalti käyttöön vielä ainakin vuoteen.
“Se tulee olemaan ikuinen ongelma”, hän sanoi. “En usko, että ihmiset ymmärtävät, kuinka paha tämä on.”
__
Associated Pressin kirjoittajat Jonathan J. Cooper Phoenixissa ja Barbara Ortutay San Franciscossa osallistuivat tähän raporttiin.