Summer Yue ei ole Metan tunnetuin työntekijä. “Superälykkyyden ja turvallisuustutkimuksen” johtaja julkaisee kuvia itsestään kävelystä koiraansa rannalla ja viestejä tekoälyapulaisten rehellisyyden testaamisesta. Hänellä on vaatimaton määrä seuraajia sosiaalisessa mediassa.
Mutta yhdeksi päiväksi helmikuussa Yuesta tuli Metan puhutuin henkilö. Ei lanseeraamalla merkittävää uutta tuotetta tai ilmoittamalla läpimurrosta agentti AI:ssa, vaan pikemminkin jäämällä kiinni.
“Mikään ei nöyrrytä sinua enemmän kuin se, että kerrot OpenClawille: ‘Vahvista ennen kuin toimit’ ja katsot sen nopeuttavan postilaatikkosi poistamista”, Yue kirjoitti X:ssä, jossa on nyt lähes 10 miljoonaa katselukertaa. “En voinut estää sitä puhelimellani. Minun piti juosta Mac minini luo kuin olisin purkamassa pommia.”
Se on tärkeä keskustelu, niin tärkeä, että tämän viikon Mobile World Congressissa Barcelonassa (maailman suurin teknologiakokous) Yuen virhe keskusteltiin päälavalla.
“Tietenkin kaikki täällä World Congressissa ovat jutelleet OpenClawista ja siitä, kuinka voimme käyttää agentteja”, sanoi Kate Crawford, Etelä-Kalifornian yliopiston tutkimusprofessori.
“Mutta sitten näimme, että Metan tekoälyn tietoturvapäällikkö käytti OpenClawia, ja hän poisti koko postilaatikkonsa. Se on Metan tietoturvapäällikkö. Joten jos sinulla on ongelmia, mielestäni meidän kaikkien on kysyttävä itseltämme: “Kuinka varmistamme, että nämä järjestelmät ovat todella kovettuja? Kuinka varmistamme, että ne testataan tiukasti? Miten voimme varmistaa, että ne todella ovat luotettavat? Ja se on todella vaikein ongelma käsitellä, eikö?
Hyvä. Kun jokin menee pieleen, kuka on vastuussa? Käyttäjä? Kehittäjä? Sääntelyn puute? Kun tekoälyn todellisuus törmää lupaukseensa, mitä teemme?
Yuen postilaatikko voi olla hänelle vain äärimmäisen tärkeä. Mitä tulee teknologian ja esimerkiksi terveyteemme tai, katsokaa Anthropicia, kansakunnan puolustukseen, se on aivan eri asia. Ei siitä kauan sitten, kun xAI:n tekoälyrobotti Grok “riisui” rennosti naisten ja tyttöjen kuvia miljoonien harmiksi. Hallituksen uhka ja valtion johtama toiminta aiheuttivat vihdoin asennemuutoksen.
“Kuinka varmistamme, että nämä järjestelmät ovat todella kovia? Miten varmistamme, että ne testataan tarkasti?”
Kate Crawford, Etelä-Kalifornian yliopiston tutkimusprofessori
“Kuinka voit todella luoda vastuullisuutta?” – Crawford kysyi. “Tätä me kaikki haluamme. Jos aiot alkaa käyttää agentteja lentojen varaamiseen ja lääkärikäyntien järjestämiseen sekä vieläkin intiimimpään ja luotettavampaan toimintaan jokapäiväisessä elämässäsi, haluat tietää, että tiedot suojataan.
“Joten miten todistat sen? Kuinka varmistat, että näin tapahtuu? Jos katsomme, mitä on tapahtunut viimeisten 10 vuoden aikana teknologia-alalla, valitettavasti olemme nähneet paljon valkaisua, jolloin yritykset voivat sanoa: “No, en tiedä. Tarkoitan, että algoritmi teki sen.””