Äskettäinen tekoälyn turvallisuusvalvojan raporttikortti ei ole asia, jota teknologiayritykset halua säilyttää jääkaapissa.
The Future of Life Instituten uusimmassa tekoälyn turvallisuusindeksissä havaittiin, että parhaat tekoälylaboratoriot eivät täyttäneet useimpia tekoälyn vastuullisuusvaatimuksia, ja vain harvat arvosanat olivat korkeampia kuin C. Organisaatio arvioi kahdeksan yritystä luokissa, kuten turvallisuuskehykset, riskinarviointi ja nykyiset haitat.
Ehkä ilmeisin oli “eksistenttiaalinen turvallisuus” -linja, jossa yritykset ansaitsivat D- ja F-luokkia kautta linjan. Vaikka monet näistä yrityksistä tavoittelevat nimenomaisesti superälyä, heillä ei ole suunnitelmaa sen turvalliseen hallintaan, sanoo Max Tegmark, MIT-professori ja Future of Life Instituten puheenjohtaja.
“Kriitikot löysivät tällaisen ristiriidan”, Tegmark kertoi meille.
Kyseiset arvioijat olivat tekoälyn tutkijoista ja hallinnon asiantuntijoista koostuva paneeli, joka tutki julkisesti saatavilla olevaa materiaalia sekä viiden kahdeksasta yrityksestä toimittamia kyselyvastauksia.
Anthropic, OpenAI ja GoogleDeepMind saivat kolme parasta yleisarvosanalla C+ tai C. Sitten tulivat järjestyksessä Xai, Z.ai, Meta, DeepSeek ja Elon Muskin Alibaba, jotka kaikki saivat D tai D-.
Tegmark syyttää sääntelyn puutetta, joka on merkinnyt sitä, että tekoälykilpailussa on ylivoimainen kilpailu turvatoimiin nähden. Kalifornia hyväksyi äskettäin ensimmäisen lain, joka velvoittaa rajalla sijaitsevia tekoälyyrityksiä paljastamaan tietoturvatiedot katastrofaalisista riskeistä, ja myös New York on tällä hetkellä silmiinpistävän etäisyyden päässä. Toiveet liittovaltion lainsäädännöstä ovat kuitenkin vähäiset.
“Yrityksillä on, vaikka niillä olisi parhaat aikomukset, kannustin tuoda markkinoille uusia tuotteita aina ennen kilpailijoita sen sijaan, että he kuluttaisivat paljon aikaa sen turvallisuuden parantamiseen”, Tegmark sanoi.
Hallituksen asettamien standardien sijaan Tegmark sanoi, että teollisuus on alkanut ottaa vakavammin konsernin säännöllisesti julkaistut turvallisuusluokitukset; neljä viidestä amerikkalaisesta yrityksestä vastaa nyt hänen kyselyynsä (Meta on ainoa, joka vastustaa). Ja yritykset ovat tehneet joitain parannuksia ajan myötä, Tegmark sanoi ja mainitsi esimerkkinä Googlen avoimuuden ilmiantopolitiikan suhteen.
Mutta tosielämän haitat, joita on raportoitu aiheista, kuten chatbottien väitetysti rohkaisemat teinien itsemurhat, sopimaton vuorovaikutus alaikäisten kanssa ja suuret kyberhyökkäykset, ovat myös nostaneet keskustelun panoksia, hän sanoi.
“(Ne) ovat todella saaneet monet ihmiset ymmärtämään, että emme puhu tulevaisuudesta vaan nyt”, Tegmark sanoi.
Future of Life Institute rekrytoi äskettäin niinkin erilaisia julkisuuden henkilöitä kuin prinssi Harry ja Meghan Markle, Trumpin entinen avustaja Steve Bannon, Applen perustaja Steve Wozniak ja räppäri Will.i.am allekirjoittamaan lausunnon, joka vastustaa työtä, joka voi johtaa superälykkyyteen.
Tegmark sanoi, että hän haluaisi nähdä jotain “FDA:n tekoälylle, jossa yritysten on ensin vakuutettava asiantuntijat, että heidän mallinsa ovat turvallisia, ennen kuin ne voivat myydä ne”.
“Tekoälyteollisuus on melko ainutlaatuinen, koska se on ainoa toimiala Yhdysvalloissa, joka valmistaa tehokasta teknologiaa, joka on vähemmän säänneltyä kuin voileipiä – periaatteessa ei säännellä ollenkaan”, Tegmark sanoi. “Jos joku sanoo: “Haluan avata uuden voileipäkaupan lähelle Times Squarea”, ennen kuin voit myydä ensimmäisen voileivän, sinun on pyydettävä terveystarkastajaa tarkistamaan keittiösi ja varmistamaan, ettei se ole täynnä rottia… Jos sen sijaan sanot: ‘Voi, ei, en aio myydä voileipiä. Aion vain päästää superälykkyyden valloilleen. Se on hyvä! Ei tarvita tarkastajia, ei tarvitse saada hyväksyntää millekään.”
“Joten ratkaisu tähän on hyvin ilmeinen”, Tegmark lisäsi. “Se vain lopettaa tämän yritysten hyvinvoinnin antamasta tekoälyyrityksille poikkeuksia, joita mikään muu yritys ei saa.”
Tämän raportin julkaisi alun perin Tech Brew.