Kenen pitäisi hallita tekoälyä? Ovatko tehokkaan teknologian lanseeraavat yritykset sen kohtalon päättäjiä? Vai pitäisikö sen vallan olla hallituksen käsissä?
Palmer Luckey, Yhdysvaltain armeijan nykyaikaistamiseen tähtäävän puolustusyhtiö Andurilin perustaja, uskoo vastauksen olevan yksinkertainen: anna valta hallitukselle. Äskettäisessä New York Postin haastattelussa miljardööriperustaja painoi kasvavaa keskustelua siitä, kuka päättää, miten hallitus käyttää tekoälyä.
Miljardöörille on hallituksen ja siten ihmisten tehtävä tehdä erityisiä käyttöpäätöksiä. Muuten teknologiayritykset voivat vaarantaa demokratian.
“Meidän on pysyttävä siinä asennossa, että tämä on ihmisten käsissä”, hän sanoi. “Jokainen, joka sanoo, että puolustusyhtiön pitäisi mennä lakia pidemmälle, pidemmälle kuin lainsäätäjät ja valitut johtajat sanovat siitä, kenen kanssa he työskentelevät ja kenen kanssa eivät, sanovat todella, että he eivät usko tähän demokraattiseen kokeiluun, että he haluavat “korporatokratian”.
“Kaikissa tapauksissa jokainen, jolle Yhdysvaltain hallitus sanoo minulle, että voin ja en voi myydä”, hän jatkoi, “missä tahansa muussa asemassa oleminen tarkoittaa, että hän joutuu vielä syvemmälle… pohjimmiltaan yritysten johtajiin, joilla on tosiasiallinen määräysvalta Yhdysvaltain ulkopolitiikassa.”
Luckeyn ajatukset tulevat, kun Anthropicin toimitusjohtaja Dario Amodei kieltäytyi sallimasta Pentagonin käyttää täysin tekoälyjärjestelmiään massavalvontaan tai käyttää täysin itsenäisiä aseita, jotka toimivat ilman ihmisen valvontaa. Tämän seurauksena puolustusministeriö nimesi tekoälyyrityksen “toimitusketjuriskiksi”, joka on tyypillisesti varattu ulkomaisille vastustaville yrityksille, kuten Kiinassa sijaitsevalle Huaweille. Amodei sanoi, että etiketillä ei ole suurta vaikutusta yhtiön liiketoimintaan ja että hän nostaa kanteen nimeämisen peruuttamiseksi. Siitä huolimatta se jatkaa neuvotteluja Pentagonin kanssa tekoälymalliensa ja -työkalujensa käytöstä.
Mutta Amodei ja Anthropicin perustajat, jotka olivat lähteneet yhdessä OpenAI:sta rakentaakseen yrityksen, jonka he sanovat priorisoivan tekoälyn turvallisuutta, väittävät, että Pentagonin pyyntö ylittää rajan. “Nämä uhkaukset eivät muuta kantaamme: emme voi hyvällä omallatunnolla hyväksyä pyyntöänne”, Amodei sanoi lehdistötiedotteessa viime viikolla.
Anthropic ei heti vastannut Fortunen kommenttipyyntöön.
Piilaakso vs. Washington
Puolustusministeriö (ja Luckeyn kaltaiset luvut) eivät usko, että yksityisen urakoitsijan käsissä on sanella käyttötapauksia, ja sen sijaan väittävät, että se kuuluu hallituksen toimivaltaan. Pian sen jälkeen, kun Anthropic-sopimus hajosi viime kuussa, Sam Altmanin OpenAI teki sopimuksen Pentagonin kanssa, joka salli startupin tekoälymallien ja -työkalujen käytön. Elon Muskin xAI teki myös sopimuksen, joka antoi Pentagonin käyttää tekoälyään, mikä lisäsi kilpailua Anthropicin kerran ainutlaatuiseen kumppanuuteen.
Anthropic ei ole ensimmäinen teknologiayritys, joka vastustaa puolustusministeriötä. Kuten Luckey haastattelun aikana huomautti, Google poistui Pentagonista vuonna 2018 ja vetäytyi Project Mavenista, joka sisälsi drone-kuvien analysoinnin tekoälyllä, sen jälkeen kun tuhannet työntekijät protestoivat sen osallistumista ohjelmaan pelätessään, että se voisi johtaa autonomisiin aseisiin.
“Meillä olisi ollut maailma, jossa Piilaakson johtajilla olisi ollut enemmän valtaa ulkopolitiikassa kuin Yhdysvaltain presidentillä”, Luckey sanoi. “Se on todella, todella vaarallista.”
Luckeylle kaikki riippuu siitä, kuuluvatko korkean tason päätökset tekoälyn käyttöön Piilaaksoon vai Washingtoniin. Hänen näkemyksensä on, että riippumatta siitä, kuka on Valkoisessa talossa, teknologiayrityksillä ja yleensä yksityisellä sektorilla on velvollisuus noudattaa kyseisen hallinnon ulkopoliittisia päätöksiä. Mutta vaikka Anthropo-Pentagonin konflikti kuumenee, Amodei sanoi torstaina lehdistötiedotteessa, että osapuolet voivat löytää yhteisen sävelen. “Anthropicilla on paljon enemmän yhteistä sotaosaston kanssa kuin eroja”, hän sanoi.