Presidentti Donald Trump syytti Anthropicia joukkojen ja kansallisen turvallisuuden vaarantamisesta, mutta toimitusjohtaja Dario Amodei sanoi, että hänen yrityksensä on isänmaallinen.
“Mielestäni meidän on puolustettava maatamme Kiinan ja Venäjän kaltaisilta itsevaltaisilta vihollisilta”, hän sanoi. “Ja siksi olemme olleet erittäin ketteriä. Meillä on merkittävä julkisen sektorin tiimi.”
Vaikka Anthropic toimitti tekoälynsä hallitukselle, Pentagon vaati sen rajoittamatonta käyttöä kaikissa laillisissa skenaarioissa. Mutta yhtiö väitti, että sillä on “punaiset linjat”, toisin sanoen sen käyttö kotimaisessa joukkovalvonnassa ja autonomisissa aseissa.
Neuvottelut eivät päässeet sopimukseen, mikä sai Trumpin kieltämään Anthropicin hallituksen virastoilta, mutta antoi Pentagonille kuuden kuukauden lopetusajan.
Puolustusministeri Pete Hegseth kutsui yritystä myös “toimitusketjun riskiksi”, mikä tarkoittaa, että muut Pentagonin urakoitsijat eivät saa käyttää Anthropicin tekoälyä sotilastyössä.
Amodei kertoi CBS:lle, että Anthropic on samaa mieltä 98–99 prosentista sotilaskäyttötapauksista. Mutta hänen huolensa massavalvonnasta on se, että uusin tekoäly on pelin muuttaja, jopa nykyisten laillisten rajojen sisällä.
“Se ei ole itse asiassa laitonta. Se ei vain ollut koskaan hyödyllistä ennen tekoälyn ikää. Joten on olemassa tapa, jolla kotimainen joukkovalvonta menee lain edelle”, hän selitti. “Teknologia kehittyy niin nopeasti, ettei se ole lain tahdissa.”
Mitä tulee autonomisiin aseisiin, Amodei sanoi, että tekoäly ei ole tarpeeksi luotettava ottamaan ihmiset täysin pois silmukasta, mikä viittaa nykyisten mallien “perus-ennustamattomuuden” tekniseen ongelmaan.
Toistaiseksi hän ei tiedä todellisia esimerkkejä käyttäjästä, joka olisi törmännyt Anthropicin punaisiin linjoihin, mutta hän myönsi, että yksityisen yrityksen ei ole pitkällä aikavälillä kestävää päättää näistä asioista.
Viime kädessä kongressin on asetettava esteitä tekoälyn käytölle, mutta lainsäätäjät ovat hitaita, Amodei sanoi. Yhtiö vastustaa myös “kategorisesti täysin autonomisia aseita”, mutta uskoo, että tekoälyn luotettavuus ei ole vielä saavuttanut huippuaan.
Samaan aikaan Anthropic on edelleen avoin yhteistyölle hallituksen kanssa ja ehdotti molempia osapuolia pitämään yhteyttä.
“Olemme valmiita tarjoamaan mallejamme kaikille hallinnon haaroille, mukaan lukien sotaosastolle, tiedusteluyhteisölle ja siviilihallituksille niillä ehdoilla, jotka olemme antaneet punaisten linjojemme alla”, hän sanoi.
Trump ja Hegseth asettivat Anthropicin mustalle listalle tunteja ennen kuin Yhdysvallat ja Israel aloittivat laajat ilmaiskut Irania vastaan, mikä on muodostumassa pitkittyneeksi konfliktiksi, jonka tarkoituksena on hallinnon vaihtaminen.
Tekoälystä on tullut kriittinen työkalu armeijalle, erityisesti kohteiden tunnistamisessa ja vihollisen käyttäytymisen ennustamisessa nopean tiedusteluanalyysin avulla.
Kun CBS kysyi, mitä hän sanoisi Trumpille nyt, Amodei vastasi: “Sanoisin, että olemme isänmaallisia amerikkalaisia. Kaikki, mitä olemme tehneet, on ollut tämän maan parhaaksi, Yhdysvaltojen kansallisen turvallisuuden tukemiseksi. Taipumuksemme käyttää mallejamme armeijan kanssa tapahtui, koska uskomme tähän maahan.”
Mutta hän lisäsi: “Vedimme punaiset linjat, jotka olemme vetäneet, koska uskomme, että niiden ylittäminen on vastoin amerikkalaisia arvoja. Ja halusimme puolustaa amerikkalaisia arvoja.”
Anthropic on Pentagonin johtajan toimitusketjun riskinimitys, joka on ennennäkemätön liike yhdysvaltalaista yritystä vastaan, joka voi haitata sen kasvua.
Amodei kutsui sitä rankaisemiseksi, mutta vähätteli mahdollisia vahinkoja sanoen, että se ei vaikuta Anthropicin asiakkaiden suorittamaan puolustukseen liittymättömään työhön.
“Me pärjäämme hyvin”, hän sanoi. “Tämän nimeämisen vaikutus on melko pieni. Nyt sihteerin julkaiseman twiitin luonne oli suunniteltu luomaan epävarmuutta, se oli suunniteltu luomaan tilanne, jossa ihmiset uskoivat vaikutuksen olevan paljon suurempi, sen tarkoituksena oli luoda pelkoa, epävarmuutta ja epäilystä. Mutta emme anna sen onnistua. Kyllä me pärjäämme.”
