Anthropicin 200 miljoonan dollarin sopimus puolustusministeriön kanssa on ilmassa sen jälkeen, kun Anthropicin kerrotaan ilmaantuneen huolensa Pentagonin Claude AI -mallin käytöstä Nicolás Maduron tammikuun ratsian aikana.
“Sotaministeriön suhdetta Anthropiciin tarkastellaan”, Pentagonin päätiedottaja Sean Parnell sanoi Fortunelle antamassaan lausunnossa. “Kansakuntamme edellyttää kumppaneidemme olevan valmiita auttamaan sotataistelijoitamme voittamaan missä tahansa taistelussa. Viime kädessä kyse on joukkoistamme ja amerikkalaisten turvallisuudesta.”
Jännitteet ovat nousseet viime viikkoina sen jälkeen, kun korkea antropiikkavirkailija oli kuulemma lähestynyt Palantirin ylintä johtajaa kysyäkseen, kuinka Claudea käytettiin hyökkäyksessä, The Hillin mukaan. Palantirin johtaja tulkitsi lähestymistavan paheksunnaksi mallin käytölle ratsastuksessa ja lähetti tiedot vaihdosta Pentagonille. (Presidentti Trump sanoi, että armeija käytti “irrotusasetta” hyökkäyksen aikana, mikä teki vihollisen varusteista “epätoimivia”.)
“Anthropic ei ole keskustellut Clauden käyttämisestä tiettyihin operaatioihin sotaosaston kanssa”, Anthropicin tiedottaja sanoi Fortunelle antamassaan lausunnossa. “Emme ole myöskään keskustelleet tästä emmekä ilmaisseet huolenaiheita alan kumppaneille puhtaasti teknisiä asioita koskevien rutiinikeskustelujen ulkopuolella.”
Tämän kiistan keskiössä ovat sopimusesteet, jotka määräävät kuinka tekoälymalleja voidaan käyttää puolustusoperaatioissa. Anthropicin toimitusjohtaja Dario Amodei on johdonmukaisesti kannattanut tiukkoja rajoituksia tekoälyn käytölle ja säätelylle ja myöntää jopa, että turvallisuuden ja voittojen tasapainottaminen on vaikeaa. Yhtiö ja puolustusministeriö ovat käyneet kuukausia kiistanalaisia neuvotteluja siitä, kuinka Claudea voidaan käyttää sotilasoperaatioissa.
Puolustusministeriön sopimuksen mukaan Anthropic ei salli Pentagonin käyttää tekoälymallejaan amerikkalaisten massavalvontaan tai teknologiansa käyttöön täysin autonomisissa aseissa. Yritys kielsi myös teknologiansa käytön “tappavissa” tai “kineettisissa” sotilassovelluksissa. Kaikki suora osallistuminen aktiiviseen ampumiseen Maduron ratsastuksen aikana rikkoo todennäköisesti näitä ehtoja.
Tekoälyyritysten joukossa, joilla on valtion sopimuksia (mukaan lukien OpenAI, Google ja xAI), Anthropicilla on tuottoisa asema, minkä vuoksi Claude on ainoa suuri kielimalli, joka on valtuutettu Pentagonin luokitelluissa verkoissa.
Anthropic korosti tätä kantaa Fortunelle antamassaan lausunnossa. “Claudea käytetään monenlaisiin tiedusteluihin liittyviin käyttötapauksiin hallituksessa, mukaan lukien DoW, käyttökäytäntömme mukaisesti.”
Yhtiö “on sitoutunut käyttämään raja-AItä Yhdysvaltojen kansallisen turvallisuuden tukemiseksi”, lausunnossa todettiin. “Käymme hedelmällisiä keskusteluja hyvässä uskossa sotaministeriön kanssa siitä, kuinka jatkaa työtä ja ratkaista nämä monimutkaiset ongelmat.”
Palantir, OpenAI, Google ja xAI eivät vastanneet heti kommenttipyyntöön.
AI lähtee sotaan
Vaikka DOD on nopeuttanut pyrkimyksiään integroida tekoäly toimintoihinsa, vain xAI on sallinut malliensa käytön “kaikkiin laillisiin tarkoituksiin”, kun taas muut säilyttävät käyttörajoitukset.
Amodei on hälyttänyt kuukausia käyttäjien suojelemisesta ja tarjonnut Anthropicia suojausvaihtoehtona OpenAI:lle ja Googlelle hallituksen säädösten puuttuessa. “Olen erittäin epämiellyttävä näiden muutaman yrityksen tekemien päätösten johdosta”, hän sanoi marraskuussa. Vaikka Anthropicin huhuttiin suunnittelevan rajoitusten lieventämistä, yhtiö uhkaa nyt sulkea puolustusteollisuuden kokonaan pois.
Vanhempi Pentagonin virkamies sanoi, että Axiosin puolustusministeri Pete Hegseth on “lähellä” Anthropicin poistamista armeijan toimitusketjusta, mikä pakottaa jokaisen, joka haluaa tehdä liiketoimintaa armeijan kanssa, myös katkaisemaan siteet yritykseen.
“On valtava päänsärky saada heidät selville, ja me varmistamme, että he maksavat hinnan siitä, että he pakottavat meidät toimimaan tällä tavalla”, korkea virkamies kertoi tiedotteessa.
Armeijan toimitusriskikysymys on erityinen nimitys, joka on yleensä varattu vain ulkomaisille vastustajille. Lähin ennakkotapaus on hallituksen Huawei-kielto vuonna 2019 kansalliseen turvallisuuteen liittyvistä syistä. Anthropicin tapauksessa lähteet kertoivat Axiosille, että puolustusviranomaiset ovat etsineet taistelua San Franciscossa toimivan yrityksen kanssa jo jonkin aikaa.
Pentagonin kommentit ovat viimeisimmät julkisessa kiistassa, joka on saavuttamassa huippunsa. Hallitus väittää, että yritysten pakottaminen asettamaan eettisiä rajoja malleilleen olisi tarpeettoman rajoittavaa ja harmaiden alueiden suuri määrä tekisi teknologioista hyödyttömiä. Pentagonin jatkaessa neuvotteluja tekoälyn alihankkijoiden kanssa laajentaakseen sen käyttöä, julkinen kiista on muuttumassa välityskiistaksi siitä, kuka sanelee tekoälyn käyttötarkoitukset.