Vuonna 2023, kun Dario Amodei keräsi rahoitusta yhtiön 750 miljoonan dollarin D-sarjan kierrokseen, sijoittaja istui toimitusjohtajan kanssa päivällisellä, kun hän muistutti, että hän oli suuttunut keskustelussa tekoälyyn liittyvistä turvallisuuskysymyksistä.
“Kun hän puhui tekoälyn riskeistä, hän väänteli itsensä”, sijoittaja sanoo. “Hänen ruumiinsa nykisi. Hän osoitti todella emotionaalisesti, kuinka peloissaan hän oli.”
Tämä teki vaikutuksen sijoittajaan, joka puhui nimettömänä peläten vaikutuksensa liiketoimintaansa, ja sanoi uskovansa, että suuret kielimallit eivät koskaan menestyisi, jos ne eivät olisi luotettavia.
Nyt Anthropicin vahvaa kantaa tekoälyn turvallisuuteen ja sen sijoittajien sitoutumista tähän asemaan testataan ennennäkemättömällä tavalla, kun yritys käy korkean panoksen vastakkainasettelussa Yhdysvaltain puolustusministeriön kanssa. Vaatimalla, että sen Claude AI -teknologia täyttää tietyt rajoitukset armeijan käytössä, Anthropic on saanut presidentti Donald Trumpin ja sotaministeri Pete Hegsethin vihan, jotka ovat kostaneet yrittämällä saada Anthropicin liiketoiminnan oikosulkuun.
Sijoittajille Anthropiciin, joka keräsi äskettäin 30 miljardia dollaria arvolla 380 miljardia dollaria ja jonka odotetaan piakkoin järjestävän listautumisannin, hallituksen päätöksellä nimetä Anthropic “toimitusketjuriskiksi” voi olla tuhoisia seurauksia.
Se, miten nämä sijoittajat painostavat Anthropicia kulissien takana – vaativatpa ratkaisua tai vaativat sitä pysymään lujana – voi määrittää vastakkainasettelun tuloksen. Fortune puhui kuudelle Anthropiciin sijoittaneelle ihmiselle saadakseen käsityksen siitä, miten tämä avainryhmä suhtautuu tilanteeseen, ja totesi, että mielipiteet eivät olleet yhtenäisiä huolimatta yrityksen pitkäaikaisesta rehellisyydestään arvoistaan.
“Olen pettynyt siihen, että asioita, joilla on vaikutuksia kansalliseen turvallisuuteen, esitetään julkisesti”, sanoo JD Russell, joka johtaa sijoitusyhtiö Alpha Fundsia ja jolla on asema Anthropicissa. Russell sanoi kunnioittavansa Anthropicin näkemyksiä joukkovalvonnasta ja autonomisista aseista, mutta sanoi, että “sinun täytyy olla realistinen, että Amerikan vastustajat tavoittelevat näitä kykyjä paljon pienemmillä rajoituksilla”.
Amerocapin toimitusjohtaja Jacques Tohme sanoi yksinkertaisesti, että hän “ei ole samaa mieltä” yrityksen omaksumasta kannasta.
Silti monet Anthropicin sijoittajista tukivat yritystä kiistassa, varsinkin kun otetaan huomioon sen kurinalainen kanta joihinkin tällä hetkellä kiistanalaisimpiin tekoälyongelmiin. Loppujen lopuksi perustajat jättivät OpenAI:n vuonna 2021 kehittääkseen tekoälyjärjestelmiä, jotka olivat tehokkaita, mutta myös turvallisia ihmiskunnalle. Monilla Anthropicin varhaissijoittajista on myös siteitä tehokkaaseen altruismiyhteisöön, tutkimusalaan, joka keskittyy “mahdollisimman hyvän” tekemiseen, ja yrityksellä on vahva sijoittajakunta Euroopassa, joka ei yleensä ole yhtä sympaattinen Yhdysvaltain puolustusministeriötä kohtaan.
Yksi näistä sijoittajista, Alberto Emprin, sijoittaja, joka johtaa yritystä 3LB Seed Capital, julkaisi näkemyksensä ja tukensa Anthropicille italiaksi Substackissa aiemmin tällä viikolla ja huomautti, että Amodeista oli asemansa ansiosta tullut “eräänlainen etiikan mestari tekoälyn aikakaudella”.
“Amodein argumentti on päinvastoin moitteeton: tekoäly on edelleen epätäydellinen, se tekee virheitä, ja ajatus siitä, että hallusinaatioiden tai harjoitusharhojen vuoksi “väärä ihminen” voidaan tappaa, on eettisesti sietämätön”, Emprin kirjoitti.
Fortune puhui sijoittajista, joista jotkut sijoittivat suoraan, kun taas toiset tekivät sen erikoisajoneuvojen kautta, ja yksi sijoittajista oli hiljattain myynyt asemansa jälkimarkkinoilla. Viime kädessä suurimpien sijoittajien ääni painaa enemmän kuin noin 270 muun Anthropicin cap-taulukossa olevan sijoittajan ääni. Suurimpien joukossa on Amazon, jonka toimitusjohtaja Andy Jassy tapasi äskettäin Hegsethin ja kieltäytyi Semaforin mukaan asettumasta Anthropicin puolelle, kun asia nousi esiin. Jassy tapasi viime päivinä myös Anthropicin Amodein Reutersin mukaan, kun taas Lightspeed ja Iconiq lähestyivät muita sijoittajia etsimään ratkaisua.
Kuinka pahaksi se voi mennä?
Antrooppisten sijoittajien kesken ei kuitenkaan välttämättä ole helppoa päästä yksimielisyyteen. Vaikka kaikki sijoittajat eivät ole olleet tyytyväisiä Anthropicin toimitusjohtajan Dario Amodein kovan linjan asenteeseen, on myös erilaisia mielipiteitä siitä, kuinka vahingollinen Pentagon-kiista voisi olla yhtiölle. Yhdysvaltain hallituksen sopimus oli Bloombergin mukaan pieni, noin 200 miljoonaa dollaria eli noin 1 % Anthropicin vuosituloista.
Russell, Alpha Fundsin johtaja, sanoi, ettei hän odottanut Pentagonin siirrolla olevan “todellista kielteistä vaikutusta heihin”, koska “se on todellakin vain sopimus”.
Riippuen kuitenkin siitä, miten toimitusketjun riskinimitys tulkitaan (Anthropicin odotetaan taistelevan sitä vastaan oikeudessa), se voi johtaa laajempiin seurauksiin pakottamalla kaikki puolustusministeriön kanssa liiketoimintaa harjoittavat yritykset lopettamaan Anthropicin tuotteiden käytön. Muut liittovaltion virastot, mukaan lukien ulkoministeriö ja valtiovarainministeriö, ovat myös sanoneet, etteivät he enää käytä Anthropicia.
Toisaalta jotkut antrooppiset sijoittajat sanovat olevansa rohkaisevia liikearvon kasvusta, jonka yritys on kerännyt pysymällä lujasti periaatteistaan. Patrick Hable, sijoittaja, joka johtaa yritystä 3 Comma Capital, sanoi uskovansa koko liikkeeseenlaskun olevan “nettopositiivinen” yhtiölle. “He menettivät sopimuksia, mutta saivat miljoonia seuraajia”, hän sanoi. Mutta hän lisäsi, että “vaikka se olisi selvästi negatiivinen, hän (toimi) oikein”, hän sanoi.
Sen jälkeen kun Pentagon ilmoitti tekevänsä sopimuksen OpenAI:n kanssa Anthropicin sijaan, Anthropicista on tullut eniten ladattu sovellus Applen ja Androidin sovelluskaupoissa. Ja Anthropicilla oli eniten käyttäjiä maanantaina, yhtiö kertoi.
Kuten Amodei väitetysti kertoi työntekijöille Informationin julkaisemassa pitkässä sisäisessä muistiossa, jossa se kritisoi OpenAI:n Sam Altmania ja selitti seurauksia puolustusministeriön kanssa, yleisö näkee Anthropicin “sankareina”.