Tekoäly “näyttää matemaattisista ihmisistä paljon pahemmalta kuin sana ihmiset”, Peter Thiel sanoi ytimekkäästi vuonna 2024. Hän ei luultavasti odottanut, että vain kaksi vuotta myöhemmin hänen Palantirin perustajansa, toimitusjohtaja Alex Karp, käyttäisi selkeän kukkakieltä kuvaamaan ihmisiä, joita hän piti tyhminä.
“Jos Piilaakso luulee, että otamme pois kaikilta toimihenkilötyöt… ja aiot pilata armeijan, jos et usko, että se johtaa teknologiamme kansallistamiseen, olet jäljessä”, Karp sanoi puhuessaan a16z American Dynamism Summitissa. “Saatat olla erityisen jälkeenjäänyt, koska sinulla on älykkyysosamäärä 160.”
Karp kommentoi aihetta, joka on pyyhkäissyt tekoälymaailman: Missä ominaisuudessa tekoälyyritysten tulisi tehdä yhteistyötä hallituksen kanssa? Tarkempi tarkastelu selittää, miksi Pentagonin ja kahden täysin erillisen yrityksen (Anthropic ja OpenAI) välinen kiista on herättänyt Karpin tyytymättömyyttä.
Katherine Boyle, a16z:n pääosakas, johti Breakout-istuntoa, jonka otsikkona oli “AI in Defense of the West”.
Mihin Karp huomautti: “Jos Piilaakso ajattelee, että otamme valkokaulustyöt pois kaikilta (eli enimmäkseen demokraattisilta ihmisiltä, joiden kanssa saatat kasvaa, korkeasti koulutetuilta ihmisiltä, jotka kävivät eliittikouluissa tai jotka ovat käyneet kouluja, jotka ovat yhden puolueen eliittiä) ja aiot haastaa armeijan oikeuteen. Jos et usko aikojemme kansallistamista siihen.”
Voi. Joten mikä herra Karpia vaivaa?
Miksi tämä vaikuttaa Palantiriin
Vaikka Karp olisi voinut valita vähemmän loukkaavan kielen esittääkseen asiansa, hän kosketti herkkää kohtaa, joka on Palantirille syvästi henkilökohtainen. “Et voi olla tekniikoita, jotka samanaikaisesti vievät kaikilta työpaikkoja”, hän sanoi, ja sitten sen katsotaan pilaavan armeijan. Tuo jännitys ei ole Palantirille abstrakti. Tämä voi hyvinkin olla todellinen toimintakriisi.
Yritykset, kuten Anthropic, OpenAI, Google ja xAI, ovat allekirjoittaneet puolustusministeriön kanssa sopimuksia, joista kukin rajoittaa, voidaanko niiden teknologioita käyttää ympäristöissä, jotka voivat rikkoa niiden palveluehtoja. DOD on neuvotellut tekoälyyritysten kanssa poistaakseen nämä rajoitukset ja salliakseen sen sijaan niiden teknologian käytön “kaikkiin laillisiin tarkoituksiin”. Karpilla on vain vähän kärsivällisyyttä yrityksiä kohtaan, jotka pitävät tätä pyyntöä moraalisena punaisena linjana:
“Amerikan armeijan ja poliisin välillä on ero”, hän sanoi huippukokouksessa. “Huolimatta siitä, mitä kaikki ajattelevat, Palantir on valvonnan vastainen yritys”, hän sanoi ja hylkäsi väitteet, että Taru sormusten herrasta kuuluvan kaiken näkevän valvontalaitteen mukaan nimetty yritys on pohjimmiltaan valvonnan alalla. Jokainen tekninen asiantuntija tietää tämän olevan asian, mutta sananlaskulla “online-ihmisellä” on yksinkertaisesti väärä käsitys, Karp väitti, “joten päädyn kaikkiin keskusteluihin, joihin en halua osallistua.”
Anthropic toimitusjohtaja Dario Amodei sanoi tunnetusti, ettei hän voi “hyvällä omallatunnolla” tukea “kaikki lailliset tarkoitukset” -lauseketta. Uhkattuaan Anthropicia uhkaamalla tulla riskiksi armeijan toimitusketjulle, hallitus allekirjoitti sopimuksen OpenAI:n kanssa sen työkalujen käyttämisestä turvaluokiteltuissa tehtävissä. (Anthropicin kerrotaan neuvottelevan uudelleen Pentagonin kanssa, ja Pentagon vahvisti, että Anthropicin Claude Opus oli avain sen valmisteluissa historialliseen Yhdysvaltain ja Israelin sotilaalliseen hyökkäykseen Irania vastaan.)
Palantirille tuo tapahtumasarja ei ole abstraktio: se on suora operatiivinen uhka. Palantirin lippulaiva AI Platform (AIP) on rakennettu yhdistämään luokkansa parhaat rajamallit puolustus- ja tiedustelutyönkulkuihisi. Claude Opus on yksi kyvykkäimmistä malleista, ja sitä arvostetaan sen perustelujen syvyydestä ja luotettavuudesta korkean riskin ympäristöissä. Jos Anthropic on mustalla listalla riskinä sotilastoimitusketjulle tai jos sen palveluehdot sulkevat sen pois luokitelluista ympäristöistä, joissa Palantir toimii, Palantir menettäisi pääsyn yhteen tehokkaimmista tekoälymoottoreistaan. Se joutuisi järjestämään alustansa uudelleen vaihtoehtoisten mallien ympärille sopimuksen puolivälissä, mikä olisi kallista ja mainetta vahingoittavaa häiriötä yritykselle, jonka brändilupaus on missionkriittinen luotettavuus.
“Taas kerran, tässä verhon takana on paljon hienovaraisuutta”, Karp myönsi. “Olen ollut hyvin mukana tuossa hienovaraisuudessa: mitä voidaan toteuttaa, missä se voidaan toteuttaa.”
Laajempi talouskuva
Se, mikä on vaakalaudalla, Karp väitti, menee paljon pidemmälle kuin mikä tahansa tietty Pentagon-sopimus tai minkä tahansa yrityksen poliittinen päätös. “Vaara alallemme”, hän varoitti, “on kuuluisa hevosenkenkäefekti, jossa on vain yksi asia, josta ihmiset ovat samaa mieltä, ja se on laskujen maksamatta jättäminen, ja toimialamme ihmiset pitäisi kansallistaa.”
Se populistinen lähentyminen, jossa sekä vasemmisto että oikeisto kääntyvät teknologian puoleen, tulee Karpin mukaan väistämättömäksi, jos tekoälyyritykset riistävät toimihenkilöiltä toimeentulonsa kieltäytyessään palvelemasta armeijassa. Hän huomautti jälleen, keitä nuo työntekijät ovat: “Pääosin ihmisiä demokraattisella tavalla, joiden kanssa saatat kasvaa: korkeasti koulutettuja ihmisiä, jotka kävivät eliittikouluissa tai kouluissa, jotka ovat melkein eliittiä, yhden puolueen puolesta.”
Nämä pelot ovat jo toteutumassa taloudellisessa mittakaavassa, mikä tekee Karpin väitteelle kiireellisen. Asiantuntijat varoittavat lähestyvästä tekoälyn tuomiopäivän skenaariosta, jossa toimihenkilöiden päivät ovat luettuja, epävakauttava voima, joka jättäisi useimmat työntekijät työttömäksi. Nämä eivät ole vain paniikkia aiheuttavia ideoita; Niillä on todellisia seurauksia, kuten virusperäinen Citrini Research -tutkimus, joka laukaisi massiivisen markkinoiden mullistuksen.
Karpin näkemyksen mukaan hallitus ei antaisi tekoälyyritysten kerätä valtaansa, joka niillä on jo ja jatkaa toimintaansa valtiosta riippumattoman itsesääntelyn valvonnassa, saati sanella käyttöehdot hallitukselle itselleen. “Täältä tie kulkee”, hän sanoi yksinkertaisesti. Ainoa tapa, jolla Palantirin kaltaiset yritykset voivat säilyttää asemansa, sopimuksensa ja pääsynsä alustojensa tehostaviin äärimmäisiin tekoälymalleihin, on noudattaa hallituksen sääntöjä pyydettäessä. Palantirille pöydän paikan menettäminen ei tarkoita vain huonoa optiikkaa. Se tarkoittaa niiden teknisten panosten menettämistä, jotka saavat ydintuotteesi toimimaan.
Se olisi dramaattinen käänne yritykselle, joka saavutti sen, mitä Karp vain kuukausi sitten kutsui “yhdeksi todella ikonisimmista suorituksista yritysten tai teknologian suoritusten historiassa” Palantirin viimeisimmässä neljännesvuosittaisessa tuloksessa.