Sam Altman kertoi OpenAI:n työntekijöille kokouksessa perjantai-iltapäivällä, että Yhdysvaltain sotaministeriön kanssa on syntymässä mahdollinen sopimus startupin tekoälymallien ja -työkalujen käytöstä kokouksessa läsnä olevan lähteen ja Fortunen näkemän kokouksen yhteenvedon mukaan. Sopimusta ei ole vielä allekirjoitettu.
Kokous pidettiin viikon lopussa, jolloin sotaministeri Pete Hegsethin ja OpenAI:n kilpailijan Anthropicin välinen konflikti puhkesi julkiseksi kiistaksi, joka päättyi Anthropicin Pentagonin ja liittohallituksen kanssa tehtyjen sopimusten ilmeiseen päättymiseen laajemmin.
Altman sanoi, että hallitus on halukas sallimaan OpenAI:n rakentaa oman “turvapinonsa” (eli teknisten, poliittisten ja inhimillisten hallintajärjestelmien kerroksittainen järjestelmä, joka sijaitsee tehokkaan tekoälymallin ja sen todellisen käytön välissä) ja että jos malli kieltäytyy suorittamasta tehtävää, hallitus ei pakottaisi OpenAI:ta pakottamaan sitä suorittamaan kyseistä tehtävää.
OpenAI valvoisi, kuinka tekniset suojatoimenpiteet toteutetaan, mitkä mallit otetaan käyttöön ja missä, ja rajoittaisi käyttöönoton pilviympäristöihin “reunajärjestelmien” sijaan. (Sotilaallisessa kontekstissa reunajärjestelmät ovat luokka, joka voisi sisältää lentokoneita ja droneja.) Altman kertoi työntekijöille, että se olisi suuri myönnytys, että hallitus on ilmoittanut olevansa valmis sisällyttämään sopimukseen OpenAI:n niin sanotut “punaiset linjat”, mukaan lukien tekoälyn käyttäminen autonomisten aseiden tehostamiseen, ei kotimaista massavalvontaa eikä kriittistä päätöksentekoa.
OpenAI ja sotaosasto eivät heti vastanneet kommenttipyyntöihin.
Sasha Baker, OpenAI:n kansallisen turvallisuuspolitiikan johtaja, ja Katrina Mulligan, joka johtaa OpenAI:n kansallista turvallisuutta hallitukselle, puhuivat myös OpenAI:ssa lähteen mukaan. Yksi noista virkamiehistä sanoi, että suhde Anthropicin ja hallituksen kanssa oli katkennut, koska Anthropicin toimitusjohtaja ja perustaja Dario Amodei oli loukannut sotaosaston johtajuutta, mukaan lukien julkaisemalla blogikirjoituksia, joita “osasto vihastui”.
Anthropic, OpenAI:sta turvallisuussyistä eroaneiden ihmisten perustama yritys, oli ainoa suuri kaupallinen tekoälyn valmistaja, jonka mallit hyväksyttiin käytettäväksi Pentagonissa yhteistyössä Palantirin kanssa. Mutta Anthropicin johto ja Pentagon ovat olleet useiden päivien ajan kiistelyssä rajoituksista, joita Anthropic halusi asettaa teknologiansa käytölle. Nämä rajoitukset ovat pohjimmiltaan samat kuin Altman sanoi, että Pentagon täyttäisi, jos se käyttäisi OpenAI-tekniikkaa.
Anthropic oli hylännyt Pentagonin vaatimukset poistaa Claude-mallistaan suojatoimenpiteet, jotka rajoittavat käyttöä, kuten kotimaista joukkovalvontaa tai täysin itsenäisiä aseita, vaikka puolustusviranomaiset vaativat, että tekoälymallien on oltava saatavilla “kaikkiin laillisiin tarkoituksiin”. Pentagon, mukaan lukien sotaministeri Pete Hegseth, oli varoittanut Anthropicia, että se voi menettää jopa 200 miljoonan dollarin sopimuksen, jos se ei noudata sitä. Altman on aiemmin sanonut, että OpenAI jakaa Anthropicin “punaiset linjat” tekoälyn tietyn sotilaallisen käytön rajoittamisessa, korostaen, että vaikka OpenAI neuvottelee Yhdysvaltain hallituksen kanssa, se kohtaa saman ydinjännitteen, joka nyt pelataan julkisesti Anthropicin ja Pentagonin välillä.
OpenAI puuttui asiaan juuri sen jälkeen, kun presidentti Trump ilmoitti, että liittovaltion hallitus lopettaa yhteistyön Anthropicin kanssa, mikä kärjistää dramaattisesti hallituksen ristiriitaa yrityksen kanssa sen tekoälymalleista.
“Ohjaan kaikkia Yhdysvaltain hallituksen liittovaltion virastoja lopettamaan välittömästi kaiken Anthropicin teknologian käytön. Emme tarvitse sitä, emme halua sitä, emmekä tee kauppaa heidän kanssaan enää!” Trump sanoi viestissä Truth Socialissa. Hän sanoi, että sotaosastolla ja muilla virastoilla, jotka käyttävät Anthropicin Claude-malleja, on kuuden kuukauden asteittainen lopetusaika.
OpenAI-kokouksessa henkilökunnalle kerrottiin, että haastavin osa sopimuksesta johdolle oli huoli ulkomaisesta valvonnasta ja että oli vakava huoli siitä, että tekoälyllä toimiva valvonta uhkaisi lähteen mukaan demokratiaa. Yritysten johtajat näyttivät kuitenkin myös tunnustavan sen tosiasian, että hallitukset vakoilevat vastustajiaan kansainvälisesti, myöntäen väitteet, joiden mukaan kansalliset turvallisuusviranomaiset “eivät pysty hoitamaan työtään” ilman kansainvälistä valvontakykyä. Viitattiin uhkatiedusteluraportteihin, jotka osoittavat, että Kiina käytti jo tekoälymalleja kohdistaakseen toisinajattelijoita ulkomailla.
