Perjantaina, vain muutama tunti sen jälkeen, kun kilpailija Anthropic oli julkisesti tukenut Pentagonin vaatimuksia vastaan, OpenAI:n toimitusjohtaja Sam Altman ilmoitti, että hänen yrityksensä oli päässyt oman sopimuksensa puolustusministeriön kanssa. Siirto tapahtui pian sen jälkeen, kun Yhdysvaltain hallitus otti erittäin epätavallisen askeleen ja nimesi Anthropicin “toimitusketjun riskiksi”.
OpenAI:n päätös sai kritiikkiä monilta tekoälytutkijoilta ja teknologiapolitiikan asiantuntijoilta, vaikka OpenAI sanoi saavuttaneensa rajoituksia sopimuksessaan Yhdysvaltojen kansalaisten valvonnasta ja tappavista autonomisista aseista, joita Anthropic halusi sopimuksessaan, mutta jotka Pentagon oli hylännyt.
Yksi keskeisistä kiistakohdista oli kotimainen joukkovalvonta. Asiantuntijat ovat jo pitkään varoittaneet, että edistynyt tekoäly pystyy ottamaan hajallaan olevia, yksilöllisesti vaarattomia tietoja (kuten henkilön sijaintia, taloutta, hakuhistoriaa) ja kokoamaan niistä kattavan kuvan kenen tahansa elämästä automaattisesti ja mittakaavassa. Anthropicin toimitusjohtaja Dario Amodei on sanonut, että tämäntyyppinen tekoälyllä toimiva massavalvonta aiheuttaa vakavia ja uusia riskejä ihmisten “perusvapauksille” ja että “laki ei ole vielä saavuttanut nopeasti kasvavan tekoälyn mahdollisuuksia.”
Mutta vaikka OpenAI kertoi blogikirjoituksessaan, että se oli päässyt sopimukseen Pentagonin kanssa siitä, että sen teknologiaa ei käytetä kotimaan joukkovalvontaan tai suoriin autonomisiin asejärjestelmiin, jotka ovat kaksi tiukkaa rajoitusta, joita Anthropic oli kieltäytynyt luopumasta, jotkut oikeudelliset ja poliittiset asiantuntijat ovat herättäneet kysymyksiä mahdollisesta aukosta laissa.
Osa kiistassa pyörii amerikkalaisten tietojen laajamittaisen analyysin hämärästä laillisuudesta, joka on laillista Yhdysvaltain nykyisten lakien mukaan, vaikka se näyttääkin erotettavissa massavalvonnasta.
“Tällä hetkellä Yhdysvaltain lain mukaan valtion viranomaisten on laillista ostaa kaupallisesti saatavilla olevia tietoja tiedonvälittäjiltä ja muilta kolmansilta osapuolilta”, sanoi Center for Democracy and Technology -politiikan varapuheenjohtaja Samir Jain. “Jos ostat valtavia määriä dataa ja annat tekoälyn analysoida sitä, voit itse asiassa osallistua amerikkalaisten massavalvontaan tämän prosessin kautta. Sitä ei tällä hetkellä rajoiteta tai kielletä lailla.”
OpenAI sanoo, että sen “punaiset linjat” koskevat teknisiä järjestelmiä, joita se aikoo rakentaa, samoin kuin sen Pentagonin kanssa tekemänsä sopimuksen kieltä. Yrityksen julkaiseman blogin mukaan sopimus sallii puolustusministeriön käyttää tekoälyä “kaikkiin laillisiin tarkoituksiin sovellettavan lain, toimintavaatimusten ja vakiintuneiden turvallisuus- ja valvontaprotokollien mukaisesti”, samalla kun se kieltää nimenomaisesti amerikkalaisten yksityisten tietojen rajoittamattoman valvonnan.
Ongelmana on, että se, mitä pidetään “laillisena”, voi muuttua. OpenAI-sopimus koskee olemassa olevia lakeja ja puolustusministeriön käytäntöjä, mutta ne voivat muuttua tulevaisuudessa. “Mikään heidän julkaisussaan ei estäisi näitä käytäntöjä muuttamasta tulevaisuudessa”, Jain sanoi.
Jotkut kriitikot väittävät, että nykyiset tiedusteluviranomaiset sallivat jo sellaiset valvonnan muodot, jotka OpenAI väittää kieltävänsä. Techdirt-blogin perustaja Mike Masnick kirjoitti sosiaalisessa mediassa, että sopimus “mahdollistaa kotimaisen valvonnan”, viitaten Executive Order 12333:een, joka on pitkäaikainen viranomainen, joka sallii tiedustelupalvelujen keräävän Yhdysvaltojen ulkopuolista viestintää, joka voi sisältää amerikkalaisten tietoja, jos niitä hankitaan sattumalta.
Osa keskustelusta keskittyy tiettyihin Yhdysvaltain lain osiin, jotka säätelevät kansallisen turvallisuuden eri toimintoja. Yhdysvaltain armeijan toimintaa säätelee yleensä Yhdysvaltain liittovaltion lain osasto 10. Tähän sisältyy puolustustiedusteluviraston ja Yhdysvaltain kyberkomission tekemä työ sotilasoperaatioiden tukemiseksi. Mutta osa DIA:n työstä kuuluu Yhdysvaltain lain toisen osan, US Coden osaston 50, alaisuuteen, joka yleensä säätelee tiedustelutietojen keräämistä ja salaisia toimia. Tiedustelupalvelun ja kansallisen turvallisuusviraston työ kuuluu yleensä myös osastoon 50. Jotkut arkaluontoisimmista osaston 50 toiminnoista, erityisesti peitellyt toimet, tapahtuvat suurelta osin kulissien takana ja edellyttävät presidentin päätöstä.
Viikonloppuna julkaistussa blogiviestissä OpenAI jakoi yksityiskohtaisen kuvauksen sopimuksestaan Pentagonin kanssa, ja tunnetun OpenAI-tutkijan Noam Brownin sosiaalisessa mediassa julkaiseman viestin mukaan yhtiön kansallisen turvallisuuden kumppanuuspäällikkö Katrina Mulligan kertoi Brownille, että OpenAI:n sopimus ei kata tiedusteluyhteisön tekemää Title 50 -työtä, mikä on suuri huolenaihe kriitikoille. OpenAI:n edustajat eivät heti vastanneet Fortunen kommenttipyyntöön.
Oikeustutkijat ovat kuitenkin havainneet, että ero osaston 10 ja 50 toimintojen välillä hämärtyy. Käytännössä molemmat voivat näyttää hyvin samanlaisilta ja molemmissa voi olla ulkomaisten toimijoiden tietojen analysointi tai seurantamallit. Mutta tämä päällekkäisyys luo harmaan alueen OpenAI:n kaltaisille yrityksille: Sopimus, joka kieltää Title 50 -työn, ei automaattisesti estä Title 10 -virastoja, kuten DIA:ta, käyttämästä tekoälyä kaupallisesti saatavilla olevien tai luokittelemattomien tietokokonaisuuksien analysointiin.
“Jos he sanovat, että heidän järjestelmäänsä ei voida käyttää mihinkään Title 50 -toimintoon, se kaventaa toimintojen laajuutta, joihin tekoälyjärjestelmää voidaan käyttää”, Jain sanoi. “Mutta se ei ratkaise ongelmaa.”