Valkoisen talon kansliapäällikkö Susie Wiles aikoo kuulla Anthropicin toimitusjohtajan Dario Amodein tekoälyyhtiön uudesta Mythos-mallista, joka on kiinnittänyt liittohallituksen huomion siihen, miten se voisi muuttaa kansallista turvallisuutta ja taloutta.
Valkoisen talon virkamies, joka pyysi nimettömyyttä keskustellakseen suunnitellusta tapaamisesta perjantaina, sanoi, että hallinto on tekemisissä kehittyneiden tekoälylaboratorioiden kanssa heidän malleistaan ja ohjelmistojensa turvallisuudesta. Virkamies korosti, että mikä tahansa uusi tekniikka, jota liittohallitus voisi käyttää, vaatisi teknisen arviointiajan.
Tapaaminen järjestetään sen jälkeen, kun jännitteet ovat kärjistyneet Trumpin hallinnon ja turvallisuustietoisen Anthropicin välillä, joka on pyrkinyt asettamaan esteitä tekoälyn kehitykselle minimoimaan mahdolliset riskit ja maksimoimaan sen taloudelliset ja kansalliset turvallisuusetuudet Yhdysvalloille.
Presidentti Donald Trump yritti estää kaikkia liittovaltion virastoja käyttämästä Anthropicin chatbotia Claudea yhtiön sopimuskiistassa Pentagonin kanssa, ja Trump sanoi sosiaalisessa mediassa helmikuussa, että hallinto “ei tee kauppaa heidän kanssaan enää!”
Puolustusministeri Pete Hegseth yritti myös julistaa Anthropicin toimitusketjun riskiksi, mikä on ennennäkemätön liike yhdysvaltalaista yritystä vastaan, jonka Anthropic on riitauttanut kahdessa liittovaltion tuomioistuimessa. Yhtiö sanoi haluavansa takeet siitä, että Pentagon ei käyttäisi teknologiaansa täysin autonomisissa aseissa ja amerikkalaisten valvonnassa. Hegseth sanoi, että yhtiön on sallittava kaikki käyttö, jota Pentagon pitää laillisena.
Yhdysvaltain piirituomari Rita Lin antoi maaliskuussa päätöksen, joka esti Trumpin sosiaalisen median direktiivin täytäntöönpanon, jossa määrättiin kaikki liittovaltion virastot lopettamaan Anthropic-tuotteiden käyttö.
Anthropic kieltäytyi keskustelemasta tapaamisesta etukäteen.
San Franciscossa toimiva Anthropic on sanonut, että uusi Mythos-malli, jonka se ilmoitti 7. huhtikuuta, on niin “yllättävän tehokas”, että se rajoittaa sen käyttöä valikoituihin asiakkaisiin, koska se pystyy ylittämään ihmisten kyberturvallisuuden asiantuntijat tietokoneiden haavoittuvuuksien löytämisessä ja hyödyntämisessä.
Ja vaikka jotkut alan asiantuntijat ovat kyseenalaistaneet, olivatko Anthropicin väitteet liian tehokkaasta tekoälyteknologiasta markkinointitemppu, jopa jotkut yhtiön terävimmistä kriitikoista ovat ehdottaneet, että Mythos voisi edustaa uutta edistystä tekoälyssä.
Vaikuttava antrooppinen kriitikko David Sacks, joka oli Valkoisen talon tekoäly- ja kryptovaluuttatsaari, sanoi, että ihmisten pitäisi “ottaa tämä vakavasti”.
“Joka kerta kun Anthropic pelottaa ihmisiä, sinun on kysyttävä itseltäsi: “Onko tämä temppu? Onko tämä osa heidän Chicken Little -rutiinia? Vai onko tämä totta?” Sacks sanoi “All-In”-podcastissa, jota hän isännöi yhdessä muiden teknologiasijoittajien kanssa. “Kyberillä antaisin heille tunnustusta tästä ja sanoisin, että se on todellisempaa.”
Sacks sanoi: “On järkevää, että kun koodausmalleista tulee yhä enemmän kykyjä, ne pystyvät löytämään virheitä. Tämä tarkoittaa, että ne pystyvät löytämään paremmin haavoittuvuuksia. Tämä tarkoittaa, että ne pystyvät yhdistämään useita haavoittuvuuksia ja luomaan hyväksikäyttöä.”
Mallin mahdolliset hyödyt ja riskit ovat herättäneet huomiota myös Yhdysvaltojen ulkopuolella.
Ison-Britannian AI Safety Institute kertoi arvioineensa uutta mallia ja pitäneensä sitä “askeleena eteenpäin” verrattuna aikaisempiin malleihin, jotka paranivat jo nopeasti.
“Mythos Preview voi hyödyntää järjestelmiä, joissa on heikko suojausasento, ja lisää näillä ominaisuuksilla varustettuja malleja todennäköisesti kehitetään”, instituutti sanoi raportissa.
Anthropic on myös käynyt keskusteluja Euroopan unionin kanssa tekoälymalleistaan, mukaan lukien kehittyneistä malleista, joita ei ole vielä lanseerattu Euroopassa, Euroopan komission tiedottaja Thomas Regnier sanoi perjantaina.
Axios raportoi ensin Wilesin ja Amodein suunnitellusta tapaamisesta.
Kun Anthropic julkisti Mythoksen, se sanoi myös perustavansa Project Glasswing -nimisen aloitteen, joka kokoaisi yhteen teknologiajätit, kuten Amazon, Apple, Google ja Microsoft, sekä muut yritykset, kuten JPMorgan Chase, toivoen suojelevan maailman kriittisiä ohjelmistoja “vakavilta” seurauksilta, joita uusi malli voisi aiheuttaa yleiselle turvallisuudelle, kansalliselle turvallisuudelle ja taloudelle.
“Otamme sen käyttöön joissakin maailman suurimmissa yrityksissä ja organisaatioissa, jotta he voivat käyttää sitä haavoittuvuuksien etsimiseen”, Anthropicin perustaja ja johtaja Jack Clark sanoi tämän viikon Semafor World Economy -konferenssissa.
Clark lisäsi, että Mythos, vaikka se on kärjessä, ei ole “erikoismalli”.
“Muutaman kuukauden kuluttua tulee muita tällaisia järjestelmiä muilta yrityksiltä, ja vuoden tai puolentoista vuoden kuluttua Kiinasta tulee avoimia malleja, joissa on nämä ominaisuudet”, hän sanoi. Joten maailman on valmistauduttava tehokkaampiin järjestelmiin, joita siinä on.”
___
O’Brien raportoi Providencesta, RI. AP:n liiketoimittaja Kelvin Chan osallistui tähän raporttiin Lontoosta.
