Valtiovarainministeri Scott Bessent ja Yhdysvaltain keskuspankin puheenjohtaja Jerome Powell kutsuivat Wall Streetin johtajat tiistaina hätäkokoukseen Anthropicin uusimmasta tekoälymallista ilmaisten huolensa lisääntyneestä kyberturvallisuusriskistä.
Bloomberg ja Financial Times raportoivat, että Bessent ja Powell kokosivat ryhmän suuritehoisia johtajia valtiovarainministeriön päämajaan varmistaakseen, että pankit ovat tietoisia Anthropicin uuden mallin, Mythoksen ja vastaavien tulevien mallien aiheuttamista kyberriskeistä. Bloombergille puhuneiden lähteiden mukaan osallistujia olivat Citigroupin toimitusjohtaja Jane Fraser, Morgan Stanleyn toimitusjohtaja Ted Pick, Bank of America -johtaja Brian Moynihan, Wells Fargon toimitusjohtaja Charlie Scharf ja Goldman Sachsin toimitusjohtaja David Solomon. Myös JPMorganin toimitusjohtaja Jamie Dimon kutsuttiin, mutta hän ei voinut osallistua, lähteet sanoivat.
Federal Reserve kieltäytyi kommentoimasta Fortunea. Treasury ei heti vastannut Fortunen kommenttipyyntöön.
Tapaaminen järjestetään vain viikkoja sen jälkeen, kun Fortune ilmoitti yksinomaan Anthropicin kehittävän julkaisematonta mallia, jota yritys kuvailee “ylivoimaisesti tehokkaimmaksi tekoälymalliksi”, jonka se on koskaan kehittänyt ja jonka olemassaolon Anthropic julkisti vahingossa viime kuussa sisällönhallintajärjestelmänsä kautta. Myöhemmin yritys tunnisti tämän mallin nimellä Claude Mythos.
Anthropic julkaisi tiistaina raportin nimeltä “Assessing the Cybersecurity Capabilities of Claude Mythos Preview”, jossa todettiin, kuinka malli pystyi löytämään monia 10 ja 20 vuotta vanhoja haavoittuvuuksia sekä 27 vuotta vanhan haavoittuvuuden OpenBSD:stä, joka on turvallisimman maineen omaava käyttöjärjestelmä.
Anthropic tiedotti Yhdysvaltain hallituksen johtaville virkamiehille ja alan sidosryhmille Mythos Preview’n kyvyistä ennen sen julkaisua, joku asiasta tietävä kertoi Fortunelle. Yritys kertoi blogikirjoituksessaan olevansa valmis työskentelemään viranomaisten kanssa kaikilla hallinnon tasoilla varmistaakseen, että kansallinen turvallisuus on etusijalla uusia tekoälymalleja otettaessa käyttöön ja että Yhdysvallat säilyttää johtoaseman tekoälytekniikoissa.
Anthropic kertoi Fortunelle, että kumppanuus hallituksen kanssa oli yrityksen suunnitelma koko ajan (yritys on tällä hetkellä oikeudessa taistelussa Pentagonin kanssa sen jälkeen, kun puolustusministeriö on lisännyt sen rajoitusten asettamisesta tekoälytekniikoiden käytölle).
Anthropicin uusi tekoälymalli voisi “muokata kyberturvallisuutta”, minkä vuoksi se käynnisti Project Glasswingin
Anthropic käynnisti tällä viikolla yhteistyössä JPMorgan Chasen, Amazonin ja Googlen sekä muiden keskeisten teknologiayritysten kanssa Project Glasswing -aloitteen, jonka tarkoituksena on suojata kriittisiä ohjelmistoja tekoälyn kehityksen keskellä. Osana kumppanuutta Anthropic sanoi blogikirjoituksessaan, että se jakaisi oppimansa teknologia- ja rahoituspalveluteollisuuden kanssa.
Yhteistyökumppaneidensa lisäksi yritys on laajentanut pääsyä 40 uuteen organisaatioon, jotka rakentavat tai ottavat käyttöön kriittistä ohjelmistoinfrastruktuuria, ja se on sitoutunut jopa 100 miljoonaa dollaria Mythos Preview -käyttöhyvityksiin, jotka ovat yksinkertaisin tekoälyn käyttöyksikkö. Anthropic huomautti, että projekti käynnistettiin vastauksena kykyihin, joita yritys on nähnyt uudessa rajamallissaan, Mythosissa, jonka se uskoo “muovaavan uudelleen kyberturvallisuutta”.
“Tekoälyn etenemisvauhti huomioon ottaen ei kestä kauan, ennen kuin tällaiset ominaisuudet lisääntyvät, mahdollisesti niiden toimijoiden ulkopuolella, jotka ovat sitoutuneet käyttämään niitä turvallisesti”, julkaisu varoittaa. “Seuraukset (talouksille, yleiselle turvallisuudelle ja kansalliselle turvallisuudelle) voivat olla vakavia.”
Anthropic sanoi tiistain julkaisussa, että se julkaisee uuden mallin aluksi rajoitetulle joukolle alan kumppaneita, jotta “puolustajat voivat alkaa suojata kriittisiä järjestelmiä ennen kuin samanlaisilla ominaisuuksilla varustettuja malleja tulee laajalti saataville”.
Muut yritysjohtajat ovat antaneet hälytyksen tehokkaiden tekoälymallien aiheuttamista kyberturvallisuusriskeistä. Dimon hahmotteli vuosittaisessa kirjeessään osakkeenomistajille kyberturvallisuusriskejä, joita suuret teollisuudenalat ja yritykset kohtaavat tekoälyn vuoksi, sanoen, että kyberturvallisuus “säilee yhtenä suurimmista riskeistämme”. Hän lisäsi: “Tekoäly pahentaa tätä riskiä lähes varmasti.”
Osana Project Glasswingiä JPMorgan pyrkii vähentämään tekoälyn nopeasti kehittyvistä kyvyistä johtuvia kyberriskejä. “Kyberturvallisuuden ja rahoitusjärjestelmän kestävyyden edistäminen on JPMorgan Chasen mission ydin, ja uskomme, että ala on vahvempi, kun johtavat instituutiot työskentelevät yhdessä yhteisten haasteiden parissa”, JPMorganin tietoturvajohtaja Pat Opet sanoi lausunnossaan.
“Project Glasswing tarjoaa ainutlaatuisen varhaisen vaiheen mahdollisuuden arvioida seuraavan sukupolven tekoälytyökaluja puolustavaan kyberturvallisuuteen kriittisessä infrastruktuurissa sekä omilla ehdoillamme että arvostettujen teknologiajohtajien rinnalla”, hän lisäsi.
