Frontierin tekoälymallit eivät enää vain auta insinöörejä kirjoittamaan koodia nopeammin tai automatisoimaan rutiinitehtäviä. He pystyvät yhä paremmin havaitsemaan virheensä.
Anthropic sanoo, että sen uusin malli, Claude Opus 4.6, on erinomainen paljastamaan ohjelmiston heikkoudet, jotka tukevat suuria kyberhyökkäyksiä. Yrityksen Frontier Red Teamin raportin mukaan Opus 4.6 tunnisti testauksen aikana avoimen lähdekoodin ohjelmistokirjastoista yli 500 aiemmin tuntematonta nollapäivän haavoittuvuutta (puutteita, joita ohjelmiston kirjoittaneet henkilöt tai sen korjaamisesta tai korjaamisesta vastaava taho eivät tiedä). Varsinkaan mallia ei nimenomaisesti käsketty etsimään tietoturvapuutteita, vaan se havaitsi ja ilmoitti ongelmat itsestään.
Anthropic sanoo, että “tulokset osoittavat, että kielimallit voivat tuoda todellista lisäarvoa olemassa olevien etsintätyökalujen lisäksi”, mutta myönsi, että ominaisuudet ovat myös luonnostaan ”kaksikäyttöisiä”.
Hyökkääjät voivat helposti käyttää samoja ominaisuuksia, jotka auttavat yrityksiä löytämään ja korjaamaan tietoturvapuutteita löytääkseen ja hyödyntääkseen haavoittuvuuksia ennen kuin puolustajat voivat löytää ne. Tekoälymalli, joka pystyy itsenäisesti tunnistamaan nollapäivän hyökkäyksiä laajalti käytetyissä ohjelmistoissa, voisi kiihdyttää kyberturvallisuuden asekilpailun molempia puolia, mikä mahdollisesti kallistaa etua nopeammin toimiville.
Anthropicin border red -tiimin johtaja Logan Graham kertoi Axiosille, että yritys näkee kyberturvallisuuden hyökkäyksen ja puolustuksen välisenä kilpailuna ja haluaa varmistaa, että puolustajat pääsevät käyttämään näitä työkaluja ensin.
Hallitakseen osan riskeistä Anthropic ottaa käyttöön uusia havainnointijärjestelmiä, jotka seuraavat Clauden sisäistä toimintaa, kun se tuottaa vastauksia, käyttämällä mitä yritys kutsuu “luodatuksi” ilmoittamaan mahdollisesta väärinkäytöstä reaaliajassa. Yhtiö kertoo myös laajentavansa lainvalvontavalmiuksiaan, mukaan lukien kykyä estää haitalliseksi tunnistettu liikenne. Anthropic tunnustaa, että tämä lähestymistapa luo kitkaa laillisille turvallisuustutkijoille ja puolustustyölle, ja on sitoutunut tekemään yhteistyötä turvallisuusyhteisön kanssa näiden haasteiden ratkaisemiseksi. Yhtiön mukaan suojatoimet ovat “tärkeä askel eteenpäin” väärinkäytösten havaitsemisessa ja nopeassa reagoinnissa, vaikka työ jatkuukin.
OpenAI sen sijaan on omaksunut varovaisemman lähestymistavan uudella koodausmallillaan, GPT-5.3-Codexilla, joka myös julkaistiin torstaina. Yhtiö on korostanut, että vaikka malli paransi salauksen suorituskykyä, näihin hyötyihin liittyy vakavia kyberturvallisuusriskejä. OpenAI:n toimitusjohtaja Sam Altman sanoi viestissä
Tämän seurauksena OpenAI ottaa käyttöön GPT-5.3-Codexin tiukemmilla ohjauksilla. Vaikka malli on maksullisten ChatGPT-käyttäjien saatavilla päivittäisiin kehitystehtäviin, yritys viivyttää täyttä API-käyttöä ja rajoittaa riskialttiita käyttötapauksia, jotka voivat mahdollistaa mittakaavan automatisoinnin. Arkaluontoisimmat sovellukset on suojattu lisäturvatoimilla, mukaan lukien luotettu pääsyohjelma tarkastetuille tietoturva-ammattilaisille. OpenAI sanoi julkaisuun liittyvässä blogiviestissä, että sillä ei ole vielä “lopullista näyttöä” siitä, että malli pystyy täysin automatisoimaan kyberhyökkäykset, mutta se noudattaa varovaista lähestymistapaa ja ottaa käyttöön tähän mennessä kattavimmaksi kuvailemansa kyberturvallisuuden tietoturvapaketin, joka sisältää tehostetun valvonnan, turvallisuuskoulutuksen ja uhkatiedon tietoon perustuvat valvontamekanismit.
