Rohit Tatachar, teknologiajohtaja ja Glacisin perustaja.
Microsoft Azuren veteraaniinsinöörinä ja tuotejohtajana Rohit Tatachar huomasi, että monet yritykset rakensivat tekoälyjärjestelmiä, joita ne eivät pystyneet täysin valvomaan tai hallitsemaan tuotannossa.
Uudessa roolissaan Seattlen startupissa hän tekee jotain asian eteen.
Tatachar on nyt yksi Glacisin perustajista ja teknologiajohtaja. Glacis luo väärentämisen estäviä tietoja tekoälykäyttäytymisestä. Toimitusjohtaja Joe Braidwood on kutsunut tätä “lentotallentimeksi yritysteällisuudelle”. Sen saapuminen tapahtuu, kun Glacis tuo markkinoille uusia avoimen lähdekoodin työkaluja tekoälyagenttien valvontaan ja ohjaamiseen.
Glaciksen, jonka GeekWire käsitteli ensimmäisen kerran marraskuussa 2025, aloittivat Braidwood ja tohtori Jennifer Shannon, psykiatri ja apulaisprofessori Washingtonin yliopistosta.
Yritys selvisi vaikeasta oppitunnista: Braidwoodin edellinen käynnistys, tekoälyllä toimiva mielenterveystyökalu Yara, joutui sulkemaan toimintansa sen jälkeen, kun havaittiin mallien poikkeavan suunnitellusta käyttäytymisestä pitkien keskustelujen aikana haavoittuvien käyttäjien kanssa.
Sen jälkeen kun hän kirjoitti LinkedInin sulkemisesta, sääntelijät, lääkärit, insinöörit ja vakuutusjohtajat tulivat samaan havaintoon: kun tekoälyjärjestelmät tekevät päätöksiä, kukaan ei voi itsenäisesti varmistaa, toimivatko turvatarkastukset todella.
Se oli Glacisin kipinä.
Kuinka se toimii: Käynnistyksen ydintuote, nimeltään Arbiter, istuu jokaisen tekoälyn päättelykutsun polulla ja luo allekirjoitetun tietueen syötteestä, suoritetuista turvatarkistuksista ja lopputuloksesta.
Tietuetta ei voi jälkikäteen muuttaa. Suuressa mittakaavassa järjestelmä, jota Glacis kutsuu Witness Networkiksi, notaarii nämä tietueet ja muuttaa ne tarkastettavaksi jälkiä.
Asiakkaat voivat käyttää järjestelmää “varjotilassa”, tarkkailemalla ilman väliintuloa tai lainvalvontatilassa, jossa se rajoittaa aktiivisesti tekoälyn toimintaa.
Glacisin perustajat Joe Braidwood (vasemmalla) ja Jennifer Shannon. (Photo Glacis)
Shannon, Glacisin ylilääkäri, sanoi, että panokset ovat korkealla terveydenhuollossa. Harjoittavana lastenpsykiatrina hän on nähnyt tekoälyllä toimivien ympäristökirjoittajien hallusinoivan sisältöä kliinisissä muistiinpanoissaan, mukaan lukien reseptien tekeminen lääkkeille, joita hän ei koskaan tehnyt.
“Toivon, että voisin palata ja nähdä jokaisen askeleen, kuinka tekoälymalli teki tämän päätöksen”, hän sanoi. “Jos siihen ei ole infrastruktuuria, kuka on vastuussa? Kukaan ei aio haastaa tekoälyä oikeuteen. Se olen minä.”
Taustalla oleva haaste: Tatachar työskenteli Microsoftilla kaksi jaksoa, jotka kestivät lähes 19 vuotta, viimeksi vanhempana tuotepäällikkönä Microsoft Foundry -tiimissä, jonka alustana rakennettiin ja otettiin käyttöön yritystekoälysovelluksia ja -agentteja.
Hän kertoi nähneensä yritysten luovan työkaluja ja suorittavan konseptin todisteita, mutta heidän vaikeuksia saada tekoäly tuotantoon, koska he eivät pystyneet selittämään tai varmistamaan, mitä heidän järjestelmänsä tekivät.
Hän sanoi, että ongelmalla on kolme ulottuvuutta: asiakkaan infrastruktuurin perustila, mallin käyttäytyminen ja niin sanottu “intent drift”, jossa järjestelmä käyttäytyy eri tavalla kuin asiakas on tarkoittanut, vaikka taustalla oleva malli toimisi normaalisti.
Glacis tarkkailee käyttöönottoa kaikissa kolmessa. “Vain kun nämä kolme kohtaavat, asiakkaalla on todellinen näkemys siitä, mitä todella tapahtui”, Tatachar sanoi.
Uudet julkaisut: Glacis julkaisee auto-redteamin, avoimen lähdekoodin työkalun, joka hyökkää automaattisesti tekoälyjärjestelmiin useissa haavoittuvuuksissa, luo sitten korjauksia ja varmistaa niiden tehokkuuden.
Yritys julkaisee myös OVERT 1.0:n, standardin, jota se kutsuu “havaittavalle verifiointitodistukselle luottamuksesta ajon aikana”, jonka tarkoituksena on tarjota organisaatioille puitteet todistettavissa olevan tekoälyn turvallisuuden sisällyttämiseksi toimintoihinsa.
Julkaisut tulevat epävakaaseen aikaan tekoälyagenttien turvallisuuden vuoksi. OpenClaw, avoimen lähdekoodin tekoälyagenttikehys, on houkutellut satoja tuhansia kehittäjiä debyyttinsä jälkeen vuoden 2025 lopulla, mutta sen nopea käyttöönotto on ohittanut tietoturva-arkkitehtuurinsa.
Suuret kyberturvallisuusyritykset, mukaan lukien CrowdStrike ja Cisco, ovat julkaisseet analyyseja, jotka varoittavat viitekehyksen tietoturva-aukoista. Braidwood sanoi, että tämä osoittaa, että tarvitaan infrastruktuuria, joka voi valvoa suojausta ajon aikana, ei vain testata niitä ennen käyttöönottoa.
Kohdemarkkinat: Yritys keskittyy terveydenhuollon, fintech- ja vakuutussektorin asiakkaisiin.
Se allekirjoitti kaksi pilottisopimusta JP Morganin terveydenhuoltokonferenssissa aiemmin tänä vuonna, ja kolme muuta on valmisteilla. Braidwood sanoi, että yritys näkee terveydenhuollon lähtökohtanaan, mutta näkee ongelman lopulta yleismaailmallisena kaikkeen tekoälytoteutukseen.
Uusi kehitys tällä viikolla: Glacis avaa myös jonotuslistan 49 dollarin kuukausittaiselle aloitussuunnitelmalle, joka kattaa punaisen ryhmittymisen, vaatimustenmukaisuuden ja kryptosertifioinnin jopa 10 000 tekoälytapahtumalle kuukaudessa. 499 dollarin pro-taso kattaa jopa 100 000 tapahtumaa.
Braidwood sanoi, että muutos on tarkoituksellinen muutos, jotta teknologia saataisiin saataville säänneltyjen yritysten ja suunnittelukumppaneiden ulkopuolella, joiden kanssa yritys on tähän mennessä työskennellyt.
Isompi kuva: Tekoälyn havaittavuus ja tietoturva ovat kukoistavat markkinat, joilla on hyvin rahoitetut startup-yritykset ja suuret yritykset, jotka tarjoavat ajonaikaista valvontaa ja suojakaiteita yritysten tekoälylle.
Braidwood sanoi, että Glacis erottuu keskittymisestään kryptografiseen todistettavuuteen: ongelmien havaitsemisen lisäksi se tuottaa myös väärentämisen estäviä todisteita siitä, että turvatarkastukset suoritettiin, mikä hänen mukaansa voisi auttaa yrityksiä neuvottelemaan vakuutusturvasta ja tyydyttämään sääntelyviranomaisia.
Rahoitus: Glacis on kerännyt 575 000 dollaria sijoittajaryhmältä, mukaan lukien Geoff Ralstonin Safe Artificial Intelligence Fund, Mighty Capital, Sourdough Ventures ja AI2 Incubator.
Se on myös osa Cloudflaren Launchpad-ohjelmaa ja Plug and Playn kolmatta Seattlen kiihdytinryhmää. Braidwood sanoi, että yritys aikoo sulkea siemenkierroksen myöhemmin tänä vuonna.
Tiimi: Glacisilla on viisi työntekijää, mukaan lukien kolme perustajaa ja kaksi insinööriä.
Tatachar sanoi, että yhtiön kuudes “työntekijä” tulee olemaan tekoälyagentti, jonka tehtävänä on hoitaa SOC 2 -vaatimustenmukaisuustyöt Vantan kautta. Tiimi kirjoittaa ydinsalauskoodinsa Rustissa ja käyttää Claudea, Codexia ja ChatGPT:tä koko työnkulussaan.
“Meillä on 100 hengen yritys”, Braidwood vitsaili. “Viisi niistä on todellisia ja loput ovat pilvessä tai työpöydällä.”
