Glacisin perustajat Joe Braidwood (vasemmalla) ja Jennifer Shannon. (Photo Glacis)
Keskiviikkona ilmestyi raportteja, joiden mukaan Valkoinen talo valmistelee toimeenpanomääräystä, joka ohjaa liittovaltion virastoja kyseenalaistamaan tai estämään osavaltion tekoälysäännöt.
Seattlen liikemies Joe Braidwood näkee uutisen suurena mahdollisuutena.
Braidwood on toimitusjohtaja ja toinen perustajista Glacisissa, uudessa AI2 Incubatorin tukemassa startupissa, joka rakentaa ohjelmistoja auttaakseen yrityksiä osoittamaan, että niiden tekoälyn turvatoimet toimivat suunnitellusti. Glacis luo jokaisesta tekoälypäätöksestä suojatut “kuitit”, joiden avulla yritykset voivat todistaa, että heidän turvajärjestelmänsä todella toimivat.
“Ajattele sitä yrityksen tekoälyn lentonauhurina”, Braidwood sanoi.
Braidwood sanoi, että Valkoisen talon mahdollinen määräys estää osavaltion tekoälylainsäädäntö muuttaa Glacisin juuri alkavasta startupista “infrastruktuuritarpeeksi”. Ympäristössä, jossa oikeusministeriö haastaa oikeuteen osavaltiot, jotka läpäisevät tekoälystandardit, neutraalista alustaagnostisesta luottamustasosta voi tulla yhä tärkeämpi.
Glacisin alkuperä juontaa juurensa sääntelyn monimutkaisuuteen.
Braidwood, pitkäaikainen teknologiamarkkinointijohtaja, sulki äskettäin Yaran, vuoden vanhan startup-yrityksensä, jonka tavoitteena oli käyttää tekoälyä henkisen hyvinvoinnin parantamiseen. Hän viittasi Illinoisin säädöksiin, jotka tekivät tekoälyhoidosta “tehokkaasti vakuuttamattomia”.
LinkedIn-viestissä, joka on sittemmin levinnyt virukseksi, Braidwood selitti päätöksestään sulkea Yara ja avata kehittämänsä turvallisuusohjeet.
Hän kirjoitti, että Yara sulki sen tajuttuaan, että tekoäly oli tulossa “vaaralliseksi” vuorovaikutuksessa ihmisten kanssa, jotka kohtaavat syvää traumaa tai itsemurha-ajatuksia, eikä vain sopimatonta. Hänen mukaansa kokemus osoitti “missä rajojen pitää olla” ja osoitti, kuinka riskialttiissa tekoälyluokissa työskentelevät startup-yritykset kohtaavat hallitsemattomia sääntelypaineita ja -vastuita.
Julkaisun jälkeen sääntelyviranomaiset, lääkärit, insinöörit, perustajat ja vakuutusjohtajat ottivat yhteyttä, monet heistä huomauttivat samasta ongelmasta: Kun tekoälyjärjestelmät tekevät päätöksiä, kukaan ei voi itsenäisesti tarkistaa, ovatko turvakäytännöt todella aktivoitu.
Tästä selkeydestä tuli Glaciksen siemen.
Joka kerta kun tekoälymalli vastaa kysymykseen tai suorittaa toiminnon, Glacis luo allekirjoitetun tietueen, josta näkyy toimitetut tiedot, suoritetut turvatarkastukset ja lopullinen päätös. Tietuetta ei voi muokata, ja se luodaan alle 50 millisekunnissa. Sääntelyviranomaiset ja vakuutuksenantajat voivat tarkistaa nämä kuitit näkemättä henkilötietoja, ja Braidwood sanoi, että vakuutusyhtiöt uskovat, että tämä voisi vihdoin tehdä mahdolliseksi suojata tekoälyjärjestelmiä, jotka voivat todistaa noudattavansa sääntöjä.
Braidwood perusti Glacisin yhdessä tohtori Jennifer Shannonin kanssa, joka on psykiatri ja apulaisprofessori Washingtonin yliopistosta.
Yhtiö on tällä hetkellä yksityisellä beta-vaiheessa digitaalisten terveydenhuoltoasiakkaiden, mukaan lukien nVoqin, kanssa, ja se on suunnattu terveydenhuolto-, fintech- ja vakuutussektoreille. Se on myös osa Cloudflaren Launchpad-ohjelmaa.
Braidwood toimi aiemmin Vektor Medicalin strategiajohtajana. Hän oli myös sosiaalisen TV-alustan Scener perustaja ja SwiftKeyn markkinointijohtaja.
Shannon on ollut psykiatri lähes kaksi vuosikymmentä. Hän on myös entinen lääketieteellinen johtaja Cognoassa ja palvelee American Academy of Child and Adolescent Psychiatry -akatemian AI-resurssikomiteassa.