Kun olin ilmailu- ja avaruusinsinööri NASAn avaruussukkulaohjelman parissa, luottamus oli kriittinen tehtävän kannalta. Jokainen pultti, jokainen koodirivi, jokainen järjestelmä oli tarkistettava ja testattava huolellisesti, tai sukkula ei koskaan poistu laukaisualustalta. Tehtävänsä jälkeen astronautit kävelivät ympäri toimistoa ja kiittivät tuhansia insinöörejä siitä, että he saivat heidät turvallisesti kotiin perheidensä luo. Näin syvälle juurtunut luottamus ja turvallisuus olivat järjestelmiimme.
Huolimatta retoriikasta “liikkua nopeasti ja rikkoa asioita”, teknologian ei pitäisi olla erilainen. Uusien teknologioiden on lisättävä luottamusta, ennen kuin ne voivat kiihdyttää kasvua.
Vuoteen 2027 mennessä noin 50 prosentin yrityksistä odotetaan käyttävän tekoälyagentteja, ja McKinseyn raportin mukaan vuoteen 2030 mennessä jopa 30 prosenttia kaikesta työstä voisi olla tekoälyagenttien tekemiä. Monet kyberturvallisuuden johtajista, joiden kanssa puhun, haluavat sisällyttää tekoälyn mahdollisimman nopeasti mahdollistaakseen liiketoiminnan, mutta he tietävät myös, että heidän on varmistettava, että nämä integraatiot tehdään turvallisesti asianmukaisten suojakaiteiden avulla.
Jotta tekoäly voi lunastaa lupauksensa, yritysjohtajien on luotettava siihen. Se ei tapahdu itsestään. Turvallisuusjohtajien on otettava oppia ilmailu- ja avaruustekniikasta ja rakennettava luottamusta prosesseihinsa heti ensimmäisestä päivästä lähtien, tai he voivat jäädä paitsi kiihtyvästä liiketoiminnan kasvusta.
Luottamuksen ja kasvun välinen suhde ei ole teoreettinen. Olen elänyt sen.
Löysin luottamukseen perustuvan yrityksen
NASAn avaruussukkulaohjelman päätyttyä perustin ensimmäisen yritykseni: alustan ammattilaisille ja opiskelijoille, jotka voivat esitellä ja jakaa todisteita taidoistaan ja pätevyyksistään. Se oli yksinkertainen idea, mutta se vaati asiakkaidemme luottamuksen meihin. Huomasimme nopeasti, että yliopistot eivät tekisi yhteistyötä kanssamme, ennen kuin olemme osoittaneet, että pystymme käsittelemään arkaluontoisia opiskelijatietoja turvallisesti. Tämä tarkoitti varmuuden antamista useilla eri tavoilla, mukaan lukien puhtaan SOC 2 -sertifikaatin näyttäminen, pitkiin turvallisuuskyselylomakkeisiin vastaaminen ja useiden vaatimustenmukaisuustodistusten täyttäminen vaivalloisten manuaalisten prosessien avulla.
Tämä kokemus muokkasi Dratan perustamisen, jossa perustajakumppanini ja minä päätimme rakentaa luottamusta suurten yritysten välille. Auttamalla GRC:n johtajia ja heidän yrityksiään saamaan ja osoittamaan turva-asentonsa asiakkaille, kumppaneille ja tilintarkastajille, poistamme kitkan ja nopeuttamme kasvua. Nopea kehityskulkumme 1 miljoonasta dollarista 100 miljoonaan dollariin vuosittaisista toistuvista tuloista vain muutamassa vuodessa on todiste siitä, että yritykset näkevät arvon ja ovat vähitellen siirtymässä GRC-tiimien pitämisestä kustannuspaikkana liiketoiminnan mahdollistajaksi. Tämä merkitsee todellisia, konkreettisia tuloksia: olemme saaneet 18 miljardia dollaria turvallisuuteen vaikuttavia tuloja turvallisuustiimien avulla, jotka käyttävät SafeBase Trust Centeriä.
Nyt tekoälyn avulla panokset ovat vielä korkeammat.
Nykyiset vaatimustenmukaisuuskehykset ja -säännökset, kuten SOC 2, ISO 27001 ja GDPR, on suunniteltu tietosuojaa ja turvallisuutta varten, ei tekoälyjärjestelmille, jotka luovat tekstiä, tekevät päätöksiä tai toimivat itsenäisesti.
Kaliforniassa äskettäin hyväksyttyjen tekoälyn turvallisuussääntöjen kaltaisen lainsäädännön ansiosta sääntelijät alkavat hitaasti saada kiinni. Mutta uusien sääntöjen ja määräysten odottaminen ei riitä, varsinkin kun yritykset luottavat uusiin tekoälytekniikoihin pysyäkseen edellä.
Et laukaisi testaamatonta rakettia
Tämä hetki muistuttaa minua monella tapaa NASAssa tekemästäni työstä. Ilmailu- ja avaruusinsinöörinä en koskaan “testannut tuotannossa”. Jokainen sukkulatehtävä oli huolellisesti suunniteltu operaatio.
Tekoälyn toteuttaminen ymmärtämättä tai tunnustamatta sen riskiä on kuin testaamattoman raketin laukaisu: vahinko voi olla välitön ja päättyä katastrofaaliseen epäonnistumiseen. Aivan kuten epäonnistunut avaruustehtävä voi heikentää ihmisten luottamusta NASA:aan, tekoälyn käytön virhe, jos ei täysin ymmärrä riskiä tai käytä turvaesteitä, voi heikentää kuluttajien luottamusta kyseiseen organisaatioon.
Tarvitsemme nyt uuden luotettavan käyttöjärjestelmän. Luottamuksen toteuttamiseksi johtajien on luotava ohjelma, joka on:
Läpinäkyvä. Ilmailu- ja avaruustekniikassa kattava dokumentointi ei ole byrokratiaa, vaan vastuuvelvollisuus. Sama koskee tekoälyä ja luottamusta. Jäljitettävyyttä on oltava politiikasta valvontaan, todisteisiin ja sertifiointiin. Jatkuva. Aivan kuten NASA jatkuvasti tarkkailee tehtäviään 24 tuntia vuorokaudessa, yritysten on investoitava luottamukseen jatkuvana, jatkuvana prosessina eikä valintaruutuina kulloinkin. Esimerkiksi valvontaa tulisi seurata jatkuvasti, jotta auditointivalmiudesta tulee enemmänkin tilanne eikä viime hetken sprintti. Autonominen. Nykyään rakettimoottorit voivat hallita omaa toimintaansa integroitujen tietokoneiden, antureiden ja ohjauspiirien avulla ilman, että lentäjät tai maahenkilöstö säätävät venttiileitä suoraan lennon aikana. Ja koska tekoälystä tulee yhä yleisempi osa jokapäiväistä liiketoimintaa, tämän täytyy koskea myös luottamusohjelmiamme. Jos ihmiset, agentit ja automatisoidut työnkulut suorittavat tapahtumia, heidän on kyettävä vahvistamaan luottamus itsekseen, deterministisesti ja yksiselitteisesti.
Kun ajattelen ilmailu- ja avaruusaikaani, erottuu paitsi avaruustehtävien monimutkaisuus, myös niiden keskinäinen riippuvuus. Kymmenien tuhansien eri tiimien rakentamien komponenttien on toimittava saumattomasti yhdessä. Jokainen tiimi luottaa siihen, että muut tekevät työnsä tehokkaasti, ja päätökset dokumentoidaan läpinäkyvyyden varmistamiseksi koko organisaatiossa. Toisin sanoen luottamus oli kerros, joka piti koko avaruussukkula-ohjelman koossa.
Sama pätee tekoälyyn tänä päivänä, varsinkin kun astumme tähän orastavaan agenttien tekoälyn aikakauteen. Olemme siirtymässä uuteen tapaan tehdä liiketoimintaa, jossa sadat (joskus tuhannet) agentit, ihmiset ja järjestelmät ovat jatkuvasti vuorovaikutuksessa toistensa kanssa luoden kymmeniä tuhansia kosketuspisteitä. Työkalut ovat tehokkaita ja mahdollisuudet valtavat, mutta vain jos pystymme ansaitsemaan ja säilyttämään luottamuksen jokaisessa vuorovaikutuksessa. Yritykset, jotka luovat läpinäkyvän, jatkuvan ja itsenäisen luottamuskulttuurin, johtavat seuraavaa innovaatioaaltoa.
Tekoälyn tulevaisuus on jo rakenteilla. Kysymys on yksinkertainen: rakennatko sen luottamukselle?
Fortune.comin kommenteissa ilmaistut mielipiteet ovat yksinomaan niiden kirjoittajien näkemyksiä, eivätkä ne välttämättä heijasta Fortunen mielipiteitä ja uskomuksia.