Erehtyminen on inhimillistä; anteeksi, jumalallinen. Mutta mikä on virhemarginaali, kun on kyse autonomisista tekoäly-“agenteista”, jotka ottavat tehtäviä, joita ihmiset ovat aiemmin suorittaneet?
Fortunen äskettäisessä Brainstorm AI -tapahtumassa San Franciscossa pyöreän pöydän asiantuntija käsitteli tätä kysymystä, kun asiantuntijat kertoivat, kuinka heidän yrityksensä käsittelevät turvallisuutta ja hallintoa, joka on ongelma, joka ratkaisee entistä käytännönläheisempiä haasteita, kuten datan ja laskentatehon. Yritykset kilpailevat asevarustelukilpailussa saadakseen tekoälyagentteja laskuvarjolla osaksi työnkulkuaan, joka pystyy hoitamaan tehtäviä itsenäisesti ja vähäisellä ihmisen valvonnalla. Mutta monet kohtaavat perustavanlaatuisen paradoksin, joka hidastaa adoptiota: nopea liikkuminen vaatii luottamusta, mutta luottamuksen rakentaminen vie kauan.
Dev Rishi, Rubrikin tekoälyn toimitusjohtaja, liittyi turvallisuusyritykseen viime kesänä sen jälkeen, kun sen syväoppivan tekoälyn startup, Predibase, ostettiin. Seuraavat neljä kuukautta hän tapasi 180 yrityksen johtajia. Hän käytti näitä oivalluksia jakaakseen agentti-AI:n käyttöönoton neljään vaiheeseen, hän kertoi Brainstormin tekoälyyleisölle. (Vakiintuneella tasolla agenttien käyttöönotto tarkoittaa yrityksiä, jotka ottavat käyttöön tekoälyjärjestelmiä, jotka toimivat itsenäisesti sen sijaan, että vastaisivat kehotteisiin.)
Kuten Rishi oppi, hänen löytämiinsä neljään vaiheeseen kuuluu varhainen kokeiluvaihe, jossa yritykset tekevät lujasti töitä prototyyppien tekemiseksi agenteilleen ja kartoittavat tavoitteet, jotka heidän mielestään voitaisiin integroida työnkulkuihinsa. Toinen vaihe, Rishi sanoi, on monimutkaisin. Tällöin yritykset siirtävät agenttinsa prototyypeistä muodolliseen työntuotantoon. Kolmas vaihe sisältää näiden autonomisten agenttien skaalauksen koko yrityksessä. Neljäs ja viimeinen vaihe, jota kukaan Rishi puhui, ei ollut saavuttanut, on autonominen tekoäly.
Rishi havaitsi, että noin puolet 180 yrityksestä oli kokeilu- ja prototyyppivaiheessa, kun taas 25 prosenttia työskenteli kovasti prototyyppiensä virallistamiseksi. Toiset 13 prosenttia skaalautuivat ja loput 12 prosenttia eivät olleet aloittaneet tekoälyprojekteja. Rishi ennustaa kuitenkin dramaattista muutosta tulevaisuuteen: Seuraavien kahden vuoden aikana 50 %:n ryhmään kuuluvat odottavat siirtyvänsä toiseen vaiheeseen etenemissuunnitelmiensa mukaan.
“Luulen, että tulemme näkemään paljon adoptiota hyvin nopeasti”, Rishi sanoi yleisölle.
Hän kuitenkin huomautti, että on olemassa merkittävä riski, joka estää yrityksiä toimimasta “nopeasti ja voimakkaasti”, kun on kyse AI-agenttien työvoiman käyttöönoton nopeuttamisesta. Tämä riski ja suurin este agenttien laajemmalle käyttöönotolle on turvallisuus ja hallinto, hän sanoi. Tästä johtuen yritykset kamppailevat siirtyäkseen agenttien käyttämisestä tiedonhakuun toimintaan suuntautuneiksi.
“Itse asiassa tavoitteemme on nopeuttaa tekoälyn muutosta”, Rishi sanoi. “Uskon, että riskitekijä numero yksi, este numero yksi, on riski (itse).
Integroi agentit työvoimaan
Kathleen Peters, Experianin innovaatiojohtaja, joka johtaa tuotestrategiaa, sanoi, että hidastuminen johtuu siitä, että he eivät täysin ymmärrä riskejä, joita AI-agentit rikkovat yritysten asettamia esteitä ja tarvittavia suojatoimia, kun näin tapahtuu.
“Jos jokin menee pieleen, jos on hallusinaatioita, jos tulee sähkökatkos, mihin voimme kääntyä?” hän kysyi. “Se on yksi niistä asioista, joissa jotkut johtajat, toimialasta riippuen, haluavat ymmärtää “Kuinka tunnemme olomme turvalliseksi?””
Hän sanoi, että sen ymmärtäminen on erilainen jokaiselle yritykselle ja todennäköisesti osoittautuu erityisen hankalaksi yrityksille, jotka toimivat erittäin säännellyillä aloilla. Chandhu Nair, kodinsisustuksen jälleenmyyjän Lowe’sin datasta, tekoälystä ja innovaatioista vastaava varatoimitusjohtaja, sanoi, että agenttien luominen on “melko helppoa”, mutta ihmiset eivät ymmärrä, mitä he ovat: Ovatko he digitaalisia työntekijöitä? Onko se työvoimaa? Miten se liitetään osaksi organisaatiorakennetta?
“Se on melkein kuin palkata joukko ihmisiä ilman HR-toimintoa”, Nair sanoi. “Joten meillä on paljon agentteja ilman minkäänlaista tapaa kartoittaa heitä kunnolla, ja se on ollut lähestymistapa.”
Yhtiö on käynyt läpi joitakin näistä kysymyksistä, mukaan lukien kuka saattaa olla vastuussa, jos jokin menee pieleen. “Sitä on vaikea jäljittää”, Nair sanoi.
Experian’s Peters ennusti, että tulevina vuosina tulemme näkemään monia samoista kysymyksistä keskusteltavana julkisesti, vaikka keskusteluja käydään samanaikaisesti suljettujen ovien takana hallitushuoneissa ja johtavien compliance- ja strategiakomiteoiden keskuudessa.
Suuret räjäytykset herättävät paljon huomiota, Peters jatkoi, ja maineriski on vaakalaudalla. Tämä pakottaa kysymyksen epämukavista keskusteluista siitä, missä vastuu ohjelmistojen ja agenttien suhteen on, ja kaikki tämä johtaa todennäköisesti sääntelyn lisäämiseen, hän sanoi.
“Uskon, että se tulee olemaan osa yleistä sosiaalisen muutoksen hallintaamme, kun ajattelemme näitä uusia työskentelytapoja”, Peters sanoi.
Silti on konkreettisia esimerkkejä siitä, kuinka tekoäly voi hyödyttää yrityksiä, kun se toteutetaan tavalla, joka resonoi työntekijöiden ja asiakkaiden kanssa.
Nairin mukaan Lowe’s on nähnyt vahvan omaksumisen ja “konkreettisen” ROI:n, jonka se on integroinut yrityksen toimintaan tähän mennessä. Esimerkiksi sen 250 000 myymäläkumppanin joukossa jokaisella on mukana agentti, jolla on laaja tuotetuntemus 100 000 neliöjalkaa myytävissä myymälöissään, jotka myyvät kaikkea sähkölaitteista maaleihin ja putkistotarvikkeisiin. Monet Lowen työvoiman uusista jäsenistä eivät ole kauppiaita, Nair sanoi, ja saattajaagenteista on tullut “yleisin tekniikka” toistaiseksi.
“Oli tärkeää löytää käyttötapaukset, jotka todella resonoivat asiakkaan kanssa”, hän sanoi. Mitä tulee muutosten hallintaan kaupoissa, “jos tuote on hyvä ja voi lisätä arvoa, omaksuminen kiihtyy.”
Kuka tarkkailee agenttia?
Mutta niille, jotka työskentelevät päämajassa, muutoksenhallintatekniikoiden on oltava erilaisia, hän lisäsi ja lisää monimutkaisuutta.
Ja monet yritykset ovat juuttuneet toiseen alkuperäiseen kysymykseen: pitäisikö niiden luoda omat agentit vai luottaa suurten ohjelmistovalmistajien kehittämiin tekoälyominaisuuksiin.
Mass General Brigham Health Systemin pilvisuunnittelusta ja tekoälystä vastaava johtaja Rakesh Jain sanoi, että hänen organisaationsa omaksuu odottavan lähestymistavan. Koska suuret alustat, kuten Salesforce, Workday ja ServiceNow, rakentavat omia agenttejaan, se voi aiheuttaa irtisanomisia, jos organisaatiosi rakentaa omia agenttejaan samanaikaisesti.
“Jos on aukkoja, haluamme luoda omia agenttejamme”, Jain sanoi. “Muuten olisimme riippuvaisia tuotteiden tarjoajien luomien agenttien ostamisesta.”
Terveydenhuollon alalla Jain sanoi, että ihmisten valvonnan tarve on suuri, kun otetaan huomioon suuret panokset.
“Potilaan monimutkaisuutta ei voida määrittää algoritmeilla”, hän sanoi. “Tässä täytyy olla ihminen.” Heidän kokemuksensa mukaan agentit voivat nopeuttaa päätöksentekoa, mutta ihmisten on tehtävä lopullinen päätös, ja lääkärit validoivat kaiken ennen kuin ryhtyvät toimiin.
Silti Jain näkee myös valtavan nousupotentiaalin tekniikan kypsyessä. Esimerkiksi radiologiassa useiden lääkäreiden kokemuksella koulutettu agentti pystyi havaitsemaan tiheässä kudoksessa kasvaimia, jotka yksi radiologi saattaa jättää huomiotta. Mutta jopa useiden lääkäreiden kanssa koulutettujen upseerien kanssa “sinun on silti oltava inhimillinen tuomio”, Jain sanoi.
Ja uhka, että agentti, jonka oletetaan olevan luotettu taho, ylittelee, on aina läsnä. Hän vertasi roistoagenttia autoimmuunisairauteen, joka on yksi vaikeimmista lääkäreiden diagnosoitavista ja hoitavista tiloista, koska uhka on sisäinen. Jos agentti järjestelmän sisällä “korruptoituu”, hän sanoi, “se aiheuttaa valtavia vahinkoja, joita ihmiset eivät ole kyenneet arvioimaan.”
Avoimista kysymyksistä ja uhkaavista haasteista huolimatta Rishi sanoi, että tie on olemassa. Hän tunnisti kaksi vaatimusta luottamuksen rakentamiseksi agentteihin. Ensinnäkin yritykset tarvitsevat järjestelmiä, jotka antavat luottamusta siihen, että agentit toimivat poliittisten esteiden sisällä. Toiseksi he tarvitsevat selkeitä toimintatapoja ja menettelyjä, kun asiat väistämättä menevät pieleen – vahvan politiikan. Nair lisäsi myös kolme tekijää luottamuksen luomiseksi ja älykkääksi eteenpäin viemiseksi: identiteetti ja vastuu sekä agentin tunteminen; arvioida, kuinka johdonmukainen kunkin agentin tuotoksen laatu on; ja tarkastele post mortem -jälkeä, joka voi selittää, miksi ja milloin virheitä on tapahtunut.
“Järjestelmät voivat tehdä virheitä, samoin ihmiset”, Nair sanoi. “Mutta selittää ja toipua on yhtä tärkeää.”