Panelistit istunnon aikana Women in Tech Regatta -tapahtumassa Seattlessa keskiviikkona. Vasemmalta oikealle moderaattori Sarah Studer Washingtonin yliopistosta, Maria Martin Nordstromista, Nandita Krishnan Adobesta ja Anya Edelstein Highspotista. (Kuva WiT-regatista)
Naiset on jo pitkään jätetty tietosarjoista ja päätöksistä, jotka vaikuttavat kaikkeen autoturvallisuudesta lääketieteellisiin diagnooseihin. Alan johtajat varoittavat, että hätäinen lähestymistapa tekoälyyn saattaa toistaa nämä mallit.
Se oli keskeinen viesti tämän viikon Women in Tech Regatta -tapahtumassa Seattlessa, jossa puhujat kehottivat aikaisemmin ja laajemmin osallistumaan tekoälyn kehittämiseen, kun käyttöönotto kiihtyy.
“Syrjäytyminen lisääntyy ajan myötä ja on paljon vaikeampi havaita”, Anya Edelstein, Seattlessa toimivan Highspotin oppimiskokemuspäällikkö sanoi tekoälyn johtamispaneelissa keskiviikkona. “Jos heidän näkökulmaansa ei oteta huomioon huoneessa, kun näitä päätöksiä tehdään alun perin, on myöhemmin vaikeampaa tehdä muutoksia.”
Viime vuosina tutkijat ovat yrittäneet lieventää vääristyneillä tai puolueellisilla tietosarjoilla koulutettujen koneoppimismallien puutteita, mukaan lukien naisten munuaisten vajaatoiminnan virhediagnoosit. Samaan aikaan naiset ympäri maailmaa käyttävät tekoälytyökaluja noin 20 % miehiä harvemmin, mikä lisää eroja koulutuksessa.
Ainakin teknologia-alalla sukupuolten välinen kuilu tekoälyssä näyttää olevan umpeutumassa. Se on huomattava muutos, kun yritykset kilpailevat kohti automaatiota laajassa mittakaavassa, ja huoli väärästä tiedosta ja tietoturvasta pyörii Anthropic- ja OpenAI- listautumisannissa.
Naiset johtavat tekoälystrategiaa varoen
Suurin osa johtotehtävissä olevista naisista (80 %) ajaa tekoälystrategiaa työpaikalla, jossa he asettavat vastuullisen omaksumisen etusijalle nopeuden sijaan, kertoo Chief, naisiin keskittynyt johtamisverkosto, jonka yli 1 700 alan johtajaa julkaisi aiemmin tässä kuussa.
Tämä on usein ristiriidassa yrityksiin kohdistuvien paineiden kanssa ottaa tekoälytyökaluja ja -strategioita käyttöön yhä nopeammassa tahdissa, sanoo Maria Martin, Nordstromin tuotehallinnan johtaja.
“Päätöksen tekemisen ja päätöksen laajuuden välillä on vähemmän eroa”, Martin sanoi keskiviikon paneelissa. “On tärkeää päästä eteenpäin ja osallistua ajoissa.”
Tutkituista naisjohtajista 71 % oli yrityksissään ensimmäinen, joka huomautti tekoälyn riskit.
“Jos emme tarkoituksella luo interventioita joka askeleella”, Edelstein sanoi, “harha on mahdollisuus hiipiä sisään.”
Vie naiset huoneeseen
Pätevien naisten tuominen tekoälyn johtajiin ja päätöksentekotiloihin saattaa alkaa palkkaamisesta. Ainakin kaksi kolmasosaa rekrytoijista käyttää tekoälyä ehdokkaiden valitsemiseen, prosessin, jonka on osoitettu toistavan rodullisia ja sukupuolisia ennakkoluuloja, usein risteävillä tavoilla.
Osallistujat kohtaavat Women in Tech Regattassa Seattlessa keskiviikkona. (WiT Regattan luvalla)
Vuonna 2024 Washingtonin yliopiston tutkijat havaitsivat, että tekoälyn tutkijat valitsevat miesten nimet naisten nimien sijaan 89 % ajasta ja valkoisiin liittyvät nimet mustien nimien sijaan 85 % ajasta. Vuotta myöhemmin Washingtonin yliopisto havaitsi, että johtajien palkkaaminen heijastelee heidän tekoälymallinsa ennakkoluuloja.
Naiset ja värikkäät ihmiset kohtaavat paineita omaksua ja vaihtaa koodia (kuten käyttää ansioluettelossa rotu- ja sukupuolineutraalia nimeä) ennen kuin he tulevat toimistoon. Kun se on palkattu, on tärkeää löytää oikeat ihmiset tukemaan, sanoi Cynthia Tee, pitkäaikainen IT- ja suunnittelujohtaja.
Tee ehdottaa, että useammat alan johtajat voivat ottaa käyttöön sponsorointimallin, joka vaatii suurempaa tahtoa, konkreettista riskiä ja kustannuksia verrattuna tyypilliseen työpaikkaliittoutumaan.
“Jatkakaamme ansioituneiden ihmisten edistämistä”, Tee sanoi työpaikan dynamiikasta navigointia käsittelevässä paneelissa. “Tuo jatkuvasti lisää erilaisia ihmisiä palkkaamiskanaviesi kautta. Jatka ihmisten tuomista, joiden ääntä ei kuulu.”
AI-keskustelu on tarkoitettu kaikille
Tekoälyn ymmärtämisessä tai käytössä voi olla luottamuseste, mikä johtuu osittain alan “mustan laatikon” suunnittelusta. Nandita Krishnan, Adoben tietotieteilijä, joka rakentaa sovelluksia sivulle, ehdottaa, että varaat joka viikko aikaa uusimpien uutisten lukemiseen ja päivittäisten tehtävien automatisointiin.
“Jos käytät värinäkoodausta, tee se niin, että ohjelmisto pysyy suojattuna”, hän sanoi paneelissa Edelsteinin ja Martinin kanssa. “Kun rakennat tekoälyjärjestelmiä, se on erittäin altis suistumiselle. Lisää jotain LLM:ien maadoittamiseen ja anna agentille tämä tieto tai tietokanta varmistaaksesi, ettei se suistu raiteilta.”
Tekoälypäätöksentekoon osallistuminen ei rajoitu tekniseen asiantuntemukseen. Edelstein ehdottaa arvojen luomista tekoälyn ympärille (mukaan lukien koulutus, terveydenhuolto ja ympäristö) ja löytää alan johtajia tai yrityksiä, jotka yhtyvät niihin.
Hän lisäsi, että monet työntekijät opettelevat tekoälyä peläten jäävänsä jälkeen, mutta uteliaisuus johtaa parempiin tuloksiin.
“Jos voimme muuttaa monia käsityksiä tekoälystä”, hän sanoi, “se on ensimmäinen askel saada lisää ihmisiä keskusteluun.”
