“Ruutisodankäynnin” synty juontaa juurensa 1400-luvulle ja tulitikkulukkoase, ensimmäinen mekaaninen laukaisulaite. Nyt drooniparvet hyökkäävät rajojen yli rankaisematta. Vuonna 1685 italialainen fyysikko Giovanni Borelli visioi maailman, jossa hihnapyöräkäyttöiset koneet voisivat jäljitellä eläinten toimintaa. Elon Musk puhuu nyt roboteista, jotka ovat tarpeeksi älykkäitä tekemään ostoksia ja ottamaan kirurgien paikan.
Teknologinen kehitys on välitöntä ja ankkuroitu historiaan, sekä Kaikki, kaikkialla, kaikki kerralla ja Slow Horses. Nopea/hidas kontrasti on integroitu taideteokseen Calculating Empires, 24 metriä pitkä seinämaalaus, joka on esillä Barcelonan Designmuseossa. Se visualisoi matkan painokoneesta syväväärennöksiin, quipusta, muinaisesta, solmitusta köydestä tehdystä perulaislaskimesta, “planetaarisen mittakaavan” tietojärjestelmiin.
“Mielestäni on todella mielenkiintoista, että kun ihmiset kävelevät tähän asennukseen, se auttaa heitä laittamaan tämän hetken perspektiiviin”, Kate Crawford sanoi Mobile World Congressissa Barcelonassa maaliskuussa. Crawford, Etelä-Kalifornian yliopiston tekoälyn tutkijaprofessori, on yksi seinämaalauksen luomisesta, ja sen luominen kesti neljä vuotta. Teos, jossa on kuvataiteilija Vladen Joler, kannustaa meitä kaikkia pohtimaan, kuka asettaa säännöt ja päättää, mikä on olennaista, kun on kyse perustavanlaatuisista teknologisista muutoksista.
“Ihmisistä tuntuu, että elämme tässä teknologisessa presentismissa ja valtavassa muutoksessa”, Crawford sanoi. “Joten kyky astua taaksepäin ja sanoa: “Mitä olemme oppineet 500 vuodessa?” (sillä on väliä). Minulle (seinämaalaus) oli transformatiivinen projekti, koska olin hyvin selvä, että historia ei ole vain teknistä innovaatiota. “Kyse on siitä, kenellä on valta asettaa säännöt, joiden puitteissa elämme.”
“Siksi agenttien tekoäly on niin tärkeä juuri nyt, koska se on nopeasti kehittyvä ala. Standardeja ei ole vielä asetettu, ja ihmiset täällä, tämänkaltaisissa huoneissa, kuten Mobile World Congressissa, käyvät näitä keskusteluja: Millaisia standardeja haluamme, miten otamme ne käyttöön järjestelmiimme ja miten suojelemme itseämme ja asiakkaitamme?”
“Koska nyt on iso aika varmistaa, että tämä on teknologia, joka on erittäin hyödyllinen ja hyödyllinen eikä sellainen, joka avaa haavoittuvuuksia ja hyökkäysvektoreita ja uusia hyökkäyspintoja ja joka itse asiassa voi olla myös kognitiivisesti melko vaarallista.”
Mobile World Congress on ilmiö. Yli 100 000 edustajaa kävelee määrätietoisesti kahdeksassa luolassa olevassa salissa, joista jokainen on täynnä tulevaisuuden teknologiaa. Huawein ja Googlen, Honorin ja Qualcommin sponsoroimat valtavat paviljongit esittelevät merkittäviä innovaatioita, jotka yhdistävät automme puhelimeen, robotin vammaiseen henkilöön ja silmälasimme Internetiin. Hallitukset, jotka kaipaavat vaikutusvaltaa ja investointeja, kilpailevat tilasta yritysten kanssa, jotka toivovat voivansa suurta voittoa tekoälyvallankumouksessa.
MWC on myös keskustelun paikka. Suurilla näyttämöillä maailman tekniikan huippumielit menettävät usein keskustelunsa vilkkuvien neonvalojen ja interaktiivisten plasmanäyttöjen keskellä. “Liiku nopeasti ja riko asioita”, Mark Zuckerberg sanoi vuonna 2012. Nykyään panokset ovat korkealla.
Käymme vilkasta keskustelua älykkyyden merkityksestä. Demis Hassabis, DeepMindin perustaja, on sanonut, että yleinen tekoäly voisi olla kanssamme jopa viidessä vuodessa. Kuka tai mikä siinä maailmassa tekee päätökset? Onko kysymys ihmisistä silmukassa? Vai onko se ihminen johdossa? Vai eikö ihmistä tarvita? Mo Gawdat, Googlen entinen kaupallinen johtaja, on puhunut “lyhyen aikavälin dystopian” riskeistä, kun hallitukset, kansalaisyhteiskunta ja sääntelyviranomaiset kamppailevat hallitakseen oppimis- ja päätöksentekokykyisten koneiden vaikutuksia.
“Mitä me ymmärrämme älykkyydellä?” – Crawford kysyi. “Termin “älykkyys” historia on ongelmallinen. Sitä on käytetty jakamaan väestöjä, ajamaan tavoitteita siitä, kuka on arvokasta ja kuka ei.”
“Yritämme verrata agentteja ihmisen älykkyyteen. Ne ovat itse asiassa täysin erilaisia. Tämä (äly) on tilastollinen todennäköisyys mittakaavassa. Nämä ovat järjestelmiä, jotka seuraavat tehtäviä monimutkaisissa ympäristöissä. Tämä on hyvin erilaista kuin ihmisillä, mutta se tarkoittaa, että meillä on oltava erilainen kysymyssarja, jotka ovat: Mitä agentit tekevät? Kuinka voimme seurata sitä ja miten voimme paremmin ymmärtää, kuinka omaa työnkulkuamme, elämäämme paljon tärkeämpää on muuttaa?”
“Termin ‘älykkyys’ historia on myrskyisä…”
Kate Crawford, tekoälytutkimuksen professori Etelä-Kalifornian yliopistosta
Keskustelun jatkuessa jännitteistä OpenAI:n, Anthropicin ja Yhdysvaltain sotaministeriön välillä Crawford kysyy, mitkä ovat agenttien käytön punaiset linjat. “Kuvittele agentteja taistelukentällä”, hän sanoo. Ei ole tarvetta. On raportoitu, että Iranissa tapahtuu tekoälypommituksia “ajatusten nopeudella”. Yksi tekoälyn tehtävistä on “päätöspakkaus”, joka lyhentää idean ja toteutuksen välistä aikakehystä. “Kuolemanketjua” lyhennetään.
Crawford puhuu vastuullisuusrikosteknisestä: järjestelmistä, jotka seuraavat, missä päätökset tehdään. Tällä hetkellä kärsimme tilinpesusta, jossa kukaan ei ota vastuuta. Ison-Britannian virkamieskunnassa, hallituksen operatiivisessa haarassa, se tunnetaan nimellä “slumped shoulders -oireyhtymä”, jossa jokainen väistää ja väistää välttääkseen vastuuta.
“Näemme eräänlaisen shell-pelin, jossa (ihmiset sanovat) “onko se suunnittelija (kuka on vastuussa)? Onko se toteuttaja? Onko se yritysasiakas? Onko se loppukäyttäjä?” Ja jokainen voi sanoa: “No, emme vielä tiedä.” Se ei ole hyväksyttävää, Crawford sanoi. “Luulen, että se, mitä alamme nähdä keskustelussa, erityisesti sääntelyviranomaisten kanssa, on erittäin vahva vastuuketju tietää tarkalleen, kuka on vastuussa ja milloin.”
“Alamme vasta ymmärtää, miltä se näyttää”, hän sanoi. Kaikkien keskustelujen tulee olla asiallisia. Ja välittömästi.