David Sacks väittää, että tämä katkaisu ei johdu siitä, että tekoäly uhkaa heidän työpaikkojaan, yksityisyyttään ja itse talouden tulevaisuutta. Ei, Trumpin neuvonantajan mukaan se on kaikki osa miljardin dollarin juonea, jota hän kutsuu “Doomer Industrial Complexiksi”, tehokkaiden altruististen miljardöörien hämärään verkostoon, jota rahoittavat FTX:n tuomittu perustaja Sam Bankman Fried ja Facebookin perustaja Dustin Moskovitz.
Tällä viikolla X-viestissä Sacks väitti, että julkinen epäluottamus tekoälyä kohtaan ei ole lainkaan orgaanista: se on valmistettu. Hän viittasi teknologiakulttuuritutkijan Nirit Weiss-Blattin tutkimukseen, joka on vuosia kartoittanut aivoriitojen, voittoa tavoittelemattomien järjestöjen ja futuristien “AI doom” -ekosysteemiä.
Weiss-Blatt dokumentoi satoja ryhmiä, jotka edistävät tiukkaa sääntelyä tai jopa moratoriota edistyneille tekoälyjärjestelmille. Hän väittää, että suuri osa näiden järjestöjen takana olevista rahoista voidaan jäljittää tehokkaan altruismin liikkeen pienelle lahjoittajapiirille, mukaan lukien Facebookin perustaja Dustin Moskovitz, Skypen Jaan Tallinn, Ethereumin luoja Vitalik Buterin ja tuomittu FTX:n perustaja Sam Bankman-Fried.
Weiss-Blattin mukaan nämä hyväntekijät ovat yhdessä investoineet yli miljardi dollaria ponnisteluihin tekoälyn “eksistentiaalisen riskin” tutkimiseen tai lieventämiseen. Hän kuitenkin nosti esiin Moskovitzin organisaation, Open Philanthropyn, “ylivoimaisesti” suurimmaksi lahjoittajaksi.
Organisaatio torjui jyrkästi ajatuksen siitä, että he projisoivat pessimistisiä, tieteiskirjallisuuden tyylisiä skenaarioita.
“Uskomme, että teknologia ja tieteellinen kehitys ovat dramaattisesti parantaneet ihmisten hyvinvointia, minkä vuoksi suuri osa työstämme keskittyy näille alueille”, Open Philanthropyn tiedottaja kertoi Fortunelle. “Tekoälyllä on valtava potentiaali nopeuttaa tiedettä, vauhdittaa talouskasvua ja laajentaa ihmisten tietämystä, mutta se sisältää myös joitain ennennäkemättömiä riskejä, mikä on kaikkien poliittisten johtajien yhteinen näkemys. Tuemme harkittua, puolueetonta työtä näiden riskien hallitsemiseksi ja tekoälyn mahdollisten valtavien hyötyjen ymmärtämiseksi.”
Mutta Sacks, jolla on läheiset siteet Piilaakson startup-yhteisöön ja oli PayPalin varhainen johtaja, sanoo, että Open Philanthropyn rahoitus on tehnyt enemmän kuin vain varoittanut riskeistä: se on ostanut maailmanlaajuisen PR-kampanjan, joka varoittaa “jumalaisesta” tekoälystä. Hän viittasi tutkimuksiin, jotka osoittavat, että 83 prosenttia kiinalaisista vastaajista katsoo, että tekoälyn hyödyt ovat sen haitat suuremmat (verrattuna vain 39 prosenttiin Yhdysvalloissa) todisteeksi siitä, että se, mitä hän kutsuu “propagandarahaksi”, on muokannut amerikkalaista keskustelua.
Sacks on pitkään ajanut teollisuusystävällistä, sääntelemätöntä lähestymistapaa tekoälyyn (ja teknologiaan yleensä), joka on kehystetty kilpailussa Kiinan voittamisesta.
Sacksin pääomasijoitusyhtiö Craft Ventures ei vastannut välittömästi kommenttipyyntöön.
Mitä on tehokas altruismi?
Sacksin mainitsema “propagandaraha” tulee suurelta osin Effective Altruism (EA) -yhteisöltä, joka on idealistien, filosofien ja teknisten miljardöörien epävakaa ryhmä, joka uskoo, että ihmiskunnan korkein moraalinen velvollisuus on estää tulevia katastrofeja, mukaan lukien rogue AI.
Oxfordin filosofien William MacAskillin ja Toby Ordin vuosikymmen sitten perustama EA-liike kannustaa lahjoittajia käyttämään dataa ja syytä parhaan mahdollisen hyvän tekemiseen.
Tämä viitekehys sai jotkut jäsenet keskittymään “pitkän aikavälin politiikkaan”, ajatukseen, että eksistentiaalisten riskien, kuten pandemioiden, ydinsotien tai roistotekoälyn, estämisen tulisi olla etusijalla lyhytaikaisten syiden sijaan.
Vaikka jotkin EA:n mukaiset organisaatiot kannattavat vahvaa tekoälysääntelyä tai jopa “pysähdyksiä” mallinkehityksessä, toiset, kuten Open Philanthropy, omaksuvat teknisemmän lähestymistavan ja rahoittavat yhdenmukaistamistutkimusta yrityksissä, kuten OpenAI ja Anthropic. Liikkeen vaikutusvalta kasvoi nopeasti ennen FTX:n romahtamista vuonna 2022, jonka perustaja Bankman-Fried oli ollut yksi EA:n suurimmista hyväntekijöistä.
Matthew Adelstein, 21-vuotias korkeakouluopiskelija, jolla on Substack-erotus EA:ssa, huomauttaa, että maisema on kaukana Sacksin kuvaamasta monoliittisesta koneesta. Weiss-Blattin oma “AI-eksistenttiaalisen riskiekosysteemin” kartta sisältää satoja erillisiä kokonaisuuksia (yliopistojen laboratorioista voittoa tavoittelemattomiin järjestöihin blogiin), jotka jakavat samanlaisen kielen, mutta eivät välttämättä koordinoi. Weiss-Blatt kuitenkin päättelee, että vaikka “paisunut ekosysteemi” ei ole “ruohonjuuritason liike. Se on ylhäältä alaspäin suuntautuva liike”.
Adelstein on eri mieltä ja huomauttaa, että todellisuus on “hajanaisempaa ja vähemmän synkkää” kuin Weiss-Blatt ja Sacks esittävät.
“Suurin osa ihmisten tekoälyä koskevista peloista ei ole niitä, joista miljardöörit puhuvat”, Adelstein kertoi Fortunelle. “Ihmiset ovat enemmän huolissaan pettämisestä, ennakkoluuloista ja työpaikan menetyksestä (välittömästä vahingosta) kuin eksistentiaalisesta riskistä.”
Hän väittää, että varakkaiden lahjoittajien erottaminen on täysin merkityksetöntä.
“Tekoäly aiheuttaa erittäin vakavia riskejä”, hän sanoi. “Jopa tekoälykehittäjät uskovat, että on pieni prosenttiosuus mahdollisuus, että se voi aiheuttaa ihmisten sukupuuttoon. Se, että jotkut rikkaat ihmiset ovat samaa mieltä siitä, että se on vakava riski, ei ole argumentti sitä vastaan.”
Adelsteinille pitkäjänteisyys ei ole lahkon pakkomielle kaukaisiin tulevaisuuksiin, vaan pragmaattinen kehys globaalien riskien arvioimiseksi.
“Kehitämme erittäin edistynyttä tekoälyä, uhkaamme vakavia ydin- ja biologisia riskejä, eikä maailma ole valmistautunut”, hän sanoi. “Pitkän aikavälin yksinkertaisesti sanotaan, että meidän pitäisi tehdä enemmän niiden estämiseksi.”
Hän myös torjui syytökset, joiden mukaan EA:sta olisi tullut näennäisuskonnollinen liike.
“Haluaisin nähdä kultin, joka on omistettu tekemään altruismia tehokkaasti ja säästämään 50 000 ihmishenkeä vuodessa”, hän sanoi nauraen. “Se olisi jonkinlainen kultti.”
