Hei ja tervetuloa Eye on AI -ohjelmaan… Tässä painoksessa: OpenAI:n uusi sopimus Microsoftin kanssa… Elon Musk julkaisee Grokipedian… tietoinsinöörit kamppailevat tekoälyn työkuormien kanssa… ja ovatko tekoälyselaimet turvallisuusriski?
Sopimuksen mukaan uutta OpenAI Group PBC:tä jatkaa voittoa tavoittelematon OpenAI-säätiö. Lähes vuoden kestäneet neuvottelut Microsoftin kanssa, joiden kerrotaan aiheuttaneen merkittäviä jännitteitä yritysten välillä, olivat OpenAI:n suurin este rakenneuudistuksen loppuunsaattamiselle. Ja ensi silmäyksellä Microsoft näyttää voittavan suuria myönnytyksiä tekoälylaboratoriolta.
Vuodesta 2019 lähtien yli 13 miljardia dollaria OpenAI:han sijoittanut teknologiajätti ostaa 27 %:n osuuden OpenAI:sta. Ottaen huomioon OpenAI:n nykyinen arvostus, Microsoftin asema on arvoltaan noin 135 miljardia dollaria. Se säilyttää myös pääsyn OpenAI-teknologiaan vuoteen 2032 asti, mukaan lukien kaikki mallit, jotka saavuttavat tekoälyn (AGI) virstanpylvään. Nyt myös riippumattomien asiantuntijoiden paneeli tarkistaa, ovatko mallit ylittäneet tämän kynnyksen, jonka OpenAI oli aiemmin julkisesti määritellyt tekoälyjärjestelmäksi, joka pystyy suorittamaan taloudellisesti arvokkaimmat kognitiiviset tehtävät yhtä hyvin tai paremmin kuin ihminen.
Aikaisemmin OpenAI saattoi päättää itse, milloin AGI saavutettiin, mikä nähtiin mahdollisena vipuvaikutuksena Microsoftin kumppanuuden mukaisten oikeuksien lopettamiseksi tai muuttamiseksi. Tämän sopimuksen kerrotaan nostaneen jännitteitä, sillä Microsoft oli huolissaan siitä, että OpenAI voisi ilmoittaa AGI:sta ennenaikaisesti käyttämällä korkean suorituskyvyn tekoälymallia virstanpylväsnä, millä olisi merkittäviä taloudellisia ja immateriaalioikeuksia molemmille yrityksille. Joten tämä riippumattoman paneelin päätös on voitto Microsoftille.
Sopimus antaa Microsoftille myös mahdollisuuden harjoittaa AGI:ta itsenäisesti tai kolmansien osapuolten kanssa, ja samalla OpenAI jakaa monia tutkimustekniikoitaan ja edistysaskelia. Uuden sopimuksen mukaan Microsoft säilyttää pääsyn suureen osaan OpenAI:n taustalla olevista tutkimusmenetelmistä ja -järjestelmistä, vaikka yrityksellä ei ole pääsyä OpenAI:n kuluttajalaitteistoihin, mallien painoihin tai minkään “tutkimuksena” pidetyn mallin arkkitehtonisiin perusyksityiskohtiin. (Se säilyttää oikeudet näihin OpenAI-tuotantomallien tärkeimpiin teknisiin yksityiskohtiin vuoteen 2032 asti.)
Silti tämä antaa Microsoftille näkyvyyttä muun muassa OpenAI:n mallien koulutusinfrastruktuuriin ja optimointimenetelmiin sekä mahdollisuuden hyödyntää OpenAI:n tutkimusmenetelmistä oppimaansa ja soveltaa sitä omien AGI-malliensa kehittämiseen. Mahdollisesti mutkistaa tätä entisestään Microsoftin kasvava kumppanuus Anthropicin kanssa, ja Claude on nyt saatavilla Microsoft 365:ssä ja Excelissä.
Microsoft luopui pilvipalvelun yksinoikeudesta OpenAI:n kanssa, jota teknologiaanalyytikko Zeus Kerravala kutsui “isoksi myönnytykseksi omalta osaltaan”. Hän kuitenkin huomautti myös, että yritys oli saanut OpenAI:lta useita kriittisiä rakenteellisia myönnytyksiä, jotka kompensoivat tämän.
“Nämä apurahat takaavat Microsoftin investointien pitkäikäisyyden ja arvon”, hän kertoi Fortunelle. “Pohjimmiltaan Microsoft vaihtoi pilvipalveluiden yksinoikeudella, mitä sillä oli joka tapauksessa vaikeuksia saavuttaa, teknologiseen varmuuteen ja pitkäaikaiseen IP-käyttöön.”
Sijoittajat näyttivät olevan samaa mieltä, kun yhtiön osakkeet nousivat 2 % ja nostivat sen markkina-arvon takaisin yli 4 biljoonaan dollariin päivää ennen kuin yhtiö ilmoitti kolmannen vuosineljänneksen tuloksestaan.
Sääntelyvoitto OpenAI:lle
OpenAI puolestaan saa nyt käyttöönsä sijoittajien, mukaan lukien SoftBankin, Thriven ja muiden uudelleenjärjestelystä riippuvaisten pääomasijoitusyhtiöiden, lupaaman täyden rahoituksen. Muutos mahdollistaa myös OpenAI:n helpomman lisäpääoman hankkimisen tulevaisuudessa.
Kalifornian oikeusministeri Rob Bonta kertoi Fortunelle lausunnossaan, että hän oli “saanut myönnytyksiä, joilla varmistetaan, että hyväntekeväisyyskohteita käytetään aiottuun tarkoitukseen, turvallisuus asetetaan etusijalle ja että OpenAI pysyy täällä Kaliforniassa.” Tämän seurauksena Bonta sanoi, että hänen toimistonsa “ei tule oikeuteen vastustamaan OpenAI:n pääomapohjan vahvistamissuunnitelmaa”.
Tämä on isku useille voittoa tavoitteleville järjestöille, jotka ovat kampanjoineet rakenneuudistusta vastaan väittäen, että OpenAI oli poikennyt ydintehtävästään kehittää AGI:tä tavalla, joka hyödyttää “koko ihmiskuntaa”, ja että se oli priorisoinut tuotteiden toimituksen tekoälyn turvallisuuden sijaan.
Nämä voittoa tavoittelemattomat ryhmät olivat lobbannut oikeusministerin toimistoja estääkseen kaupan. Asianajoryhmät, järjestöt ja jotkut entiset OpenAI-työntekijät sekä OpenAI:n perustaja, josta tuli katkera yrityskilpailija Elon Musk, ovat avoimesti vastustaneet rakennemuutosta useista syistä. Musk on väittänyt, että siirto on todiste siitä, että OpenAI:n toimitusjohtaja Sam Altman ja toinen perustaja Greg Brockman veivät häntä harhaan, kun hän teki ensimmäiset useiden miljoonien dollarien lahjoitukset laboratorion perustamiseen. Toiset ovat väittäneet, että rakenneuudistus uhkaa ohjata voittoja, joiden olisi pitänyt palvella hyväntekeväisyyttä, OpenAI:n pääomasijoittajien, perustajien ja työntekijöiden taskuihin.
OpenAI on pyrkinyt lieventämään joitain näistä vastalauseista lupaamalla, että sen voittoa tavoittelematon OpenAI-säätiö myöntää suuria apurahoja hyväntekeväisyyteen, mukaan lukien äskettäin ilmoitettu 25 miljardin dollarin sitoumus hankkeisiin, joilla pyritään parantamaan terveyttä ja parantamaan sairauksia tai joilla pyritään lisäämään yhteiskunnan sietokykyä joidenkin häiriöille, joita tekoäly todennäköisesti aiheuttaa, mukaan lukien mahdolliset laajat työpaikkojen menetykset.
Kuitenkin, kun viranomaisten hyväksyntä on turvattu ja Microsoftin huolenaiheet on käsitelty, OpenAI:lla on vihdoin voittoa tavoitteleva rakenne ja miljardeja dollareita pääomaa. Ja Microsoft pitää suurimman osan siitä, mitä se piti arvokkaana OpenAI-kumppanuudessa, ja varmistaa samalla suuren osakeosuuden, joka voi osoittautua yllätykseksi sen omille osakkeenomistajille.
Beatriz Nolan
FORTUNE IN AI
Avoimen lähdekoodin tekoäly on “Kiinan peli juuri nyt”, ja se on ongelma Yhdysvalloille ja sen liittolaisille, sanoo Andreessen Horowitzin kumppani Beatrice Nolan.
Nyt kun tiedämme, että tekoäly ei poista kaikkia työpaikkojamme, Piilaakson on korjattava perustavanlaatuinen virheensä: automaatioteatterin on loputtava – Joel Hron
Qualcommin toimitusjohtaja varoittaa, että “kaikki pelaavat voittaakseen” tekoälykuplan suhteen, mutta on vielä liian aikaista tietää, kuka menestyy: Beatrice Nolan
Sen jälkeen kun Microsoft sijoitti 13 miljardia dollaria OpenAI:han, sen tekoälypäällikkö kritisoi eroottisia ominaisuuksia, kuten ChatGPT:tä: “Tämä on erittäin vaarallista” – Sasha Rogelberg
EYE ON THE UUTISET IN AI EYE ON THE RESEARCH IN AI
Toisessa MIT-raportissa sanotaan, että tekoälyn edut eivät ehkä ole niin selviä kuin odotettiin. Tällä kertaa koodauksessa. Uusi MIT Technology Review Insights -raportti, joka tehtiin yhteistyössä Snowflaken kanssa, osoitti, että 77 % tietosuunnittelijoista kohtaa raskaampaa työtaakkaa huolimatta tuottavuuden lisäämiseen tähtäävien tekoälytyökalujen laajasta käyttöönotosta. 400 ylemmän teknologiajohtajan kyselyssä havaittiin, että 83 % organisaatioista on jo ottanut käyttöön tekoälypohjaisia tietotekniikkatyökaluja, mutta 45 % mainitsee integroinnin monimutkaisuuden ja 38 % raportoi työkalujen laajenemisen ja pirstoutumisen tärkeimpinä käyttöönoton haasteina. Vaikka tekoäly automatisoi monia datatehtäviä, irrotettujen järjestelmien lisääntyminen on luonut tuottavuuden paradoksin, jossa yksittäiset tehtävät ovat nopeampia, mutta yleiset työnkulut ovat raportin mukaan hitaampia. Tietosuunnittelijat käyttävät nyt 37 prosenttia ajastaan tekoälyyn liittyviin projekteihin, kun se kaksi vuotta sitten oli 19 prosenttia, ja heidän odotetaan nousevan 61 prosenttiin kahden vuoden sisällä.
SINULLA ON KALENTERI
10.–13. marraskuuta: Web Summit, Lissabon.
26.-27. marraskuuta: AI World Congress, Lontoo.
2.–7. joulukuuta: NeurIPS, San Diego.
8.–9. joulukuuta: Fortune Brainstorm AI San Francisco. Osallistumispyyntö tästä.
RUOKAA AIVOILLE
Ovatko AI-verkkoselaimet turvallisuusriski? Kun OpenAI julkaisi kauan odotetun verkkoselaimen viime viikolla, kirjoitin joistakin nopeisiin injektioihin liittyvistä riskeistä. Sen jälkeen, ehkä ei ole yllättävää, turvallisuusriskejä on ilmaantunut lisää. Tietoturvayritys LayerX löysi ChatGPT Atlas -selaimessa mahdollisesti merkittävän haavoittuvuuden, jonka avulla hyökkääjät voivat pistää haitallisia ohjeita ChatGPT-muistiin. CSRF-hyökkäyksen (cross-site request forgery) avulla hakkerit voivat hyödyntää sisäänkirjautuneen käyttäjän istuntoa istuttaakseen piilotettuja ohjeita, jotka säilyvät kaikissa laitteissa ja selaimissa. Kun ChatGPT on saanut tartunnan, se voi tietämättään suorittaa nämä ohjeet, jotka voivat ottaa käyttöön haittaohjelmia. LayerX:n testaus osoitti, että ChatGPT Atlas -selain on erityisen haavoittuvainen, sillä se estää vain noin 5,8 % testaamistaan tietojenkalasteluhyökkäyksistä, jolloin käyttäjät ovat jopa 90 % alttiimpia verrattuna Chromeen tai Edgeen, jotka estivät noin puolet tällaisista hyökkäyksistä. Kyberturvallisuus on aina vähän kissa ja hiiri -peliä, jossa yritykset tunnistavat ja sitten korjaavat tietoturvapuutteita, mutta tietoturvariskien laajuus herättää kysymyksen siitä, ovatko tekoälyselaimet liian riskialttiita, jotta niille voidaan luottaa sellaisella syvällä järjestelmän pääsyllä, jota ne tarvitsevat ollakseen hyödyllisiä.