Tervetuloa Eye on AI -ohjelmaan tekoälytoimittaja Sharon Goldmanin kanssa. Tässä numerossa uusi startup taistelee tekoälyn matkimista vastaan… Laillinen AI-startup Harvey keräsi 160 miljoonaa dollaria 8 miljardin dollarin arvostuksessa… Riskipääoman “kuningasten teko” tapahtuu nopeammin kuin koskaan tekoälyn startupeissa… Miksi tekoäly kirjoittaa noin… Microsoft alentaa uusimpien tekoälyohjelmistojen myyntihenkilöstön kasvutavoitteita.
Vuosi sitten puhuin useiden kyberturvallisuusjohtajien kanssa SoftBankin ja Mastercardin kaltaisissa yrityksissä, jotka jo hälyttivät tekoälyllä toimivista tietojenkalasteluuhista, mukaan lukien syväväärennöksistä ja ääniklooneista. He varoittivat, että petokset kehittyvät nopeasti: ensimmäinen huijausaalto koski huijareita, jotka käyttivät syväväärennöksiä esiintyäkseen tuntemansa henkilönä. Hyökkääjät alkavat kuitenkin pian käyttää tekoälyn luomaa videota ja ääntä esiintyäkseen tuntemattomina luotettavista lähteistä, kuten pankkisi tukipalvelun edustajasta tai IT-järjestelmänvalvojasta töissä.
Vuotta myöhemmin tapahtuu juuri näin: Identity Theft Resource Center raportoi tietojenkalasteluhuijausten lisääntyneen 148 % huhtikuun 2024 ja maaliskuun 2025 välisenä aikana, mikä johtui siitä, että huijarit loivat väärennettyjä yrityssivustoja, ottavat käyttöön realistisia AI-chatbotteja ja tuottivat ääniagentteja, jotka kuulostavat mahdottomalta erottaa oikeista yrityksen edustajista. Pelkästään vuonna 2024 Federal Trade Commission kirjasi 2,95 miljardin dollarin tappiot tietojenkalasteluhuijauksista.
Nyt uusi startup astuu suoraan aukkoon. imper.ai pyrkii pysäyttämään tekoälyn tietojenkalasteluhyökkäykset reaaliajassa ja ilmoitti tänään julkistamisestaan ja 28 miljoonan dollarin uudesta rahoituksesta. Redpoint Ventures ja Battery Ventures johtivat sijoituskierrosta, ja siihen osallistuivat Maple VC, Vessy VC ja Cerca Partners.
Sen sijaan, että yrittäisi havaita visuaalisia tai äänihäiriöitä (lähestymistapa, josta on nopeasti tulossa lähes mahdotonta), imper.ai sanoo analysoivansa digitaalisia navigointipolkuja, joita hyökkääjät eivät voi huijata. Näitä ovat laitteen telemetria (laitteesi lähettämät taustatiedot, kuten sijainti, käyttöjärjestelmä, laitteistotiedot ja verkon käyttäytyminen), verkkodiagnostiikka ja ympäristösignaalit. Sen alusta toimii äänettömästi järjestelmissä, kuten Zoom, Teams, Slack, WhatsApp, Google Workspace ja IT-tukipalveluympäristöissä ja ilmoittaa riskialttiit istunnot ennen kuin ihminen huijataan.
Toimitusjohtaja Noam Awadish, itseajamisen pioneerin Mobileyen veteraani ja Israelin 8200 kybersotayksikön pitkäaikainen jäsen, sanoi, että tekoäly on vahvistanut klassisia sosiaalisen suunnittelun taktiikoita – sellaisia hyökkäyksiä, jotka manipuloivat ihmisiä luovuttamaan arkaluontoisia tietoja tai hyväksymään turvallisuutta vaarantavia toimia. Hyökkääjät käyttävät yhä useammin tekoälyä huijatakseen uhreja paljastamaan salasanoja, taloudellisia tietoja tai etäkäyttöä käyttämällä tietojenkalastelua, väärää kiirettä tai psykologista painostusta.
Tuore esimerkki on Jaguar Land Rover. Viime kuussa hakkerit käyttivät väärennettyjä valtuustietoja koordinoitujen tietojenkalastelu- ja vishing-kampanjoiden toteuttamiseen esiintymällä JLR:n IT-tukihenkilöstönä kerätäkseen valtuustietoja ja saadakseen pääsyn. Hyökkäys pakotti autonvalmistajan sulkemaan kriittiset tietokonejärjestelmät ja lopulta tuotantolinjansa, mikä aiheutti tähän mennessä arviolta 1,5 miljardin dollarin tappiot.
Siksi imper.ai välttää yrittämästä havaita tekoälyn huijausta suoraan tekoälyn luomasta sisällöstä. “Emme halua joutua tekoälyn asevarusteluun”, Awadish sanoi. Sen sijaan käynnistys keskittyy siihen, mitä hyökkääjät eivät voi huijata: ensisijaisesti metatietoihin.
Yhtiön vetovoiman kiihtyessä on myös sijoittajien kiinnostus. “Haluamme rakentaa alustan, joka turvaa koko viestintätilan”, Awadish sanoi. “Se ei ole mikään pieni, se ei ole kuin lisäosa, jonka yksi jättiläisistä aikoo rakentaa.” Hän sanoi, että uudella rahoituksella yritys voi kaksinkertaistaa T&K-henkilöstönsä ja kolminkertaistaa markkinointiorganisaationsa Yhdysvalloissa.
“Tällä hetkellä vetovoima on todella korkea, joten meidän on pysyttävä tahdissa ja kasvattava”, hän sanoi.
Huomautus: Olen erittäin innoissani siitä, että pääsen San Franciscoon Fortune Brainstorm AI:lle maanantaina ja tiistaina! Haastattelen päälavalla Prakhar Mehrotraa, PayPalin tekoälyn johtajaa ja globaalia johtajaa, sekä Marc Hamiltonia, Nvidian ratkaisuarkkitehtuurista ja -tekniikasta vastaavaa johtajaa. Aion myös valvoa mielenkiintoista pyöreän pöydän keskustelua tekoälyn palvelinkeskuksista. Lisäksi odotan näkeväni joitain muita puhujia, mukaan lukien näyttelijä Joseph Gordon-Levitt, OpenAI COO Brad Lightcap ja Ali Ghodsi, Databricksin toimitusjohtaja.
FORTUNE IN AI
Microsoft AI haluaa, että kaikki työntekijänsä ovat tekoälyn syntyperäisiä tilikauden loppuun mennessä, sanoo Angelica Angin suunnittelujohtaja Liz Danzico.
Kiinan ByteDance saattaa joutua myymään TikTokia Yhdysvalloissa, mutta sen hiljainen johtajuus tekoälyssä auttaa sitä selviytymään (ja ehkä jopa menestymään) Nicholas Gordonin toimesta.
Anthropic harkitsee listautumista huolimatta varoituksista, että liikalikviditeetti aiheuttaa kuplan markkinoilla – Jim Edwards
Sam Altman julistaa “Code Red”, kun Googlen Gemini ilmestyy, kolme vuotta sen jälkeen, kun ChatGPT sai Googlen toimitusjohtajan Sundar Pichain tekemään samoin, kirjoittaja Sharon Goldman
ServiceNow-johtaja sanoo Jeremy Kahnin, että identiteetin ja pääsynhallintaalusta Veza auttaa asiakkaita jäljittämään tekoälyagenttien olinpaikat
AI Uutisissa
Legal AI startup Harvey kerää 160 miljoonaa dollaria 8 miljardin dollarin arvosta. New York Timesin mukaan Harvey, yksi nopeimmin kasvavista startupeista laillisen AI-teknologiabuumin aikana, keräsi juuri 160 miljoonaa dollaria 8 miljardin dollarin arvosta. Tämä yli kaksinkertaistaa sen arvostuksen helmikuusta ja nostaa sen tämän vuoden kokonaisrahoituksen noin 760 miljoonaan dollariin. Neljä vuotta vanha yritys, jolla on jo noin puolet Am Law 100:sta, luo tekoälyapulaisia, jotka auttavat lakimiehiä laatimaan ja tarkistamaan asiakirjoja, vastaamaan oikeuskäytäntökysymyksiin ja automatisoivat rutiinityönkulkuja. Kierroksen johti Andreessen Horowitz, johon osallistuivat T. Rowe Price, WndrCo, Sequoia, Kleiner Perkins ja muut, ja se osoittaa, että sijoittajien innostus toimihenkilöille suunniteltuja tekoälytyökaluja kohtaan on edelleen vahvaa, vaikka laajemmat teknologiamarkkinat horjuvat.
Riskipääoman “kuningasten teko” tapahtuu aikaisemmin kuin koskaan tekoälyn startupeissa. AI ERP -käynnistysyritys DualEntry keräsi 90 miljoonan dollarin Series A -hinnan 415 miljoonalla dollarilla, vaikka se oli vain vuoden ikäinen, koska Lightspeed ja Khosla Ventures vetosivat siihen, että seuraavan sukupolven korvaaminen vanhoille järjestelmille, kuten Oracle NetSuite, voi skaalata nopeasti. Mutta TechCrunchin mukaan kierroksen koko on herättänyt uudelleen kysymykset “kuninkaiden tekemisestä”, yhä yleisemmästä riskipääomataktiikasta sijoittaa valtavia summia yhteen varhaisen vaiheen yritykseen luokan hallitsevan aseman tuottamiseksi. Vaikka yksi sijoittaja kertoi TechCrunchille, että DualEntryllä oli vain noin 400 000 dollaria ARR-arvoa viime kesänä (luku yritys kiistää), aggressiivinen rahoitus heijastaa laajempaa muutosta: pääomasijoitusyritykset valitsevat voittajia aikaisemmin kuin koskaan.
Miksi tekoäly kirjoittaa näin? Halusin ehdottomasti korostaa tätä (pitkää) esseetä New York Timesissa, joka on lukemisen arvoinen. Hän väittää, että tekoälyn luomasta kirjoituksesta on hiljaa tullut Internetin hallitseva ääni, joka muovaili kaikkea opiskelijoiden esseistä poliittisiin lausuntoihin, ja sen nyt tuttu sekoitus käsikirjoituksia, aavemaisia metaforia, kolmosia ja liian hiottu vilpittömyyttä. Kirjoittajan mukaan häiritsevää ei ole vain se, että tekoälyproosaa on kaikkialla, vaan se, että ihmiset alkavat alitajuisesti jäljitellä sitä luoden palautesilmukan, jossa koneella luodusta kielestä tulee oletuskulttuurisävy. Olin henkilökohtaisesti kuullut siitä, kuinka tekoäly-chatbotit rakastavat sanaa “mene syvemmälle”, mutta eivät sitä, että he pitävät aavemaisista sanoista ja kaikesta “hiljaisesta”: “Kaikki on varjoa, muistoa tai kuiskausta. He rakastavat myös hiljaisuutta. Ilman selvää syytä ja usein vastoin kerronnan logiikkaa he kuvailevat asioita hiljaisuudeksi tai hiljaiseksi huminaksi.”
Microsoft alentaa myyntihenkilöstön kasvutavoitteita uudemmille tekoälyohjelmistoille. Kuten kaikki muutkin suuret teknologiayritykset, Microsoft vietti suuren osan vuodesta 2025 äänekkäästi mainostaen tekoälyagentteja seuraavana suurena harppauksena liiketoiminnan automatisoinnissa, mutta vuoden lopulla yritys laskee hiljaa odotuksia The Informationin uuden raportin mukaan. Sen jälkeen kun useat myyntitiimit eivät saavuttaneet aggressiivisia kasvutavoitteita, Microsoft on keventänyt tiettyjen tekoälytuotteiden kiintiöitä, mikä on epätavallisen julkinen tunnustus, että perinteiset yritykset epäröivät edelleen maksaa edistyneestä automaatiosta. Asiakkaat sanovat, että sijoitetun pääoman tuottoa on edelleen vaikea mitata ja että tekniikka on liian virhealtista riskialttiisiin työnkulkuihin, kuten rahoitukseen ja kyberturvallisuuteen. Vaikka tekoäly on ollut siunaus Microsoftin pilviliiketoiminnalle (enimmäkseen massiivisten OpenAI-kulujen ja Microsoft 365 Copilotin ja GitHub Copilotin kaltaisten työkalujen suuren kysynnän ansiosta), suurten yritysten saaminen lisäämään merkittävästi tekoälybudjettiaan on osoittautunut paljon vaikeammaksi kuin myyminen tekoälylaboratorioille.
SINULLA ON KALENTERI
2.–7. joulukuuta: NeurIPS, San Diego.
8.–9. joulukuuta: Fortune Brainstorm AI San Francisco. Osallistumispyyntö tästä.
7.–10. tammikuuta: Consumer Electronics Show, Las Vegas.
12.–18. maaliskuuta: SWSW, Austin.
16.–19. maaliskuuta: Nvidia GTC, San Jose.
6.-9. huhtikuuta: HumanX, San Francisco.
Kiinnitä huomiota lukuihin IA221 miljoonaa
Pilvipohjaisen videonmuokkausalustan Kapwingin uuden raportin mukaan näin monet YouTube-käyttäjät tilaavat niin sanottuja “AI-slop” -kanavia tai sellaisia, jotka julkaisevat ensisijaisesti tekoälyn luomaa sisältöä.
Raportissa analysoitiin 15 000 YouTube-kanavaa 21 maassa ja tunnistettiin, mitkä julkaisevat tekoälyn tuottamaa sisältöä. Sitten he tutkivat katselukertoja, tilaajien kokonaismäärää ja arvioituja tulojaan selvittääkseen, missä “AI-slop” -kanavat kilpailevat aggressiivisimmin ihmisten luojien kanssa.
Raportin mukaan nämä kanavat ovat jo keränneet yhteensä 221 miljoonaa tilaajaa, tuottaneet 63 miljardia katselukertaa ja keränneet vuosittain yli 117 miljoonaa dollaria.
Muutamia merkittäviä poimintoja raportista:
Amerikkalaisella “AI slop” -kanavalla, Cuentos Facinatesilla, on eniten tilaajia maailmanlaajuisesti (5,95 miljoonaa). Espanjassa kahdeksan näistä kanavista on 100 suosituimman kanavan joukossa, ja niillä on yhteensä 20,22 miljoonaa tilaajaa, eniten kaikista maista. Nämä kanavat saavat eniten katselukertoja Etelä-Koreassa (8,45 miljardia katselukertaa 11 trendaavalla kanavalla). Intiassa on katsotuin “AI slop” -kanava Bandar Apna Dost, jolla on 2,07 miljardia katselukertaa ja arvioitu vuositulo 4,25 miljoonaa dollaria.