BLIP tai purske?
Tämä voi olla häikäisevä. Väestölaskentatoimisto kysyy myös toisen kysymyksen AI: n käyttöönotosta, konsultoidessaan yrityksiä siitä, ennakoivatko AI: n käytön tavaroiden tai palvelujen tuottamiseen seuraavan kuuden kuukauden aikana. Ja tässä tiedot eivät osoita upotusta, vaikka “kyllä” vastaava prosenttiosuus näyttää mitattuna tasolla, joka oli vuoden 2023 lopussa ja vuoden 2024 alkupuolella.
Onko AI: n talvi?
Kun pidän kappaletta, monia tekijöitä, jotka vaikuttivat aikaisempien talviksi, ovat nykyään läsnä. Aikaisempi liioittelumarja, joka näyttää olevan samankaltainen kuin nykyinen, tapahtui 1980 -luvulla “asiantuntijajärjestelmien” ympärillä, vaikka ne rakennettiin käyttämällä nykypäivän AI -mallien hyvin erilaista AI -tekniikkaa. Yllättävän samanlaista on, että Fortune 500 -yritykset olivat innostuneita asiantuntijajärjestelmistä ja käyttivät suurta rahaa niiden omaksumiseen, ja jotkut löysivät valtavia tuottavuusvoittoja käytettäessä niitä. Mutta viime kädessä monet olivat turhautuneita siitä, kuinka kallista ja vaikeaa oli rakentaa ja ylläpitää tämän tyyppistä AI: tä, samoin kuin sen helpolla, jolla se voisi epäonnistua joissakin todellisissa maailman tilanteissa, joita ihmiset pystyivät helposti käsittelemään.
Tilanne ei ole niin erilainen tänään. LLM: n integrointi yritystyövirtoihin on vaikeaa ja mahdollisesti kallista. AI -malleissa ei ole käsikirjoja ja integroida ne yritysten työnkulkuihin tai muiden ympärillä olevien muiden rakentaminen vaatii paljon työtä. Jotkut yritykset ratkaisevat sen ja näkevät todellisen arvon. Mutta monet taistelevat.
Ja kuten asiantuntijajärjestelmät, nykypäivän mallit eivät usein ole luotettavia reaalimaailman tilanteissa, vaikkakin eri syistä. Asiantuntijajärjestelmät taipuivat epäonnistumaan, koska ne olivat liian joustamattomia käsittelemään maailman häiriöitä. Nykypäivän LLM: t ovat monin tavoin liian joustavia, keksimällä tietoa tai ottamalla odottamattomia pikakuvakkeita. (Operai -tutkijat ovat juuri julkaissut artikkelin siitä, kuinka he uskovat, että jotkut näistä ongelmista voidaan ratkaista: katso alla oleva AI -tutkimusosio).
Jotkut alkavat ehdottaa, että ratkaisu voi olla neurosimbolisissa järjestelmissä, hybrideissä, jotka yrittävät integroida hermoverkkojen, kuten LLM: n, parhaat ominaisuudet sääntöihin perustuvien symbolisten AI: n ominaisuuksiin, jotka ovat samanlaisia kuin kahdeksankymmenenluvun asiantuntijajärjestelmät. Se on vain yksi monista vaihtoehtoisista lähestymistavoista AI: lle, joka voi alkaa saada pitoa, jos LLM: n ympärillä oleva liioittelu hajoaa. Pitkällä tähtäimellä se voi olla hyvä asia. Mutta lyhyellä aikavälillä se voi olla kylmä ja kylmä talvi sijoittajille, perustajille ja tutkijoille.
Fortuna meillä on
Yritykset viettävät niin paljon AI: ssa, että he vähentävät osakkeita, sanoo Goldman Sachs, Jim EdwardsPwc: n Yhdistyneen kuningaskunnan päällikkö, hän myöntää, että hän vähentää sisäänkäynnin tason työtä ja ottaa “kellon ja odottavan lähestymistavan” nähdäkseen, kuinka AI toimii, ennakkoluulottomalla etusijalle etusijalle.
Koska AI vaikeuttaa työn saamista, Openai rakentaa alustan, joka auttaa sinua saamaan sellaisen, kirjoittanut Jessica Coacci
‘AI: n kummisetä’ sanoo, että tekniikka luo joukko työttömyyttä ja lähettää erittäin korkeat voitot – “se on kapitalistinen järjestelmä” – Jason Ma: n kanssa
Silmä AI Newseye AI: n tutkimuksessa
Operai -tutkijoiden mukaan he ovat löytäneet tavan vähentää hallusinaatioita. OpenAi -joukkue sanoo uskovansa, että syynä, miksi hallucinanin mallit ovat niin usein, on, että koulutusvaiheessa, jossa niitä tarkennetaan ihmisen palautteen avulla ja arvioidaan useissa vertailupisteissä, heitä rangaistaan vähentämällä epävarmuuden vuoksi kysymystä. Päinvastoin, malleja ei yleensä palkita epäilyjen ilmaisemisesta, epäilyttävien yksityiskohtien jättämisestä tai selvennysten pyytämisestä. Itse asiassa useimmat arviointimittarit tarkkailevat vain yleistä tarkkuutta, usein monivalintakokeissa, tai mikä pahempaa, se tarjoaa vastauksessa “peukalon” tai “peukalon” binaarin. Tämäntyyppiset mittarit, varoittavat Openai -tutkijoita, palkitsevat “paremman arvelun” vastaukset liian luottamuksellisiksi.
Tämän korjaamiseksi OpenAi -tutkijat ehdottavat kolme korjausta. Ensinnäkin he sanovat, että mallin on saatava vastauksensa nimenomaiset luotettavuudet ja heille sanotaan, että ne eivät vastaa, ellei kyseistä kynnysarvo ole ylitettä. Seuraavaksi he suosittelevat, että mallien vertailupisteet sisältävät luottamuksen tavoitteet ja että arvioinnit päättävät pisteet virheellisille vastauksille niiden pisteet, mikä tarkoittaa, että mallit rangaistaan arvaamalla. Lopuksi he viittaavat siihen, että malleja koulutetaan luomaan hyödyllisin vastaus, joka ylittää vähimmäiskynnyksen: estää malli oppimasta erehtymään vastaamalla useammassa olosuhteissa kuin se oikeuttaa.
Ei ole selvää, että nämä strategiat poistavat hallusinaatiot kokonaan. Malleilla ei vieläkään ole luontaista ymmärrystä totuuden ja fiktion välisestä erosta ilman, mitkä lähteet ovat luotettavampia kuin muut, ja ilman heidän tietämyksensä perustaa todellisen maailman kokemukseen. Mutta nämä tekniikat voivat suuresti edistää valmistajien ja epätarkkuuksien vähentämistä. Voit lukea Operai -sanomalehden täältä.
Sinulla on kalenteri
8.-10. Syyskuuta: Fortune Brainstorm Tech, Park City, Utah.
6.-10. Lokakuuta: Maailman AI-viikko, Amsterdam
21.-22. Lokakuuta: Tedai San Francisco.
2.-7. Joulukuuta: Neurips, San Diego
8.-9. Joulukuuta: Fortune Brainstorm ai San Francisco. Pyydä osallistumista tähän.
Aivoruoka
Miksi opetus ei ole sopeutunut? Jos yritykset yrittävät edelleen löytää murhaajan tapauksia generatiiviselle AI: lle, lapsilla ei ole tällaista ahdistusta. He tietävät murhaavan käytön tapauksen: petä heidän tehtävänsä. Se on masentavaa, mutta ei ole yllättävää lukea essee nykyisen lukion opiskelijan Ashanty Rosarion Atlantilla, joka kuvaa, kuinka hänen luokkatoverinsa käyttävät chatgPT: tä välttääkseen kovaa työtä kirjallisuuden analysoimiseksi tai hämmentämään matematiikkaongelmien ratkaisemista. Kuuntelet tarinoita, kuten tällä kertaa. Ja jos puhut jonkun kanssa opettamaan yliopisto -opiskelijoita tai erityisesti, on vaikea olla päätelmättä, että AI on koulutuksen kuolema.
Mutta mielestäni yllättävänä ja ehkä vieläkin masentavammana on siksi, että melkein kolme vuotta ChatgPT -debyytin jälkeen useammat kouluttajat eivät ole muuttaneet pohjimmiltaan opettamistaan ja arvioida opiskelijoita. Rosario naulaa hänet esseessään. Kuten hän sanoo, opettajat voisivat alkaa arvioida opiskelijoita paljon vaikeammalla tavalla pelata AI: n kanssa, kuten suullisten tenttien antaminen tai luottaa paljon enemmän väitteisiin, joita opiskelijat tekevät keskustelun aikana ja keskustelun aikana. He voisivat luottaa enemmän luokan tai “portfolio” -arviointien esityksiin kotona olevien tutkimusraporttien sijasta. “Opiskelijoita voidaan rohkaista pohtimaan omaa työtä, käyttämällä oppimista tai keskustelua koskevia lehtiä taistelujensa, lähestymistapojen ja kunkin tehtävän jälkeen opitun kokemuksen ilmaisemiseksi”, hän kirjoittaa. Kolme vuotta CHATGPT: n jälkeen opiskelijat ovat varmasti oppineet ja sopeutuneet tekniikkaan. Miksi opettajat eivät?
Tämä on online -versio AI: stä, Fortune’n viikoittainen uutiskirje siitä, kuinka AI muotoilee liiketoiminnan tulevaisuutta. Rekisteröidy ilmaiseksi.