- Jev AI on System One -malli, joka on erikoistunut palauttamaan strukturoituja päätöksiä ja todennäköisyyksiä generatiivisen tekstin sijaan.
- Se eroaa perinteisistä oikeustieteen maistereista (LLM) äärimmäisen nopeuden, alhaisten kustannusten ja tyyppivirheiden täydellisen poistamisen ansiosta tulosteissaan.
- Se toimii käyttämällä kolmea pääprimitiiviä (Choice, Score ja Noul) datan luokittelemiseen, pisteyttämiseen ja validointiin rinnakkain.
Olet luultavasti tottunut ajattelemaan tekoälyä chatbottina, jonka kanssa puhut, pyydät kirjoittamaan sinulle sähköpostia tai ratkaisemaan koodausongelman. No, TypeSafe AI on päättänyt rikkoa muotin julkaisemalla Jevin , työkalun, joka ohittaa keskustelut kokonaan ja keskittyy siihen, millä on todella merkitystä ohjelmistoissa: nopeiden päätösten tekemiseen . Tämä ei ole vain chatbotti lisää; se on malli, joka on suunniteltu toimimaan ratas automatisoidussa järjestelmässä ja palauttamaan tietoja, jotka ohjelma voi ymmärtää välittömästi ilman, että sen tarvitsee tulkita kokonaisia kappaleita.
Ehdotus on mullistava yksinkertaisesti siksi, että se perustuu ajatukseen, että olemme käyttäneet "tykkejä kärpästen tappamiseen". Tehtäviin, kuten tukipyynnön luokitteluun tai asiakkaan vihaisuuden havaitsemiseen, hidas ja kallis päättelymalli ei ole välttämätön; nopea, intuitiivinen arviointi riittää. Siksi Jev esitetään ensimmäisenä System One -mallina , viitaten Daniel Kahnemanin nopean ajattelun psykologiaan, jonka avulla yritykset voivat käsitellä miljoonia semanttisia arviointeja naurettavan alhaisilla kustannuksilla ja murto-osassa ajasta, joka kuluisi perinteiseltä oikeustieteen maisterilta.
Kuka on tämän teknologian takana?
Tämän projektin takana on Diogo Almeida , alan merkittävä hahmo, joka on ollut osa OpenAI-tiimiä, jossa hän auttoi käynnistämään InstructGPT:n ja ChatGPT:n. Yhdessä Erik Gafnin ja Sasha Shengin kanssa hän perusti TypeSafe AI:n San Franciscossa vuonna 2024. Yritys ei ole jäänyt sijoittajilta huomaamatta, sillä se on saanut päätökseen useita merkittäviä rahoituskierroksia, mukaan lukien DCVC:n johtaman 40 miljoonan dollarin siemenrahoituksen ja sitä seuranneen 870 miljoonan dollarin A-sarjan rahoituskierroksen , jota tukivat jättiläiset, kuten Andreessen Horowitz ja Sequoia Capital.
Nimi "Jev" ei ole sattumaa; se on kunnianosoitus William Stanley Jevonsille ja hänen taloudelliselle paradoksilleen. TypeSafen teesi on, että älykkään päätöksenteon kustannusten raju vähentäminen räjähdysmäisesti kasvattaa näiden toteutusten kysyntää, jolloin tekoäly voi tunkeutua ohjelmistoalueille, joilla se oli aiemmin kohtuuttoman kallista tai hidasta toteuttaa.
"Älä keskustele, päätä" -periaatteen arkkitehtuuri
Jevin ja GPT:n tai Clauden kaltaisten mallien perustavanlaatuinen ero on se, että Jev ei luo tekstitokeneita peräkkäin. Vaikka perinteinen LLM on autoregressiivinen, Jev käyttää rinnakkaista otantaa . Tämä tarkoittaa, että voit kysyä siltä kymmenen eri kysymystä samasta tekstistä, ja se vastaa niihin kaikkiin yhdellä kertaa, jolloin vastausaika on käytännössä sama kysymysten määrästä riippumatta.
Varmistaakseen, että heidän todennäköisyytensä ovat rehellisiä eivätkä vain käyttäjän miellyttämiseksi suunniteltuja, he kehittivät menetelmän nimeltä Reinforcement Learning for Calibrated Decisions (RLCD) . Tavoitteena ei ole, että vastaus "kuulostaisi hyvältä", vaan pikemminkin, että vastaukselle annettu todennäköisyys heijastaa mallin todellista tarkkuutta. Joten jos Jev sanoo olevansa 90-prosenttisen varma, se johtuu siitä, että tilastollisesti hän on oikeassa 90-prosenttisesti – mikä on elintärkeää sen päättämiseksi, pitäisikö toiminto suorittaa itsenäisesti vai vaatiiko se ihmisen valvontaa.
Päätöksentekotyökalut: alkukantaiset
Kaikki vuorovaikutus Jevin kanssa tiivistyy kolmenlaisiin suljettuihin kysymyksiin, jotka estävät mallia keksimästä asioita:
- Valinta: Malli valitsee vaihtoehdon ennalta määritetystä luettelosta (enintään 255 vaihtoehtoa). Se palauttaa voittavan vaihtoehdon, kaikkien vaihtoehtojen todennäköisyyskartan ja luottamustason.
- Pisteet: Se arvioi tilan järjestetyn asteikon mukaan (2–10 tasoa). Mielenkiintoista on, että se palauttaa numeerisen arvon, joka voi osua tasojen välille (esimerkiksi 1.4), tarjoten paljon hienompi vivahde kuin yksinkertainen kokonaisluku.
- Noul: Se on Boolen versio (kyllä tai ei). Se palauttaa todennäköisyyden välillä 0 ja 1, jossa ääriarvot ovat varmoja ja 0.5 osoittaa, että malli ei ole varma.
Lisäksi uudemmissa versioissa, kuten 1.14, on kokeellisesti otettu käyttöön Box -alkuperäisfunktio , jonka avulla voidaan paikantaa elementtejä kuvasta, vaikka tätä funktiota ei vielä suositella kriittisiin tuotantoympäristöihin.
Suorituskyky, kustannukset ja numeroiden todellisuus
Paperilla luvut ovat vaikuttavia. TypeSafe raportoi latensseiksi 70–500 millisekuntia ja sisäänpääsykustannuksiksi 0,042 dollaria miljoonaa tokenia kohden, ja lisäetuna on ilmainen poistuminen . He väittävät, että se voi olla satoja kertoja nopeampi ja halvempi kuin rajaseudun mallit. Pienellä präntätty sisältö on kuitenkin syytä tarkastella: nämä testit tehtiin heidän omissa ympäristöissään ja Yhdysvaltojen länsirannikolla.
Espanjasta käsin toimiville verkon viive lisää merkittävästi haittaa. Pyynnön matka Oregonin palvelimille voi kestää muutaman kymmenesosan sekunnista kauemmin. Silti useimmissa WhatsApp- tai sähköpostiautomaatioissa tämä aika on mitätön verrattuna sekunteihin, jotka LLM:ltä kuluu sanallisen vastauksen luomiseen. Hintaero on pienille yrityksille, joilla on vähän volyymeja, mutta miljoonia vuorovaikutuksia käsitteleville säästöt ovat valtavat.
Missä Jev loistaa ja missä jää jälkeen?
Tämä malli on kiistaton triage- ja reititystehtävien kuningas . Tukipyyntöjen luokittelu, sisällön moderointi, petosten havaitseminen ja asiakkaiden turhautumisen pisteyttäminen ovat sen erikoisaloja. Se sopii myös erinomaisesti turvakerrokseksi (kaiteeksi) varmistamaan, etteivät muut tekoälymallit sano sopimattomia asioita ennen kuin viesti saavuttaa loppukäyttäjän.
Käänteisesti Jevin käyttäminen runon kirjoittamiseen, koodin luomiseen tai päättelyn selittämiseen on virhe, koska se ei pysty luomaan vapaata tekstiä . Sillä on myös selkeitä heikkouksia: se ei ole hyvä matematiikan kanssa, se hämmentyy päivämääristä ja se voi menettää tarkkuuttaan, jos syöteteksti sisältää liikaa kohinaa tai epäolennaista sisältöä. Kultainen sääntö on: jätä laskelmat ja päivämäärät koodille ja käytä Jeviä vain semanttiseen arviointiin.
Tekninen integraatio ja ekosysteemi
Aloittaakseen TypeSafe tarjoaa verkkokonsolissaan leikkikentän , jossa voi testata kehotteita ilman koodausta. Kehittäjille on olemassa virallisia Python- ja JavaScript-SDK:eja, ja se integroituu helposti Vercelin AI Gatewayn tai OpenRouterin kautta. Se ei ole ohjelmisto, jonka lataat suoritettavaksi paikallisesti; se toimii yksinomaan API-rajapintojen kautta.
Tietosuojan osalta tietoja käsitellään Yhdysvalloissa. Vaikka yritys väittää, ettei se kouluta mallejaan asiakastiedoilla, on tärkeää suodattaa arkaluonteiset henkilötiedot ennen niiden lähettämistä, erityisesti säännellyillä aloilla, kuten terveydenhuollossa, GDPR-säännösten noudattamiseksi.
Jev edustaa paradigman muutosta, jossa tekoäly lakkaa olemasta pelkkä keskustelukumppani ja siitä tulee strukturoitujen päätösten moottori . Poistamalla muotoiluongelmat ja alentamalla kustannukset lähes olemattomiin tasoihin se mahdollistaa sellaisten työnkulkujen rakentamisen, joissa kone päättää reitin ja ihmiset puuttuvat asiaan vasta, kun mallin luotettavuus laskee kriittisen kynnyksen alapuolelle, mikä optimoi minkä tahansa modernin automaatiojärjestelmän toimivuuden.