- Jev AI është një model i System One i specializuar në kthimin e vendimeve dhe probabiliteteve të strukturuara në vend të tekstit gjenerues.
- Ai ndryshon nga LLM-të tradicionale për shkak të shpejtësisë së tij ekstreme, kostos së reduktuar dhe eliminimit total të gabimeve të tipit në rezultatet e tij.
- Funksionon duke përdorur tre primitiva kryesore (Zgjedhje, Pikë dhe Noul) për të klasifikuar, pikëzuar dhe validuar të dhënat paralelisht.
Me shumë mundësi jeni mësuar ta mendoni inteligjencën artificiale si atë chatbot me të cilin flisni, ju kërkoni t'ju shkruajë një email ose zgjidhni një problem kodimi. Epo, TypeSafe AI ka vendosur të thyejë modelin me lançimin e Jev , një mjet që anashkalon plotësisht bisedat për t'u përqendruar në atë që ka vërtet rëndësi në softuer: marrjen e vendimeve të shpejta . Ky nuk është thjesht një chatbot tjetër; është një model i projektuar për të vepruar si një ingranazh në një sistem të automatizuar, duke kthyer të dhëna që një program mund t'i kuptojë menjëherë pa pasur nevojë të interpretojë paragrafë të tërë.
Propozimi është thjesht shkatërrues sepse bazohet në idenë se ne kemi përdorur "topa për të vrarë mizat". Për detyra të tilla si klasifikimi i një tikete mbështetjeje ose zbulimi nëse një klient është i zemëruar, një model arsyetimi i ngadaltë dhe i kushtueshëm nuk është i nevojshëm; mjafton një gjykim i shpejtë dhe intuitiv. Kjo është arsyeja pse Jev paraqitet si modeli i parë i Sistemit Një , duke aluduar në psikologjinë e të menduarit të shpejtë të Daniel Kahneman, duke u lejuar kompanive të përpunojnë miliona gjykime semantike me një kosto qesharake të ulët dhe në një pjesë të kohës që do të duhej një LLM konvencional.
Kush qëndron pas kësaj teknologjie?
Truri ideator pas këtij projekti është Diogo Almeida , një figurë e shquar në industri, pasi ka qenë pjesë e ekipit OpenAI ku ndihmoi në vënien në jetë të InstructGPT dhe ChatGPT. Së bashku me Erik Gafni dhe Sasha Sheng, ai themeloi TypeSafe AI në San Francisko në vitin 2024. Kompania nuk ka kaluar pa u vënë re nga investitorët, duke mbyllur disa raunde të konsiderueshme financimi, duke përfshirë një raund fillestar prej 40 milionë dollarësh të udhëhequr nga DCVC dhe, më pas, një raund të Serisë A prej 870 milionë dollarësh të mbështetur nga gjigantë si Andreessen Horowitz dhe Sequoia Capital.
Emri "Jev" nuk është rastësi; ai i bën homazh William Stanley Jevons dhe paradoksit të tij ekonomik. Teza e TypeSafe është se duke ulur në mënyrë drastike koston e vendimmarrjes inteligjente, kërkesa për këto implementime do të shpërthejë, duke i lejuar IA-së të depërtojë në fusha të softuerit ku më parë ishte tepër e kushtueshme ose e ngadaltë për t'u zbatuar.
Arkitektura e "Mos bisedo, vendos"
Dallimi themelor midis Jev dhe modeleve si GPT ose Claude është se Jev nuk gjeneron tokena teksti njëri pas tjetrit. Ndërsa një LLM tradicionale është autoregresive, Jev përdor mostrën paralele . Kjo do të thotë që ju mund t'i bëni dhjetë pyetje të ndryshme rreth të njëjtit tekst, dhe ai do t'u përgjigjet të gjithave në një kalim të vetëm, duke e bërë kohën e përgjigjes praktikisht të njëjtë pavarësisht nga numri i pyetjeve.
Për t'u siguruar që probabilitetet e tyre janë të ndershme dhe jo thjesht të dizajnuara për të kënaqur përdoruesin, ata zhvilluan një metodë të quajtur Mësim Përforcimi për Vendime të Kalibruara (RLCD) . Qëllimi këtu nuk është që përgjigjja të "tingëllojë mirë", por që probabiliteti i caktuar një përgjigjeje të pasqyrojë saktësinë aktuale të modelit. Pra, nëse Jev thotë se është 90% i sigurt, kjo ndodh sepse statistikisht ai është i saktë 90% të kohës - diçka thelbësore për të vendosur nëse një veprim duhet të ekzekutohet në mënyrë autonome apo kërkon mbikëqyrje njerëzore.
Mjetet e vendimmarrjes: primitivët
I gjithë bashkëveprimi me Jev-in reduktohet në tre lloje pyetjesh të mbyllura, të cilat e pengojnë modelin të shpikë gjëra:
- Zgjedhja: Modeli zgjedh një opsion nga një listë e paracaktuar (deri në 255 opsione). Ai kthen opsionin fitues, hartën e probabilitetit të të gjitha opsioneve dhe një nivel besimi.
- Rezultati: Vlerëson gjendjen sipas një shkalle të renditur (nga 2 në 10 nivele). Gjëja interesante është se kthen një vlerë numerike që mund të bjerë midis niveleve (për shembull, 1.4), duke ofruar një nuancë shumë më e hollë sesa një numër i plotë i thjeshtë.
- Noul: Është versioni Boolean (po ose jo). Ai kthen një probabilitet midis 0 dhe 1, ku ekstremet janë siguritë dhe 0.5 tregon që modeli nuk është i sigurt.
Për më tepër, në versionet më të fundit si 1.14, primitivi i Kutisë është prezantuar eksperimentalisht , i cili lejon gjetjen e elementëve brenda një imazhi, megjithëse ky funksion nuk rekomandohet ende për mjedise kritike prodhimi.
Performanca, kostot dhe realiteti i numrave
Në letër, shifrat janë mbresëlënëse. TypeSafe raporton vonesa që variojnë nga 70 deri në 500 milisekonda dhe një kosto hyrjeje prej 0,042 dollarësh për milion token, me përfitimin shtesë të daljes falas . Ata pretendojnë se mund të jetë qindra herë më i shpejtë dhe më i lirë se modelet Frontier. Megjithatë, shkronjat e imëta duhet të shqyrtohen: këto teste u kryen në mjediset e tyre dhe nga Bregu Perëndimor i SHBA-së.
Për ata prej nesh që operojnë nga Spanja, vonesa e rrjetit shton një pengesë të konsiderueshme. Një kërkesë mund të zgjasë disa të dhjetat e sekondës vetëm për të udhëtuar në serverat në Oregon. Megjithatë, për shumicën e automatizimeve të WhatsApp ose email-it, kjo kohë është e papërfillshme krahasuar me sekondat që i duhen një LLM për të gjeneruar një përgjigje të formuluar. Sa i përket çmimit, për një biznes të vogël me vëllim të ulët, ndryshimi në kosto është minimal, por për ata që përpunojnë miliona ndërveprime , kursimet janë masive.
Ku shkëlqen Jev dhe ku dështon?
Ky model është mbreti i padiskutueshëm i detyrave të triazhit dhe rrugëzimit . Klasifikimi i tiketave të mbështetjes, moderimi i përmbajtjes, zbulimi i mashtrimit dhe vlerësimi i frustrimit të klientëve janë specialitetet e tij. Është gjithashtu ideal si një shtresë sigurie (mbrojtëse) për të siguruar që modelet e tjera të IA-së të mos thonë gjëra të papërshtatshme përpara se mesazhi të arrijë te përdoruesi përfundimtar.
Anasjelltas, përpjekja për të përdorur Jev për të shkruar një poezi, për të gjeneruar kod ose për të shpjeguar arsyetimin është një gabim, pasi nuk mund të gjenerojë tekst të lirë . Gjithashtu ka dobësi të qarta: nuk është i mirë me matematikën, ngatërrohet nga datat dhe mund të humbasë saktësinë nëse teksti i futur përmban shumë zhurmë ose përmbajtje të parëndësishme. Rregulli i artë është: lërini llogaritjet dhe datat në dorë të kodit dhe përdorni Jev vetëm për gjykim semantik.
Integrimi teknik dhe ekosistemi
Për të filluar, TypeSafe ofron një Playground në konsolën e saj të internetit për testimin e kërkesave pa kodim. Për zhvilluesit, ekzistojnë SDK zyrtare në Python dhe JavaScript, dhe integrohet lehtësisht nëpërmjet AI Gateway ose OpenRouter të Vercel . Nuk është softuer që shkarkohet për t'u ekzekutuar lokalisht; funksionon vetëm nëpërmjet API-ve.
Lidhur me privatësinë, të dhënat përpunohen në Shtetet e Bashkuara. Edhe pse kompania pretendon se nuk i trajnon modelet e saj me informacionin e klientit, është thelbësore të filtrohen të dhënat personale të ndjeshme përpara se t'i dërgohen, veçanërisht në sektorët e rregulluar si kujdesi shëndetësor, për të qenë në përputhje me rregulloret e GDPR-së.
Jev përfaqëson një ndryshim paradigme ku IA pushon së qeni thjesht një bashkëbisedues dhe bëhet një motor për vendime të strukturuara . Duke eliminuar problemet e formatimit dhe duke ulur kostot në nivele pothuajse të papërfillshme, ajo mundëson ndërtimin e rrjedhave të punës ku makina vendos rrugën dhe njerëzit ndërhyjnë vetëm kur besimi i modelit bie nën një prag kritik, duke optimizuar kështu funksionimin e çdo sistemi modern automatizimi.