Jev vs GPT-5.4 Nano voor labels: wat kost minder per miljoen?

Elke LLM-rij is invoertokens × invoertarief plus een label van 20 tokens × uitvoertarief, per miljoen items. Een miljoen labels van 20 tokens is 20 miljoen uitvoertokens. Dat kost $25 op nano ($1.25 × 20) en $10 op Haiku 5.5 of Luna ($0.50 × 20). Het antwoord van Jev kost niets.

Bij 300 tokens: Jev 300 × $0.042 = $12.60. Haiku 5.5 of Luna $30 + $10 = $40. Nano $60 + $25 = $85. Bij 500 tokens: Jev $21, Haiku of Luna $50 + $10 = $60, nano $100 + $25 = $125. Bij 2,000 tokens: Jev $84, Haiku of Luna $200 + $10 = $210, nano $400 + $25 = $425.

Batch halveert beide LLM-tarieven. Daardoor komt Haiku 5.5 of Luna op $20, $30 en $105 bij de drie groottes, en nano op $42.50, $62.50 en $212.50. Jev blijft bij elke grootte lager uit, omdat het invoertarief van $0.042 onder de $0.05 batch-invoer van de goedkoopste LLM ligt.

Op de rekenpagina van OpenTweet kostte GPT-5 nano ongeveer twee keer zoveel als Jev voor een kaal label. Met de lijstprijzen van 3 november en onze aanname van 500 tokens komt GPT-5.4 nano uit op bijna zes keer Jev ($125 ÷ $21 = 5.95). We hebben hun token- of prijsaannames niet afgestemd. De conclusie blijft hoe dan ook staan: op tokenprijs alleen is het beslismodel goedkoper.

Een reden die de gebruiker zal lezen. Jev retourneert een keuze en kansen, geen zin. Als een supportmedewerker "Facturering, omdat de klant een dubbele afschrijving noemt" nodig heeft, doet de LLM dat in één call.

Meerdere velden tegelijk. Een ordernummer, een datum en een productnaam uit een bericht halen is extractie, geen keuze. Een JSON-object van 150 tokens aan Haiku 5.5 vragen voor een item van 500 tokens kost $50 + $75 = $125 per miljoen items. Jev kan tegen geen enkele prijs vrije-tekstvelden retourneren.

Het zit al in je stack. Als het label meelift op een call die je al doet, zijn de marginale kosten de 20 extra uitvoertokens: $10 per miljoen items op Luna. Een aparte Jev-call van $21 kost meer dan dat.

Kai Waehner citeert een onafhankelijke intenttest met 77 categorieën met Jev op 79.0% en twee naamloze OpenAI-modellen op 83.9% en 86.2%, en noemt het verschil significant. Het artikel geeft de steekproefgrootte niet. Een keuze uit 77 opties is moeilijk voor elk klein model, dus dit is het geval waarin een LLM het meest waarschijnlijk wint.

Als je eigen test een verschil van 4.9 punten laat zien (79.0% tegen 83.9%), zijn dat 49,000 meer verkeerde labels per miljoen. Haiku 5.5 kost $39 meer dan Jev per miljoen items van 500 tokens ($60 − $21). $39 ÷ 49,000 is ongeveer $0.0008. Als het corrigeren van één verkeerd label je meer kost dan dat, verdient het duurdere model zichzelf terug. Voor nano is het cijfer $104 ÷ 49,000, ongeveer $0.002.

De goedkoopste opstelling is vaak een cascade. Jev labelt alles, en alles onder je waarschijnlijkheidsdrempel gaat naar Haiku 5.5. Als 15% van de items onder de drempel valt bij een grootte van 500 tokens, is de rekening per miljoen items $21 voor Jev plus $9 voor de LLM (15% van $60), of $30.

Dat kost $9 meer dan Jev alleen en $30 minder dan Haiku 5.5 alleen. De LLM ziet alleen de moeilijke gevallen. Stel de drempel in op basis van een gelabelde steekproef, niet op basis van het onderbuikgevoel van de eerste week.

Schaal de cijfers voor 500 tokens met tien voor 10 miljoen labels per maand. Jev kost $210 per maand, of $2,520 per jaar. Claude Haiku 5.5 of GPT-6 Luna kost $600 per maand, of $7,200 per jaar, en $300 per maand op batch. GPT-5.4 nano kost $1,250 per maand, of $15,000 per jaar, en $625 per maand op batch.

Dus overstappen van nano naar Jev bespaart $12,480 per jaar bij dat volume, en van Haiku 5.5 $4,680. Zet dat af tegen de kosten van de extra verkeerde labels uit de nauwkeurigheidssectie voordat je overstapt.

Met een LLM staat de labelset in de prompt en leest een parser het antwoord. Met Jev wordt de labelset de lijst met opties in een getypeerde vraag, en komt het antwoord binnen als een keuze met een waarschijnlijkheid per optie. De parser en zijn vertakking voor opnieuw proberen bij een slecht formaat verdwijnen.

Jev kan alleen kiezen uit de opties die je opgeeft. Als je LLM soms "geen van deze" antwoordt, voeg dat dan als optie toe, anders worden die gevallen in het dichtstbijzijnde label gedwongen. Draai daarna je gelabelde set opnieuw en lees de waarschijnlijkheid bij elk verkeerd antwoord. Dat vertelt je waar je de drempel moet instellen om een geval naar de LLM te sturen.