Multi-model AI-strategie: hoe meerdere modellen te gebruiken zonder te veel te betalen

Standaard één AI-aanbieder gebruiken betekent dat je hun slechtste prijs-prestatieverhouding accepteert voor elke taak — niet alleen de taken waarin ze uitblinken. GPT-5.5 ($5 / $30 per 1M) is uitzonderlijk in moeilijk redeneren. Het is ook onnodig duur voor classificatie, samenvatting en getemplateerde generatie waar een sub-$1 lichte laag equivalent is.

Een multi-model strategie wijst taken toe aan het meest kosteneffectieve capabele model. Het resultaat is typisch 50–80% lagere kosten versus een één-aanbieder aanpak bij dezelfde of betere algehele kwaliteit.

Laag 1 — Budgetwerker (verwerkt 60–80% van de verzoeken): DeepSeek V4.1 Flash, Google Gemini Flash Latest, OpenAI GPT Mini Latest. Gebruikt voor classificatie, extractie, opmaak, eenvoudige samenvatting en getemplatiseerde generatie. Kosten: $0.30–$0.75/1M invoertokens.

Laag 2 — Kwaliteit in het middensegment (verwerkt 15–30% van de verzoeken): Claude Haiku 5.5, Google Gemini Pro Latest. Gebruikt voor matige complexiteit waar budgetmodellen tekortschieten maar grensmodellen onnodig zijn. Kosten: $0.10/1M invoer op Claude Haiku 5.5 (prompts tot 100K tokens; $0.50 daarboven) tot $2.00 op Gemini Pro Latest. Haiku 5.5 is geprijsd als een laag 1-rij, dus test het ook op laag 1-werk.

Laag 3 — Grenskwaliteit (verwerkt 5–15% van de verzoeken): OpenAI GPT Latest, Anthropic Claude Sonnet Latest, Anthropic: Claude Opus Latest. Gereserveerd voor complexe redeneringen, synthese van lange documenten, genuanceerd schrijven en generatie met hoge inzet. Kosten: $2.00–$4.00/1M invoertokens op deze rijen; GPT-6 Astra en Claude Fable 5.1 zitten daarboven op $10.

De spreiding tussen laag 1 en laag 3 is ongeveer 3–13× op invoer over deze rijen ($0.30 tot $4), en ongeveer 33× wanneer de zware standaard een $10-rij is. Die verhouding, niet het leverancierslogo, is wat een routeringsbeleid u oplevert.

De lanceringen van september hebben alle drie de tiers door elkaar geschud. Prijzen zijn per 1M tokens op OpenRouter, gecontroleerd op 1 oktober 2026.

Wat er veranderde: de heavy tier splitste zich in tweeën. Opus 5.5 voor $4 / $20 is de goedkoopste van OpenRouter's top drie, terwijl Astra en Fable 5.1 twee en een half keer zoveel kosten. De light tier kreeg twee sub-$0.15 invoerrijen in GPT-6 Luna en Mercury 2.5. De prijzen van Gemini 3.8 Flash en Mercury 2.5 zijn promotioneel en kunnen eindigen, dus prijs een fallback alsof de korting is verdwenen voordat je een budget opbouwt.

Uitgewerkt voorbeeld. Aannames: 10M invoer- en 2M uitvoertokens per maand, verdeeld 70% light, 25% standard en 5% heavy, met GPT-6 Luna, GPT-6.1 Sol en Claude Opus 5.5 als de tier-standaarden, geen caching of batch.

• Light: 7M × $0.10 + 1.4M × $0.50 = $0.70 + $0.70 = $1.40
• Standard: 2.5M × $2 + 0.5M × $10 = $5.00 + $5.00 = $10.00
• Heavy: 0.5M × $4 + 0.1M × $20 = $2.00 + $2.00 = $4.00
• Totaal: $15.40 per maand

Alles op GPT-6.1 Sol zou zijn 10M × $2 + 2M × $10 = $40; alles op Opus 5.5, $80. Als Astra of Fable 5.1 de heavy standaard wordt in plaats van Opus 5.5, voegt dat 0.5M × $6 + 0.1M × $30 = $6.00 toe, waardoor het totaal op $21.40 komt. Elke tier waarvan het werk 24 uur kan wachten, kan via de Batch API tegen ongeveer de helft van deze tarieven.

Naast kostentiers hebben modellen echte specialisaties die het waard zijn om te benutten:

• Codegeneratie: Claude Sonnet 5 ($2 / $10), GPT-5.3-Codex ($1.75 / $14) en DeepSeek V4 Pro ($1.32 / $3.96 op piek, half buiten piek) zijn de sterke keuzes; Qwen3 Coder 480B ($0.30 / $1) en Devstral 2 ($0.40 / $2) zijn de budget codeerrijen.
• Analyse van lange context: de meeste vlaggenschepen vermelden nu 1M tokens (Gemini 3.1 Pro, Claude Sonnet 5, GPT-5.4); DeepSeek V4.1 Flash (1M) en Llama 4 Scout (1.3M) evenaren of overtreffen dat voor een fractie van de prijs. Kies op basis van ophaalkwaliteit, niet op venstergrootte.
• Multimodaal (visie): GPT-5.4 en Gemini 3.1 Pro ($2 / $12) zijn de sterkste op het gebied van beeldbegrip.
• EU-dataverblijf: Mistral Large 3 ($0.50 / $1.50) en Mistral Medium 3.1 ($0.40 / $2) op EU-gebaseerde infrastructuur zijn de standaard voor GDPR-gevoelige workflows.
• Onderzoek en synthese: Claude Sonnet 5's instructievolging en lage hallucinatiegraad maken het de beste standaard.
• Goedkoopste bruikbare tier: GLM 4.7 Flash ($0.06 / $0.40), Llama 4 Scout ($0.10 / $0.30) en DeepSeek V4.1 Flash ($0.30 / $1.20).

Routeren op specialisatie waar de kwaliteitswinst reëel is en het taakvolume een andere modelafhankelijkheid rechtvaardigt.

Drie praktische benaderingen:

1. Handmatig routeren op taaktype (eenvoudigst): een routeringslaag leest taakmetadata (type, lengte, complexiteitsvlag) en stuurt naar het juiste model. Geen ML nodig — een switch-statement.

2. LiteLLM of OpenRouter (aanbevolen voor de meeste teams): een uniforme API over honderden modellen met fallbacks, load balancing, per-sleutel budgetten en logging met minimale configuratie.

3. Beheerde routeringsdiensten (voor hoog volume): Martian en vergelijkbare diensten gebruiken ML-gebaseerde routering om kosten-kwaliteit afwegingen te optimaliseren zonder handmatige regels.

Welke je ook kiest, schakel prompt caching per provider in (gecachte invoer is ongeveer 10% van de lijstprijs bij OpenAI en Anthropic, 25% bij Gemini), stuur niet-spoedeisend werk naar batch endpoints (50% van de lijstprijs bij Anthropic en Google), en geef agent runs een stap- en dollarlimiet zodat een lus zichzelf niet over lagen kan laten escaleren.

September voegde een ander soort model toe aan een multi-model stack: beslissingsmodellen die geen tekst schrijven. Ze beantwoorden getypeerde vragen over een bericht, document of hangende tool call (ja/nee, kies een optie, of een score) en staan voor de lagen (welke laag moet dit afhandelen?) of erachter (is de goedkope draft geslaagd?). TypeSafe's Jev lanceerde op OpenRouter op 15 september; Convai Innovations bracht de open-source Laya-familie drie dagen later uit.

Break-even bij zelfhosting, met gestelde aannames. Eén altijd-aan T4 tegen ongeveer $0.35 per uur (cijfer van derden) is ongeveer $252 per maand voor 720 uur. Eén Jev-beslissing met 500 tokens toestand kost ongeveer $0.00002216 inclusief de 5.5% creditkosten, dus de T4 breekt break-even bij ongeveer 11.4M beslissingen per maand; met 2,000 tokens toestand, ongeveer 2.8M. Capaciteit is niet de limiet: bij 32.8 ms per beslissing verwerkt één T4 ongeveer 30 beslissingen per seconde, ruwweg 79M per maand bij volledige benutting. Engineeringtijd: de base checkpoints zitten onder de majority baseline, dus plan om te fine-tunen, en 40 uur tegen $100 per uur ($4,000) zou ongeveer 180M Jev-beslissingen kopen bij 500 tokens.

Standaard: begin met Jev op OpenRouter. Overweeg Laya wanneer u meer dan ongeveer 10M korte beslissingen per maand draait, vragen stelt met weinig opties, sub-50 ms of on-device latentie nodig heeft, en gelabelde data heeft om op te fine-tunen. Onze Jev vs Laya-vergelijking behandelt beide in meer detail.

Multi-model strategieën hebben echte kosten:

• Elke extra provider voegt API-contractcomplexiteit, vendor management overhead en monitoroppervlak toe
• Kwaliteitsconsistentie wordt moeilijker te garanderen over modellen met verschillende faalwijzen
• Teams besteden engineeringtijd aan het onderhouden van routeringsregels in plaats van het bouwen van productfuncties

Praktische waarborgen: beperk uw stack tot maximaal 3 providers. Voeg een vierde alleen toe als de besparingen de complexiteit duidelijk rechtvaardigen. Behandel elke providerrelatie als een echte leveranciersrelatie, niet alleen een API-sleutel.