De reële kosten van het bouwen van een AI-systeem: LLM's, infrastructuur en verborgen uitgaven

"We voegen gewoon AI toe" klinkt eenvoudig. Dat is het zelden. Deze gids zet de belangrijkste kostencategorieën uiteen aan de hand van illustratieve planningsscenario’s; de werkelijke prijs hangt af van de aanbieder, het gebruik, de architectuur en de omvang van de opdracht.

De drie kostencategorieën Iedereen onderschat

De meeste bedrijven budget voor de voor de hand liggende kosten. LLM API's en misschien wat cloud infrastructuur. Dan krijgen ze getroffen met drie kostencategorieën die ze niet zagen aankomen:

• 1. Gegevensinfrastructuur (vaak 40-50% van de totale kosten)
• 2. LLM-kosten (de zichtbare kosten die iedereen van plan is)
• 3. Verborgen operationele kosten (kan de LLM-kosten evenaren of overschrijden)

We zetten ze uiteen met praktische planningsvoorbeelden.

Deel 1: LLM-kosten (zichtbare kosten)

LLM-prijzen: plan in niveaus, niet met prijslijsten

Modelprijzen veranderen om de paar maanden en zijn meestal gedaald, dus elke prijslijst veroudert snel. Plan met drie niveaus en controleer de actuele prijspagina van de aanbieder voordat u een budget vastlegt.

• Frontiermodellen: De grootste modellen van OpenAI, Anthropic en Google. De hoogste prijs per token, de moeite waard voor complex redeneren, schrijfwerk en lastige randgevallen.
• Middelgrote modellen: Meestal een fractie van de prijs van frontiermodellen, en goed genoeg voor het meeste extractie-, classificatie- en klantenservicewerk.
• Kleine en open modellen: Het goedkoopst per aanvraag, en sommige kunnen op uw eigen infrastructuur draaien. Geschikt voor grote volumes en duidelijk afgebakende taken.

In de praktijk hangen de kosten per interactie minder af van de prijslijst dan van hoeveel tekst u meestuurt: lange documenten, chatgeschiedenis en opgehaalde context vermenigvuldigen het aantal tokens. De scenario’s hieronder laten het effect zien.

Real-World LLM Kostenvoorbeelden

De verborgen LLM-kostenfactor: retrieval

Dit is wat iedereen verrast: de meeste productie-AI systemen gebruiken RAG (Retrieval Augmented Generation). Dit betekent dat je niet alleen een prompt stuurt

1. 1. Inbedding van de gebruikersopdracht: Kleine kosten (~€0,0001 per query)
2. 2. De relevante context ophalen: Vaak 10-50k tokens van opgehaalde gegevens
3. 3. Al die context naar de LLM sturen: Hier ontploffen de kosten

Realiteitscontrole: RAG-systemen gebruiken meestal 3-5x meer tokens dan eenvoudige Q&A-systemen. Budget dienovereenkomstig.

Deel 2: Infrastructuurkosten (de Stichting)

Vectordatabase (Essentieel voor RAG)

Toepassingsinfrastructuur

Gegevensopslag en -verwerking

Dit is de kostencategorie die iedereen vergeet:

• Documentopslag (S3/GCS): €50-€500/maand afhankelijk van volume
• Verwerking van gegevenspijpleidingen: €200-€1000/maand
• Inbeddingsgeneratie: €100-€500/maand (voor initiële corpus + updates)
• Reservekopie en herstel van rampen: €100-€300/maand

Deel 3: Verborgen operationele kosten (De moordenaars)

1. Prompt Engineering & Optimalisatie

Om AI-systemen betrouwbaar te laten werken, is constante iteratie nodig:

• Eerste ontwikkeling: 40-80 uur (€ 4000-€ 16.000 bij € 100-€ 200/uur)
• Continue optimalisatie: 10-20 uur/maand (€1000-€4000/maand)
• Testen van verschillende modellen: €500-€2000/maand in API kosten

2. Kwaliteitsborging en monitoring

3. Onderhoud van de gegevenspijpleiding

Uw AI is slechts zo goed als uw gegevens. Het bewaren van gegevens vers en relevant vereist:

• Gegevensreiniging en voorverwerking: 20-40 uur/maand
• Geactualiseerde documenten opnieuw invoegen: €100-€500/maand in API kosten
• Controle van de pijpleiding en correcties: 10-15 uur/maand
• Maandelijkse kosten: €3,000-€10.000 in engineering tijd

4. Beveiliging en naleving

• Veiligheidsaudits: €5,000-€20.000 per jaar
• Compliancedocumentatie: €10.000-€50,000 voor de eerste setup
• Controles op gegevensbescherming: Lopende engineeringtijd (10-20 uur/maand)

Totale kosten van eigendom: Echte voorbeelden

Voorbeeld 1: AI voor klantenservice (klein)

Voorbeeld 2: Document Intelligence Platform (Medium)

Voorbeeld 3: Enterprise AI Platform (Groot)

Kostenoptimalisatie Strategieën die eigenlijk werken

1. Intelligente Model Routing

Gebruik frontiermodellen alleen waar nodig en stuur eenvoudige vragen naar goedkopere modellen:

• Eenvoudige vragen: een klein, snel model, vaak 10x goedkoper of meer
• Complex redeneren: een frontiermodel
• Potentiële besparingen: 40-60% op LLM-kosten

2. Agressieve Caching

Cache LLM antwoorden voor identieke of soortgelijke vragen:

• Semantische caching: Komt overeen met soortgelijke queries, niet alleen exacte overeenkomsten
• TTL-gebaseerde ongeldigheid: Verse gegevens indien nodig, anders gecached
• Potentiële besparingen: 30-50% over LLM-kosten voor gevallen van herhaald gebruik

3. Optimaliseer Context Venstergebruik

• Alleen de meest relevante brokken ophalen (niet alles)
• Context comprimeren met behulp van samenvattingen
• Kleinere contextvensters gebruiken indien mogelijk
• Potentiële besparingen: 20-40% op LLM-kosten

4. Zelf hosten waar dat zinvol is

Voor zeer hoge volumes (1M+ aanvragen/maand) kunnen zelfgehoste opensourcemodellen goedkoper zijn:

• Open-weight-modellen zoals Llama, Mistral of Qwen op eigen GPU-instances
• Break-even meestal op €5k-€10k/maand in API kosten
• Vereist ML engineering expertise

De onderste lijn: Budget Reality Check

Vertaling: Als je €2.000/maand uitgeeft aan LLM API's, dan is jouw echte TCO waarschijnlijk €8.000-€14.000/maand zodra je alles meerekent.

Dit is niet bedoeld om je weg te jagen van AI de ROI is er nog steeds wanneer gedaan goed. Maar ga in met realistische verwachtingen over de werkelijke kosten van het bouwen van productie AI systemen.