AI-kosten in de hand houden zonder erop te gokken

Bij AI betaal je per gebruik. Dat is prettig aan het begin, want je begint met bijna niets, en het is verraderlijk zodra iets in productie draait. De rekening groeit namelijk niet met het aantal gebruikers, maar met het aantal woorden dat erdoorheen gaat.

Waar de kosten echt zitten

Niet in het antwoord, maar in de vraag. Een model rekent voor alles wat je meestuurt, en dat is vaak veel meer dan mensen denken. Stuur je bij elke vraag een handleiding van dertig pagina's mee als context, dan betaal je die dertig pagina's elke keer opnieuw.

Drie situaties waarin het hard oploopt:

• Volledige documenten meesturen terwijl je maar een fragment nodig hebt.
• Een lus over veel items waarbij elk item apart langs het model gaat. Duizend regels betekent duizend aanroepen.
• Een gesprek dat blijft groeien. Bij elke beurt gaat de hele geschiedenis mee, dus beurt twintig kost een veelvoud van beurt één.

Drie remmen die je vooraf inbouwt

Een harde limiet bij de leverancier. Vrijwel elke aanbieder heeft een maandplafond of een waarschuwing die je kunt instellen. Doe dat op dag één, niet nadat het is misgegaan. Kies een bedrag waarvan je schrikt maar niet omvalt.

Een grens in de workflow zelf. Loop je over een lijst, zet er dan een maximum op. Verwerkt hij normaal veertig items en staan er ineens vierduizend, dan is er iets aan de hand en wil je een melding, geen rekening.

Het kleinste model dat volstaat. Voor sorteren, labelen en korte samenvattingen is een licht model vaak ruim voldoende en een fractie van de prijs. Bewaar het zware model voor werk waar de kwaliteit echt telt. Test dat met je eigen voorbeelden in plaats van het aan te nemen.

Meten op werkniveau

Een totaalbedrag per maand zegt weinig. Wat je wilt weten is wat een verwerking kost: per factuur, per mail, per klantvraag. Leg per uitvoering vast hoeveel er verbruikt is en bij welke workflow het hoorde.

Dan wordt de vraag beantwoordbaar die er echt toe doet: is dit het waard? Twee cent per verwerkte factuur is een makkelijke ja. Vier euro per mailtje is dat niet.

De verrassing die niemand ziet aankomen

Een test die blijft draaien. Iemand bouwt iets, zet een trigger op elke vijf minuten om snel te kunnen proberen, en vergeet die weer terug te zetten. Dat is de meest voorkomende oorzaak van een onverwachte rekening, en hij is te voorkomen met één ding: kijk elke maand even welke workflows het vaakst gedraaid hebben.