Om de kosten van een gedeeld generatief AI-platform over meerdere producten te verdelen, wijs je de kosten toe op basis van meetbare verbruikssignalen, zoals tokengebruik, het aantal API-aanroepen of rekenuren, per product of team. Deze aanpak zorgt ervoor dat elke producteigenaar een eerlijk en traceerbaar aandeel in de totale kosten krijgt, in plaats van de rekening willekeurig te verdelen. In de onderstaande paragrafen wordt uitgelegd waarom dit moeilijker is dan het klinkt, welke gegevens je nodig hebt en hoe je dit in de loop van de tijd kunt beheren.
Welke methoden zijn er om de kosten van gedeelde AI-modellen over producten te verdelen?
De meest betrouwbare methoden voor het toewijzen van de kosten van gedeelde AI-modellen zijn toewijzing op basis van gebruik, gedifferentieerde kostenpools en proportionele toewijzing op basis van bedrijfswaarde. Toewijzing op basis van gebruik, waarbij elk product wordt gefactureerd op basis van het daadwerkelijke tokenverbruik, het aantal API-aanroepen of het aantal inferentieverzoeken, is het meest verdedigbare uitgangspunt, omdat de kosten hiermee rechtstreeks aan de vraag worden gekoppeld.
In de praktijk maken organisaties gebruik van een combinatie van benaderingen, afhankelijk van hoe ver hun AI-kostenregistratie al is ontwikkeld:
- Meting op basis van tokens: Bij elke API-aanroep naar een gedeeld model wordt het aantal verbruikte invoer- en uitvoertokens geregistreerd. Elk product houdt zijn eigen tokenstand bij, en de kosten voor het gedeelde platform worden aan het einde van de factureringsperiode evenredig verdeeld.
- Showback- en chargeback-modellen: Showback rapporteert de kosten aan elk productteam zonder geld over te maken, wat in een vroeg stadium nuttig is om bewustwording te creëren. Chargeback gaat een stap verder door interne teams daadwerkelijk hun aandeel in rekening te brengen, wat zorgt voor een grotere verantwoordingsplicht.
- Gelaagde kostenpools: Sommige kosten, zoals gereserveerde capaciteit, basisinfrastructuur of het verfijnen van modellen, kunnen niet aan individuele verzoeken worden gekoppeld. Deze worden gebundeld en over de producten verdeeld aan de hand van een overeengekomen toewijzingssleutel, zoals het aantal medewerkers, de omzetbijdrage of het gemiddelde gebruik over een voortschrijdende periode.
- Activiteitsgebaseerde kostenberekening: Bij meer geavanceerde organisaties worden de kosten toegeschreven aan specifieke workflows of gebruikerstrajecten in plaats van alleen aan teams, waardoor productmanagers inzicht krijgen in de werkelijke kosten van individuele, door AI aangestuurde functies.
Geen enkele methode werkt op zichzelf. De meeste organisaties combineren directe toerekening van variabele kosten met een gezamenlijke overheadpool voor vaste platformkosten, op basis van een overeengekomen formule waarmee alle belanghebbenden hebben ingestemd.
Waarom is de kostenverdeling bij generatieve AI moeilijker dan bij traditionele gedeelde IT-diensten?
De toewijzing van kosten voor generatieve AI is lastiger dan bij traditionele gedeelde IT-diensten, omdat het verbruik sterk varieert, onvoorspelbaar is en wordt bepaald door het gedrag van gebruikers in plaats van door vaste capaciteit. Een gedeelde database of netwerkverbinding kent relatief stabiele gebruikspatronen. Bij een gedeeld groot taalmodel (LLM) kunnen de kosten dramatisch stijgen op basis van de lengte van de prompt, de complexiteit van de output of het aantal gelijktijdige gebruikers, vaak binnen enkele minuten.
Verschillende factoren maken deze moeilijkheid nog groter:
- Niet-deterministische uitkomsten: In tegenstelling tot een rekenopdracht met een voorspelbare looptijd kan een verzoek aan generatieve AI zowel een kort antwoord als een antwoord ter lengte van een essay opleveren. Het aantal output-tokens heeft een directe invloed op de kosten, en productteams hebben daar niet altijd controle over of kunnen dit niet altijd voorspellen.
- Gedeelde, verfijnde modellen: Wanneer meerdere producten gebruikmaken van een model dat is gefinetuned op basis van gedeelde gegevens, vormen de kosten van die finetuning-run een eenmalige investering waarvan niet alle producten in gelijke mate profiteren, waardoor de toerekening achteraf tot discussie leidt.
- Snelle kostenstijging: De kosten van generatieve AI kunnen niet-lineair stijgen. Een functie die tijdens het testen goedkoop werkt, kan bij productievolumes duur worden op manieren die bij traditionele IT-capaciteitsplanning niet worden voorzien.
- De complexiteit van de prijsstelling door leveranciers: Cloudproviders en modelleveranciers hanteren verschillende tarieven voor tokens, contextvensters en modelniveaus. Het vergelijken of samenvoegen hiervan tot één intern kostenoverzicht vergt een aanzienlijke inspanning op het gebied van data-engineering.
Deze kenmerken betekenen dat de bestuurs- en instrumentatiepraktijken die voor gedeelde diensten zijn ontwikkeld, zoals vaste maandelijkse toewijzingen of eenvoudige verdelingen op basis van het personeelsbestand, niet direct kunnen worden toegepast op kostenbeheer met generatieve AI.
Welke gegevens heb je nodig om de kosten van een AI-platform nauwkeurig toe te wijzen?
Om de kosten van een gedeeld AI-platform nauwkeurig toe te wijzen, hebt u gedetailleerde verbruikslogboeken nodig die zijn gelabeld per product, team of use case, met minimaal het aantal tokens per verzoek, tijdstempels, de gebruikte modelversie en de identiteit van de aanroepende applicatie. Zonder deze labeling op API-niveau wordt het toewijzen van kosten giswerk.
De belangrijkste gegevensvereisten kunnen worden onderverdeeld in drie lagen:
Telemetrie op verzoekniveau
Bij elke aanroep naar het AI-platform moeten het aantal invoertokens, het aantal uitvoertokens, het model-eindpunt, de latentie en een tag die het product of team identificeert dat het verzoek indient, worden geregistreerd. Deze gegevens vormen de basis voor toewijzing op basis van gebruik. Als uw platform deze gegevens niet standaard verstrekt, moet u de API-gateway of de middleware-laag zo configureren dat deze gegevens worden vastgelegd.
Kostenoverzicht en tariefgegevens
De ruwe tokenaantallen zijn pas bruikbaar als ze worden gekoppeld aan daadwerkelijke kosten. Je hebt actuele prijsgegevens van je modelaanbieder nodig, inclusief eventuele volumekortingen, overeenkomsten voor gereserveerde capaciteit of drempels voor gedifferentieerde tarieven, om het verbruik om te zetten in geldwaarden. Deze tariefgegevens veranderen wanneer leveranciers hun prijzen aanpassen, dus ze moeten worden bijgehouden en van een versie worden voorzien.
Overzicht van gedeelde kosten
Naast de variabele inferentiekosten moet je ook een duidelijk overzicht hebben van de vaste platformkosten: de infrastructuur voor het hosten van modellen, fine-tuning-runs, opslag in vectordatabases, monitoringtools en de tijd die engineers besteden aan het onderhoud van het platform. Deze kosten moeten worden gedocumenteerd en regelmatig worden bijgewerkt, zodat ze kunnen worden toegerekend volgens de door jou gekozen overheadmethode.
Het integreren van deze drie gegevensstromen in één overzicht van de toewijzingen – idealiter gekoppeld aan uw bredere IT-financieelbeheer- of FinOps-tools – is wat het verschil maakt tussen organisaties die weloverwogen beslissingen kunnen nemen over AI-uitgaven en organisaties die alleen maar reageren op onverklaarbare facturen.
Moeten AI-kosten worden behandeld als gedeelde overheadkosten of als directe productkosten?
De kosten van AI-platforms moeten worden opgesplitst: variabele inferentiekosten moeten worden behandeld als directe productkosten, en vaste platformkosten als gedeelde overheadkosten. Deze hybride aanpak weerspiegelt hoe de kosten zich in de praktijk gedragen en creëert de juiste prikkels voor productteams, zonder hen te benadelen voor infrastructuurbeslissingen die zij niet zelf hebben genomen.
Door alle AI-kosten als gedeelde overhead te behandelen, verdwijnt de verantwoordingsplicht. Als een productteam weet dat zijn intensieve gebruik over alle teams wordt verdeeld, heeft het geen financiële prikkel om prompts te optimaliseren, reacties in de cache op te slaan of waar nodig voor goedkopere modelniveaus te kiezen. De toewijzing van overheadkosten versluiert bovendien de werkelijke eenheidskosten van individuele producten, waardoor het moeilijker wordt om te beoordelen of een functie commercieel haalbaar is.
Anderzijds leidt het beschouwen van alle AI-kosten als directe productkosten tot wrijving rond gedeelde investeringen. Een verfijnd model dat voor één product is ontwikkeld maar door drie producten wordt gebruikt, mag niet volledig ten laste komen van het team dat het initiatief heeft genomen. Evenzo komen de technische kosten voor het onderhoud van het gedeelde platform iedereen ten goede en moeten deze dienovereenkomstig worden verdeeld.
Een praktisch uitgangspunt is het vaststellen van een duidelijke grens: alles wat per verzoek kan worden gemeten, is een directe kost; alles wat niet aan een specifiek verzoek of product kan worden gekoppeld, is overhead. Evalueer deze grens elk kwartaal naarmate uw platform zich verder ontwikkelt, want wat begint als een gedeelde vaste kost, zoals gereserveerde GPU-capaciteit, kan toewijsbaar worden naarmate de gebruikspatronen zich stabiliseren.
Hoe zijn FinOps-werkwijzen van toepassing op de verdeling van de kosten van generatieve AI?
FinOps-werkwijzen zijn rechtstreeks van toepassing op de kostendeling bij generatieve AI, doordat ze dezelfde methoden die worden gebruikt bij financieel beheer in de cloud – zoals tagging, showback, chargeback, rightsizing en commitmentoptimalisatie – toepassen op de AI-infrastructuur. Het kernprincipe van FinOps is dat beslissingen over kosten moeten worden genomen door de teams die het dichtst bij het gebruik staan, ondersteund door nauwkeurige gegevens en een gezamenlijk governance-ritme.
Toegepast op generatieve AI betekent dit:
- Taggen en labelen: Elke AI-API-aanroep moet metadata bevatten waarmee het product, de omgeving (ontwikkeling, test, productie) en het gebruiksscenario kunnen worden geïdentificeerd. Dit komt overeen met het taggen van cloudresources en is een voorwaarde voor elke zinvolle toewijzing.
- Regelmatige kostenbeoordelingen: De FinOps-aanpak vereist een regelmatige, wekelijkse of maandelijkse kostenbeoordeling, waarbij de afdelingen Financiën, Techniek en de producteigenaren gezamenlijk de uitgaven onder de loep nemen. Wat AI-kosten betreft, houdt dit in dat trends in het tokenverbruik worden geanalyseerd, afwijkingen worden opgespoord en gezamenlijke beslissingen over optimalisatie worden genomen.
- Keuze van het juiste model: Net zoals FinOps het optimaliseren van de omvang van rekeninstances stimuleert, stimuleert AI-kostenbeheer het gebruik van het kleinste model dat aan de kwaliteitseisen voldoet. Niet voor elke toepassing is het krachtigste – en duurste – beschikbare model nodig.
- Toezeggingen en reserveringsplanning: Veel AI-aanbieders bieden kortingen aan bij vaste gebruiksvolumes. FinOps-governancekaders helpen organisaties te beoordelen of hun gebruik stabiel genoeg is om van deze afspraken te profiteren zonder te veel te beloven.
Het verband tussen FinOps AI-kosten Ook het bredere concept van Technology Business Management (TBM) speelt hier een rol. Wanneer de kosten van AI-platforms inzichtelijk zijn en aan de juiste posten worden toegerekend, kunnen ze worden gekoppeld aan de zakelijke diensten en producten die ze ondersteunen. Hierdoor wordt het mogelijk om het rendement op AI-investeringen op portfolioniveau te beoordelen, en niet alleen op infrastructuurniveau.
Welk bestuursmodel zorgt ervoor dat de gedeelde AI-kosten op de lange termijn eerlijk blijven?
Een bestuursmodel dat ervoor zorgt dat de kosten van een gedeeld AI-platform op de lange termijn eerlijk blijven verdeeld, vereist drie elementen: een gedocumenteerd toewijzingsbeleid waarmee alle productteams instemmen, een regelmatig ritme voor het herzien en bijwerken van dat beleid, en een duidelijke verantwoordelijkheid voor de kostenfunctie van het AI-platform. Zonder deze drie elementen raken toewijzingsbeslissingen uit koers, ontstaan er geschillen en subsidiëren teams met hoge kosten de teams met lage kosten zonder dat dit transparant is.
In het toewijzingsbeleid moet worden vastgelegd welke kosten directe kosten zijn en welke overheadkosten, welke toewijzingssleutels voor elke overheadpool worden gebruikt, en hoe het beleid wordt bijgewerkt wanneer er nieuwe producten bijkomen of de platformkosten veranderen. Het beleid moet onder versiebeheer staan en worden goedgekeurd door zowel de financiële als de technische leiding.
De frequentie van de evaluaties is net zo belangrijk als het beleid zelf. Het gebruik van AI verandert snel; een nieuwe productfunctie kan het verbruik van tokens in één sprint verdubbelen. Maandelijkse evaluaties van de werkelijke kosten ten opzichte van de toegewezen kosten, in combinatie met een vastomlijnd proces voor het aanpassen van de toewijzingssleutels, zorgen ervoor dat het beleid niet achterhaald raakt. Kwartaalbeoordelingen van de samenstelling van de overheadpool zorgen ervoor dat vaste kosten nog steeds eerlijk worden verdeeld naarmate het platform zich verder ontwikkelt.
Verantwoordelijkheid is vaak het ontbrekende stukje van de puzzel. Er moet iemand verantwoordelijk zijn voor het onderhoud van het toewijzingsmodel, het oplossen van geschillen en het communiceren van wijzigingen aan de productteams. In organisaties met een FinOps-functie ligt deze verantwoordelijkheid van nature bij de FinOps-leider of bij een aangewezen kostenverantwoordelijke voor het AI-platform. Zonder een aangewezen verantwoordelijke bestaat het beheer alleen op papier, maar niet in de praktijk.
A Beoordeling van de FinOps-rijpheid kan u helpen vaststellen waar uw huidige bestuursmodel tekortkomingen vertoont – of het nu gaat om de consistentie van het toekennen van tags, de frequentie van beoordelingen of de duidelijkheid over de verantwoordelijkheden – voordat die tekortkomingen uitmonden in begrotingsgeschillen.
Hoe wij u helpen bij het beheren van de kosten van een gedeeld generatief AI-platform
Wij helpen organisaties de overstap te maken van reactieve AI-kostenrapportage naar actief, gestuurd kostenbeheer, zodat elk productteam een eerlijk en nauwkeurig beeld krijgt van wat het uitgeeft aan gedeelde AI-infrastructuur, en het management weloverwogen beslissingen kan nemen over AI-investeringen.
Als je met ons samenwerkt, krijg je:
- Ontwerp van de toerekening van AI-kosten: Wij helpen u te bepalen welke kosten directe kosten zijn en welke overheadkosten, uw toerekeningssleutels op te stellen en het beleid zo vast te leggen dat de financiële, technische en productteams er allemaal mee kunnen werken.
- Richtlijnen voor tagging en gegevensarchitectuur: Wij helpen u bij het inrichten van uw AI-API-laag, zodat telemetrie op verzoekniveau vanaf dag één met de juiste tags in uw kostenbeheertools wordt opgenomen.
- FinOps-beheer van AI-uitgaven: We integreren AI-kostenbeheer in uw bredere FinOps-bedrijfsmodel, inclusief controlefrequenties, verantwoordelijkheidsstructuren en escalatieprocedures, zodat het op de lange termijn wordt onderhouden en niet slechts eenmalig wordt opgezet.
- TBM-integratie: We koppelen de kosten van uw AI-platform aan het bredere kader voor Technology Business Management, zodat de AI-uitgaven zichtbaar zijn op het niveau van bedrijfsdiensten en producten, en niet alleen als een post in het infrastructuurbudget.
Als u te maken heeft met onverklaarbare stijgingen van de AI-kosten, interne discussies over wie er voor gedeelde modellen moet betalen, of een gebrek aan inzicht in wat uw AI-platform daadwerkelijk per product kost, neem contact met ons op en wij helpen u bij het opzetten van het toewijzingsmodel en de bestuursstructuur die bij uw organisatie passen.