Moet een centraal AI-platform afdelingen kosten in rekening brengen op basis van gebruik?

Ja, een centraal AI-platform zou afdelingen moeten laten betalen voor hun gebruik, maar het juiste model hangt af van de mate van ontwikkeling en de doelstellingen van uw organisatie. Door afdelingen te laten betalen wordt verantwoordelijkheid gecreëerd, wordt verspilling voorkomen en wordt gewaarborgd dat AI-uitgaven gekoppeld zijn aan daadwerkelijke bedrijfswaarde, in plaats van op te gaan in een ondoorzichtige pool van gedeelde kosten. Hieronder bespreken we de belangrijkste vragen die elke onderneming moet beantwoorden bij het ontwerpen van een model voor de toewijzing van AI-kosten.

Hoe financieren organisaties doorgaans een centraal AI-platform?

De meeste organisaties financieren een centraal AI-platform via een van de volgende drie modellen: een volledig gecentraliseerd IT-budget waarbij het platform wordt beschouwd als gedeelde infrastructuur, een regeling voor kostendeling waarbij afdelingen bijdragen op basis van het verwachte gebruik, of een op verbruik gebaseerd model waarbij afdelingen betalen voor wat ze daadwerkelijk gebruiken. Elke aanpak brengt verschillende afwegingen met zich mee op het gebied van rechtvaardigheid, prikkels voor acceptatie en financieel beheer.

In de beginfase van de invoering van AI vallen veel bedrijven terug op financiering via de centrale IT-afdeling, omdat dit de drempel om te experimenteren verlaagt. Bedrijfsonderdelen hebben toegang tot het platform zonder dat ze een begrotingspost hoeven te rechtvaardigen, wat het eerste gebruik versnelt. Deze aanpak loopt echter vaak spaak naarmate het gebruik toeneemt. Wanneer afdelingen geen financiële gevolgen ondervinden van hun AI-gebruik, neemt het gebruik ongecontroleerd toe en worden de kosten, die nooit waren begroot, gedekt door het centrale IT-budget.

Een duurzamere aanpak is om tijdens de proeffase te beginnen met een gecentraliseerd model en vervolgens over te stappen op financiering op basis van verbruik zodra de gebruikspatronen voorspelbaar worden. Dit komt overeen met de manier waarop volwassen organisaties hiermee omgaan beheer van cloudkosten, waarbij naarmate de omgeving zich verder ontwikkelt, wordt overgestapt van gezamenlijke budgetten naar een gestructureerde toewijzing.

Wat is het verschil tussen ‘chargeback’ en ‘showback’ bij AI-kosten?

Bij ‘showback’ worden de kosten van AI-gebruik aan afdelingen gerapporteerd zonder dat deze daadwerkelijk in rekening worden gebracht, terwijl bij ‘chargeback’ die kosten rechtstreeks worden doorberekend aan het budget van de afdeling die het gebruik heeft. Showback zorgt voor inzicht en bewustwording; chargeback zorgt voor financiële verantwoording. Dit onderscheid bepaalt of afdelingen de economische gevolgen van hun beslissingen over AI-gebruik daadwerkelijk voelen.

Bij een ‘showback’-model ontvangen afdelingen regelmatig een rapport waarin wordt weergegeven wat hun AI-verbruik zou hebben gekost als ze daarvoor een factuur hadden ontvangen. Dit vergroot het bewustzijn en kan het gedrag beïnvloeden, maar omdat er in werkelijkheid geen geld wordt overgemaakt, blijft de prikkel om te optimaliseren zwak. Teams nemen de cijfers wellicht wel ter kennis, zonder hun werkwijze aan te passen.

Chargeback daarentegen maakt de kosten van AI tastbaar. Wanneer het budget van een afdeling wordt gedebiteerd voor modelinferentie, rekenuren of API-aanroepen, heeft het team dat dit budget beheert een directe reden om zich af te vragen of elke use case wel waarde oplevert. Dit is hetzelfde principe dat kostendiscipline in cloudomgevingen stimuleert: zichtbaarheid alleen verandert het gedrag niet, maar financiële gevolgen doen dat wel.

Veel organisaties gebruiken showback als een overgangsfase, waarbij ze de benodigde data-infrastructuur en het vertrouwen van de belanghebbenden opbouwen voordat ze overstappen op volledige chargeback. Deze gefaseerde aanpak vermindert politieke weerstand, terwijl er toch wordt toegewerkt naar echte kostenverantwoording op basis van AI.

Wat zijn de risico's als afdelingen niet worden gefactureerd voor het gebruik van AI?

Wanneer afdelingen AI-middelen verbruiken zonder dat dit financiële gevolgen heeft, doen zich drie voorspelbare problemen voor: een ongebreidelde groei van het gebruik, een gebrek aan discipline bij het opstellen van businesscases en het onvermogen om het rendement op AI-investeringen aan te tonen. Zonder verantwoording over de AI-uitgaven van afdelingen wordt het platform een gedeelde hulpbron die niemand zorgvuldig beheert.

Ten eerste heeft het gebruik de neiging om ongebreideld toe te nemen. Teams experimenteren naar hartelust, wat in het begin waardevol is, maar zonder kostensignalen blijven gebruiksscenario’s met een lage waarde naast die met een hoge waarde bestaan. Er is geen mechanisme om onderscheid te maken tussen AI-toepassingen die daadwerkelijk resultaten opleveren en toepassingen die alleen maar rekenkracht verbruiken.

Ten tweede worden de businesscases zwakker. Wanneer de kosten van AI onzichtbaar zijn voor de teams die beslissingen nemen over het gebruik ervan, is er weinig druk om de gecreëerde waarde te kwantificeren. Dit maakt het voor het IT-management of de CFO erg moeilijk om verdere investeringen in het platform te rechtvaardigen of meetbare rendementen aan de raad van bestuur aan te tonen.

Ten derde zijn onverwachte kosten onvermijdelijk. De centrale IT-afdeling neemt de stijgende kosten voor AI-gebruik voor haar rekening die niet in de begroting waren opgenomen, wat halverwege het jaar leidt tot overschrijdingen of reactieve bezuinigingen. Dit is een patroon dat we herhaaldelijk zien in cloudomgevingen waar niet in een vroeg stadium aan governance is gedacht, en AI-platforms volgen hetzelfde traject.

Wanneer is een chargeback-model zinvol voor AI-platforms?

Een chargeback-model is zinvol voor AI-platforms wanneer het gebruik per afdeling meetbaar is, wanneer afdelingen daadwerkelijke begrotingsbevoegdheid hebben en wanneer de organisatie over de benodigde data-infrastructuur beschikt om kosten nauwkeurig toe te wijzen. Het invoeren van chargeback voordat aan deze voorwaarden is voldaan, leidt tot wrijving zonder dat dit eerlijk is, wat zowel de acceptatie als het vertrouwen kan ondermijnen.

Het juiste moment om over te stappen op chargeback is doorgaans wanneer het platform de overstap maakt van de proeffase naar de productiefase. Op dat moment zijn de gebruikspatronen stabiel genoeg om voorspellingen te doen, zijn de kostenfactoren bekend en halen afdelingen er consistente waarde uit die ze kunnen afwegen tegen de kosten. Chargeback wordt ook beter te verdedigen wanneer de toewijzingsmethode transparant is en vooraf is overeengekomen.

Organisaties met een strakke discipline op het gebied van financieel IT-beheer slagen er doorgaans beter in om chargeback in te voeren, omdat ze al beschikken over de bestuursstructuren, rapportagecycli en functieoverschrijdende relaties die nodig zijn om geschillen op te lossen en het model in de loop van de tijd te verfijnen. Als uw organisatie nog bezig is met het leggen van die basis, is het pragmatischer om te beginnen met showback en een duidelijk stappenplan naar chargeback.

Hoe kan de IT-afdeling het AI-verbruik per afdeling nauwkeurig meten?

IT kan het AI-verbruik per afdeling nauwkeurig meten door al het platformgebruik op het moment van de aanvraag te taggen, waarbij elke modelaanroep, rekenopdracht of API-transactie aan een afdelingscode wordt gekoppeld, en die gegevens vervolgens samen te voegen in een rapportagelaag die het verbruik aan de kosten koppelt. De nauwkeurigheid van de meting hangt volledig af van de nauwkeurigheid waarmee de gegevens worden gelabeld en de gedetailleerdheid van de onderliggende kostengegevens.

In de praktijk betekent dit dat er een consistente taxonomie moet worden geïmplementeerd voordat het gebruik op grote schaal plaatsvindt. Elk team dat toegang heeft tot het centrale AI-platform moet zich authenticeren via een mechanisme dat een identificatiecode voor de afdeling of het kostencentrum bevat. Of het platform nu op cloudinfrastructuur of op lokale GPU-clusters draait, die identificatiecodes moeten worden doorgegeven aan de facturerings- of meetlaag.

Verschillende factoren maken een nauwkeurige meting bemoeilijken:

  • Inferentie op basis van een gedeeld model: Wanneer meerdere afdelingen tegelijkertijd hetzelfde model gebruiken, moeten de rekenkosten worden verdeeld op basis van het aantal verzoeken of het tokenverbruik, in plaats van op basis van tijd.
  • Toerekening van overheadkosten: Kosten voor platformonderhoud, het trainen van modellen en infrastructuur die niet rechtstreeks aan één afdeling zijn gekoppeld, moeten toch op een eerlijke manier worden toegerekend, doorgaans via een proportionele of vaste overheadtoeslag.
  • Gegevenskwaliteit: Onvolledige of inconsistente tagging leidt tot hiaten die het vertrouwen in de cijfers ondermijnen, waardoor het op politiek vlak moeilijk wordt om terugboekingen te verdedigen.

Dezelfde principes die gelden voor de toerekening van cloudkosten, zijn rechtstreeks van toepassing op de kostenmeting van AI-platforms. Organisaties die al een FinOps-aanpak voor cloudomgevingen zijn goed gepositioneerd om die mogelijkheden uit te breiden naar het gebruik van AI.

Welk bestuursmodel zorgt voor een eerlijke verdeling van de AI-kosten binnen de hele onderneming?

Een eerlijk bestuursmodel voor de toewijzing van AI-kosten vereist dat drie elementen op elkaar zijn afgestemd: een duidelijke verantwoordelijkheidsstructuur die de aansprakelijkheid voor platformkosten en het verbruik per afdeling vastlegt, een gezamenlijke taxonomie die bepaalt hoe kosten worden ingedeeld en toegewezen, en een regelmatige evaluatiecyclus waarin belanghebbenden uit de financiële, IT- en bedrijfsafdelingen overeenstemming bereiken over de cijfers en geschillen oplossen. Zonder deze drie elementen wordt kostenverdeling een bron van conflicten in plaats van een hulpmiddel voor betere beslissingen.

Verantwoordelijkheid is het uitgangspunt. Iemand bij de centrale IT-afdeling moet de verantwoordelijkheid dragen voor het kostenmodel van het platform: hij of zij moet de toewijzingsmethodiek vaststellen, de taggingstandaarden handhaven en de verbruiksrapporten publiceren. Tegelijkertijd heeft elke afdeling een aangewezen verantwoordelijke nodig die verantwoordelijk is voor het controleren van de AI-uitgaven en het signaleren van afwijkingen.

De taxonomie bepaalt wat er wordt gemeten en hoe. Dit omvat onder meer het vaststellen van wat als directe verbruikskosten en wat als overheadkosten wordt beschouwd, hoe gedeelde infrastructuur wordt verdeeld, en hoe nieuwe gebruiksscenario’s worden ingedeeld wanneer ze niet duidelijk in bestaande categorieën passen. Het vooraf overeenkomen van deze taxonomie, voordat er geschillen ontstaan, is wat het verschil maakt tussen governance die werkt en governance die onder druk bezwijkt.

Het evaluatieritme zorgt ervoor dat het model betrouwbaar blijft. Maandelijkse of driemaandelijkse evaluaties, waarbij vertegenwoordigers van de financiële afdeling, IT en de bedrijfsafdelingen gezamenlijk de toewijzingsgegevens onder de loep nemen, zorgen voor de afdelingsoverschrijdende afstemming die nodig is om fouten op te sporen, het model aan te passen aan veranderende gebruikspatronen en het vertrouwen in de cijfers te behouden. Dit is hetzelfde bestuursritme dat effectief IT-financieel beheer in bredere zin toepast op technologie-uitgaven.

Hoe wij u helpen de AI-kosten binnen de hele onderneming te beheersen

Het ontwerpen en implementeren van een eerlijk, schaalbaar model voor de toerekening van AI-kosten is precies het soort uitdaging waar we samen met grote Europese organisaties aan werken. Via onze FinOps- en IT-financieelbeheerdiensten helpen we u bij het opzetten van de bestuursstructuren, tagging-kaders en rapportagecycli waarmee u AI-verbruiksgegevens kunt omzetten in bruikbare beslissingen. Concreet kunnen we u helpen met:

  • Stel een taxonomie voor kostenverdeling op die zowel in de cloud gehoste als on-premises AI-workloads omvat
  • Zorg voor verbruiksmeting en tagging op platformniveau
  • Ontwerp een chargeback- of showback-model dat is afgestemd op de ontwikkelingsfase en de begrotingsbevoegdheid van uw organisatie
  • Zorg voor een functieoverschrijdend bestuursritme dat ervoor zorgt dat de financiële afdeling, IT en de bedrijfsafdelingen op één lijn blijven wat betreft de uitgaven voor AI
  • Integreer inzicht in AI-kosten in uw bredere IT-financieel beheer en TBM-rapportage

Als je wilt overstappen van een ondoorzichtig, gezamenlijk AI-budget naar een model waarin elke afdeling inzicht heeft in en verantwoordelijkheid draagt voor haar eigen verbruikskosten, neem contact met ons op en wij helpen je ermee.

De waarde
Privacyoverzicht

Deze site maakt gebruik van cookies, zodat wij je de best mogelijke gebruikerservaring kunnen bieden. Cookie-informatie wordt opgeslagen in je browser en voert functies uit zoals het herkennen wanneer je terugkeert naar onze site en helpt ons team om te begrijpen welke delen van de site je het meest interessant en nuttig vindt.