Welche AI-Verbrauchskennzahlen sollten Sie für Chargeback und Showback verwenden?

Die richtigen KI-Verbrauchskennzahlen für Chargeback und Showback hängen von der Art Ihrer KI-Workloads ab. Bei großen Sprachmodellen (LLMs) ist die Token-Anzahl die genaueste und am weitesten verbreitete Verbrauchseinheit. Für andere KI-Workloads wie Inferenzjobs, Trainingsläufe oder Computer-Vision-Aufgaben sind GPU-Stunden, das API-Aufrufvolumen und die Rechenzeit praktischere Zuordnungseinheiten. Die Wahl der falschen Kennzahl führt zu einer ungerechten Kostenverteilung und untergräbt die Verantwortlichkeit, die Ihr Unternehmen aufbauen möchte. Dieser Artikel erläutert die gängigsten Kennzahlen, wie Sie zwischen ihnen wählen und wann Sie von Showback zu vollständigem Chargeback übergehen sollten.

Was ist der Unterschied zwischen „Chargeback“ und „Showback“ bei KI-Kosten?

Beim „Showback“ werden die KI-Ausgaben an die Teams zurückgemeldet, die sie verursacht haben, ohne dass dabei die finanzielle Verantwortung übertragen wird. Der „Chargeback“ geht noch einen Schritt weiter: Er ordnet die tatsächlichen Kosten den Geschäftsbereichen, Produkten oder Kostenstellen zu, wodurch diese Teams finanziell für ihren KI-Verbrauch verantwortlich gemacht werden. Diese Unterscheidung ist wichtig, da der „Showback“ das Bewusstsein schärft, während der „Chargeback“ Verhaltensänderungen bewirkt.

In der Praxis beginnen die meisten Unternehmen mit Showback, da dies weniger organisatorische Abstimmungen erfordert. Man macht die Daten sichtbar, die Teams sehen, wofür sie Geld ausgeben, und es entstehen Gespräche über Optimierungsmöglichkeiten. Das Risiko besteht darin, dass Transparenz ohne Rechenschaftspflicht selten zu einer nachhaltigen Kostendisziplin führt. Teams, die keine eigene Budgetlinie verwalten, haben kaum einen strukturellen Anreiz, ihren Verbrauch zu senken.

Chargeback schließt diese Lücke, indem es die KI-Ausgaben mit den Teams verknüpft, die diese kontrollieren. Wenn ein Entwicklerteam weiß, dass seine monatliche LLM-Nutzung im Budget seiner Kostenstelle erscheint, werden die Effizienz der Prompts und die Modellauswahl zu praktischen statt zu abstrakten Themen. Dies ist die Grundlage für eine solide FinOps für KI: Den Verbrauch mit der Verantwortlichkeit verknüpfen, sodass jeder Dollar, der für KI ausgegeben wird, in der Verantwortung einer Person liegt, die sowohl die Befugnis als auch die Motivation hat, diese zu optimieren.

Welche KI-Verbrauchskennzahlen werden am häufigsten für die Kostenverrechnung verwendet?

Die am häufigsten verwendeten KI-Verbrauchskennzahlen für die Kostenverrechnung sind die Anzahl der Token (bei LLMs), GPU-Stunden, das API-Aufrufvolumen, die Rechenzeit und die Modellinferenz-Einheiten. Jede Kennzahl entspricht einem anderen Workload-Typ, und die meisten Unternehmen nutzen eine Kombination aus mehreren Kennzahlen, je nachdem, welche KI-Dienste ihre Teams einsetzen.

Hier sehen Sie, wie sich diese Kennzahlen auf die verschiedenen Workload-Typen verteilen:

• Anzahl der Token: Pro Anfrage verbrauchte Eingabe- und Ausgabetoken, die für LLM-APIs wie OpenAI, Azure OpenAI und Anthropic verwendet werden
• GPU-Stunden: Zeit, in der eine GPU-Instanz belegt ist und für Trainingsaufträge sowie für die selbst gehostete Modellinferenz genutzt wird
• API-Aufrufvolumen: Anzahl der an einen Modell-Endpunkt gesendeten Anfragen; dient als Ersatzkennzahl, wenn keine Token-Daten verfügbar sind
• Rechenzeit: Verbrauchte Wanduhrzeit oder CPU-Zeit, relevant für Batch-Inferenz-Pipelines und ML-Trainings-Workflows
• Einheiten zur Modellinferenz: Eine anbieterspezifische Verbrauchseinheit, die von einigen Cloud-Anbietern verwendet wird, um die zugrunde liegende Rechenleistung zu abstrahieren
• Lager- und Abrufkosten: Obwohl dies oft übersehen wird, tragen Abfragen in Vektordatenbanken und der Speicherplatz für Einbettungen erheblich zu den Gesamtkosten für KI bei.

Die Auswahl der richtigen Kennzahl beginnt damit, dass Sie verstehen, welche dieser Kennzahlen Ihr Cloud-Anbieter oder KI-Anbieter Ihnen tatsächlich in Rechnung stellt. Ihr Zuordnungsmodell sollte die Abrechnungseinheit so genau wie möglich widerspiegeln, um Rundungsfehler zu vermeiden, die sich über verschiedene Teams und Berichtszeiträume hinweg summieren.

Wie wählen Sie die richtige KI-Kennzahl für Ihr Allokationsmodell aus?

Wählen Sie die Kennzahl für den KI-Verbrauch, die am direktesten widerspiegelt, wie Kosten entstehen und wie Teams ihre Nutzung steuern. Die beste Kennzahl ist diejenige, die bereits in Ihren Abrechnungsdaten verwendet wird, auf die einzelne Teams durch ihre eigenen Entscheidungen Einfluss nehmen können und die stabil genug ist, um sie über einen längeren Zeitraum hinweg zu verfolgen, ohne dass eine ständige Neukalibrierung erforderlich ist.

Bei Ihrer Auswahl sollten Sie sich an drei praktischen Kriterien orientieren:

1. Rechnungsgenauigkeit: Stimmt diese Kennzahl mit den Kosten überein, die Ihr Anbieter Ihnen in Rechnung stellt? Wenn Ihr LLM-Anbieter pro Token abrechnet, führt eine Zuordnung nach API-Aufrufvolumen zu Verzerrungen, da das Aufrufvolumen Schwankungen in der Länge der Eingabeaufforderungen nicht berücksichtigt.
2. Team-Steuerbarkeit: Kann das Team, das die Ressourcen nutzt, diese Kennzahl durch eigene Entscheidungen tatsächlich senken? Die Anzahl der Token lässt sich durch die Gestaltung der Prompts und die Verwaltung des Kontextfensters steuern. Die GPU-Stunden lassen sich durch die Job-Planung und die Auswahl der Instanzen steuern. Metrik-Teams können keine Frustration hervorrufen, ohne gleichzeitig die Optimierung voranzutreiben.
3. Verfügbarkeit der Daten: Wird diese Kennzahl in Ihren Kosten- und Nutzungsdaten zuverlässig erfasst? Eine theoretisch ideale Kennzahl ist nutzlos, wenn sie manuell erfasst werden muss oder in Ihren Tools nur teilweise verfügbar ist.

Wenn eine einzelne Kennzahl nicht das gesamte Bild widerspiegelt, sollten Sie einen kombinierten Ansatz verfolgen. Verrechnen Sie beispielsweise die Kosten für LLM-APIs nach der Anzahl der Token und die Infrastruktur für selbst gehostete Modelle nach GPU-Stunden. Dokumentieren Sie die Methodik klar und deutlich, damit die Teams aus den Bereichen Finanzen, IT und Entwicklung alle verstehen, wie ihre Kosten berechnet werden.

Warum werden tokenbasierte Kennzahlen bei der Kostenverteilung von LLMs bevorzugt?

Für die Kostenzuordnung bei großen Sprachmodellen (LLM) werden tokenbasierte Kennzahlen bevorzugt, da sie direkt widerspiegeln, wie LLM-Anbieter ihre Gebühren berechnen. Token sind die grundlegende Einheit des LLM-Verbrauchs: Jede gesendete Eingabeaufforderung und jede generierte Antwort wird in Token gemessen, und die Rechnung, die Sie erhalten, entspricht direkt dem Tokenvolumen. Eine Zuordnung nach Token führt daher zu Kostenzuweisungen, die sich nahtlos mit den tatsächlichen Ausgaben in Einklang bringen lassen.

Über die Abrechnungsgenauigkeit hinaus erfassen Tokens aussagekräftige Unterschiede im Nutzungsverhalten, die andere Kennzahlen übersehen. Ein Team, das lange, kontextbezogene Prompts mit detaillierten Systemanweisungen ausführt, verbraucht weitaus mehr Token pro Anfrage als ein Team, das kurze, eng gefasste Abfragen durchführt. Die Anzahl der API-Aufrufe behandelt beide Fälle identisch. Die Token-Anzahl spiegelt den tatsächlichen Kostenunterschied wider und schafft den richtigen Anreiz: Teams, die in Prompt-Engineering investieren, um den Token-Verbrauch zu senken, verzeichnen eine direkte Reduzierung ihrer zugewiesenen Kosten.

Bei der tokenbasierten Zuweisung werden zudem die Kosten für Eingabe- und Ausgabetoken getrennt ausgewiesen. Dies ist von Bedeutung, da die meisten LLM-Anbieter für Eingabe- und Ausgabetoken unterschiedliche Tarife berechnen. Ein Kostenmodell, das zwischen beiden unterscheidet, vermittelt den Teams ein genaueres Bild davon, wo sich ihre Ausgaben konzentrieren und welcher Optimierungshebel (kürzere Eingabeaufforderungen oder prägnantere Ausgaben) die größere Wirkung erzielt.

Die praktische Einschränkung besteht darin, dass die Token-Daten auf der Anwendungsebene oder über die Kosten- und Nutzungsberichte Ihres Cloud-Anbieters erfasst werden müssen. Wenn Ihre Teams LLM-APIs über Abstraktionsschichten oder Middleware aufrufen, die keine Token-Zählungen protokollieren, müssen Sie diese Schicht entsprechend ausstatten, bevor eine tokenbasierte Zuweisung realisierbar ist.

Welche Tools und Datenquellen unterstützen die Erfassung des KI-Verbrauchs?

Die Erfassung des KI-Verbrauchs wird durch Kosten- und Nutzungsberichte von Cloud-Anbietern, Dashboards zur LLM-API-Nutzung, FinOps-Plattformen und maßgeschneiderte Observability-Tools unterstützt. Die richtige Kombination hängt davon ab, ob Ihre KI-Workloads auf verwalteten APIs, einer selbst gehosteten Infrastruktur oder einer Kombination aus beidem ausgeführt werden.

Bei verwalteten LLM-APIs sind die wichtigsten Datenquellen:

• Kosten- und Nutzungsberichte von Cloud-Anbietern: Die Exporte von Azure Cost Management, AWS Cost Explorer und Google Cloud Billing enthalten alle Einzelposten für KI-Dienste mit Angaben zum Verbrauch.
• Dashboards zur Anbieternutzung: OpenAI, Anthropic und ähnliche Anbieter stellen Nutzungs-APIs und Dashboards zur Verfügung, die den Verbrauch auf Token-Ebene nach API-Schlüssel oder Projekt anzeigen.
• FinOps-Plattformen: Tools wie Apptio Cloudability bündeln die KI-Ausgaben für Multi-Cloud- und Multi-Vendor-Umgebungen in einer einheitlichen Übersicht mit Funktionen zur Kennzeichnung und Zuordnung.

Für selbst gehostete oder auf Infrastrukturebene ausgeführte KI-Workloads:

• Tools zur Kostenverrechnung in Kubernetes: Plattformen wie Kubecost oder native Funktionen zur Zuordnung von Cloud-Kosten ordnen GPU- und Rechenkosten Namespaces, Teams oder Workloads zu.
• Beobachtbarkeit von ML-Plattformen: Tools wie MLflow, Weights and Biases oder SageMaker Experiments erfassen den Rechenaufwand auf Job-Ebene und können Kostendaten in Zuweisungsmodelle einspeisen
• Individuelle Kennzeichnung und Etikettierung: Eine einheitliche Kennzeichnung der Ressourcen nach Team, Produkt und Umgebung bildet die Grundlage dafür, dass sich jedes Mess-Tool für die Zuordnung nutzen lässt

Unser Einführung von FinOps-Tools Die Arbeit beginnt in der Regel hier: Es wird geprüft, welche Daten tatsächlich erfasst werden, Lücken in der Tagging-Abdeckung werden identifiziert und KI-Kostendaten werden in die übergeordnete IT-Finanzmanagementstruktur eingebunden, sodass die KI-Ausgaben neben den Kosten für die On-Premise- und Cloud-Infrastruktur sichtbar werden.

Wann sollte ein Unternehmen bei KI von „Showback“ auf „Chargeback“ umstellen?

Ein Unternehmen sollte bei der KI von „Showback“ auf „Chargeback“ umstellen, wenn drei Bedingungen erfüllt sind: Die KI-Ausgaben sind so erheblich, dass eine eigene Budgetverwaltung gerechtfertigt ist; Ihre Kostenzuordnungsdaten sind zuverlässig genug, um einzelne Abrechnungen zu begründen; und die Geschäftsbereiche, die KI nutzen, haben ausreichende Kontrolle über ihre Nutzung, um ihrer finanziellen Rechenschaftspflicht nachzukommen.

Das richtige Timing ist entscheidend, da ein verfrühtes Chargeback zu Reibungsverlusten ohne greifbare Ergebnisse führt. Wenn Ihre Tagging-Abdeckung unvollständig ist, Ihre Token-Daten inkonsistent sind oder die Teams keine praktische Möglichkeit haben, ihren Verbrauch zu beeinflussen, führt Chargeback eher zu Streitigkeiten als zu einer Optimierung. Showback ist das geeignete Modell, während Sie die Datenqualität und die organisatorische Bereitschaft aufbauen, die für Chargeback erforderlich sind.

Zu den konkreten Anzeichen dafür, dass Sie bereit sind, den Schritt zum Chargeback zu gehen, gehören:

• Die KI-Kosten werden in Ihren Kosten- und Nutzungsberichten mit Zuordnung auf Teamebene konsistent und genau ausgewiesen.
• Die Geschäftsbereiche haben sich bereits mit den Showback-Daten auseinandergesetzt und begonnen, Fragen zu ihrem Verbrauch zu stellen
• Produkt- und Entwicklungsteams verfügen über Budgetbefugnisse und können Entscheidungen hinsichtlich der Modellauswahl, der sofortigen Konzeption oder der Nutzungsbeschränkungen treffen
• Die Finanzabteilung hat eine Zuteilungsmethode genehmigt, und die Teams wissen, wie die Gebühren berechnet werden.
• Es gibt einen festgelegten Zeitplan für die Überprüfung der KI-Ausgaben und die Beilegung von Streitigkeiten hinsichtlich der Mittelzuweisung.

A Bewertung des Reifegrades von FinOps ist ein nützlicher Ausgangspunkt, wenn Sie sich nicht sicher sind, wo Ihre Organisation auf diesem Bereitschaftsspektrum steht. Es bietet Ihnen eine sachliche Ausgangsbasis in Bezug auf Mitarbeiter, Prozesse, Governance und Tools, bevor Sie sich auf ein Chargeback-Modell festlegen, das Ihre derzeitigen Kapazitäten möglicherweise noch nicht unterstützen.

Wie wir bei der Erfassung von KI-Nutzungskennzahlen und der Kostenverrechnung helfen

Wir unterstützen Unternehmen dabei, den Schritt von einer einfachen Kostentransparenz im KI-Bereich hin zu strukturierten, fundierten Zuordnungsmodellen zu vollziehen, die KI-Ausgaben mit der geschäftlichen Rechenschaftspflicht verknüpfen. Unser Ansatz deckt den gesamten Umfang dessen ab, was Chargeback und Showback in der Praxis erfolgreich macht:

• Auswahl der Messgrößen und Konzeption der Methodik: Wir ermitteln die Verbrauchskennzahlen, die Ihren Abrechnungsdaten und Ihrem Workload-Mix entsprechen, und dokumentieren eine Verrechnungsmethode, hinter der sowohl die Finanzabteilung als auch die IT- und die Entwicklungsabteilung stehen können.
• Tagging und Datenqualität: Wir prüfen Ihre derzeitige Tagging-Abdeckung bei Cloud- und KI-Diensten, schließen Lücken und stellen sicher, dass Ihre Kosten- und Nutzungsdaten zuverlässig genug sind, um die Zuordnung auf Teamebene zu unterstützen.
• FinOps-Betriebsmodell: Wir unterstützen Sie dabei, eine Führungsstruktur, einen Entscheidungsrhythmus und eine funktionsübergreifende Verantwortlichkeit aufzubauen, die dafür sorgen, dass Kostendaten nicht nur in Berichten erscheinen, sondern in konkrete Maßnahmen umgesetzt werden.
• Integration von TBM und FinOps: Wir integrieren die KI-Kostenverrechnung in Ihr übergeordnetes IT-Finanzmanagement-Framework, sodass die KI-Ausgaben zusammen mit der lokalen und der Cloud-Infrastruktur in einer einzigen, einheitlichen Übersicht ausgewertet werden.
• Übergang von „Showback“ zu „Chargeback“: Wir begleiten Sie bei den organisatorischen und technischen Schritten, die erforderlich sind, um den Weg vom Bewusstsein zur Verantwortlichkeit in einem Tempo zu beschreiten, das Ihre Teams verkraften können.

Wenn Sie wissen möchten, wo Ihr Unternehmen derzeit steht und was erforderlich wäre, um ein zuverlässiges KI-basiertes Kostenverrechnungsmodell aufzubauen, Nehmen Sie Kontakt mit uns auf Und wir beginnen mit einer praktischen Einschätzung Ihrer derzeitigen Fähigkeiten.