Wie erstellt man eine einheitliche Kostentaxonomie für KI-Ausgaben?

Um eine einheitliche Kostentaxonomie für KI-Ausgaben zu erstellen, müssen Sie einen strukturierten Satz von Kostenkategorien definieren, der die KI-Ausgaben den zugrunde liegenden Infrastrukturkomponenten, Modellen, Diensten und Geschäftsaktivitäten zuordnet. Die Taxonomie muss teamübergreifend standardisiert sein, damit die Verantwortlichen aus den Bereichen Finanzen, IT und Geschäft bei der Erörterung von KI-Kosten alle dieselbe Sprache sprechen. Die folgenden Fragen beleuchten jede Dimension dieser Herausforderung im Detail.

Warum lassen sich Ausgaben für KI in bestehenden IT-Taxonomien so schwer einordnen?

KI-Ausgaben lassen sich in bestehenden IT-Taxonomien nur schwer einordnen, da sie gleichzeitig mehrere traditionelle Kostenkategorien betreffen. Eine einzelne KI-Workload kann gleichzeitig Cloud-Rechenleistung, lizenzierte Software, APIs von Drittanbietern, interne Entwicklungszeit und Datenspeicherung umfassen. Bestehende Taxonomien wurden für einzelne Kostenarten entwickelt, nicht für Workloads, in denen diese dynamisch miteinander vermischt sind.

Die meisten herkömmlichen IT-Kostenmodelle trennen die Infrastruktur von den Anwendungen und die Anwendungen von den Diensten. KI hebt diese Grenzen auf. Eine Inferenz-Workload für ein großes Sprachmodell ist beispielsweise gleichzeitig ein Cloud-Kostenfaktor (GPU-Rechenleistung), ein Software-Kostenfaktor (Modelllizenzierung oder API-Nutzung) und ein Personalkostenfaktor (Prompt-Engineering und Feinabstimmung). Keine der traditionellen Kostenkategorien erfasst für sich genommen das gesamte Bild.

Hinzu kommt die Frage der verbrauchsabhängigen Preisgestaltung. KI-Dienste, insbesondere solche, auf die über APIs oder Cloud-native Plattformen zugegriffen wird, werden pro Token, pro Inferenzaufruf oder pro Trainingsdurchlauf abgerechnet. Diese Verbrauchseinheiten lassen sich nicht eindeutig auf monatliche Lizenzgebühren oder feste Infrastrukturzuweisungen abbilden. Ohne eine speziell entwickelte Taxonomie verteilen sich die KI-Kosten in Unternehmen auf Dutzende von Kostenstellen, was es nahezu unmöglich macht, zu verstehen, wie viel tatsächlich für KI ausgegeben wird oder ob diese Ausgaben einen Mehrwert generieren.

Welche Kategorien gehören in eine KI-Kostentaxonomie?

Eine KI-Kostentaxonomie sollte mindestens sechs Kategorien umfassen: Rechenleistung und Infrastruktur, Modellbeschaffung und -lizenzierung, Datenkosten, KI-Plattformen und -Tools, interne Arbeitskräfte und Fachkräfte sowie Governance- und Compliance-Kosten. Zusammen erfassen diese Kategorien den gesamten Lebenszyklus der KI-Ausgaben, von der Modellentwicklung bis zum produktiven Betrieb.

• Rechenleistung und Infrastruktur: GPU- und CPU-Auslastung für Training, Feinabstimmung und Inferenz, sei es vor Ort oder in der Cloud. Dies ist oft der größte und schwankungsintensivste Kostenfaktor.
• Modellbeschaffung und Lizenzierung: Kosten für den Zugriff auf proprietäre Modelle, Gebühren für die Nutzung von APIs (z. B. OpenAI oder Azure OpenAI) sowie Lizenzen für kommerzielle Basis-Modelle.
• Datenkosten: Datenerfassung, -speicherung, -kennzeichnung, -bereinigung sowie die Beschaffung von Daten von Drittanbietern, die zum Trainieren oder Anlernen von KI-Modellen erforderlich sind.
• KI-Plattform und -Tools: MLOps-Plattformen, Vektordatenbanken, Tools zur Experimentverfolgung und Orchestrierungs-Frameworks, die die Pipeline für die Entwicklung und Bereitstellung von KI unterstützen.
• Interne Arbeitskräfte und Talente: Der Zeitaufwand für Entwicklung, Datenwissenschaft und Produktentwicklung im Rahmen von KI-Initiativen. Dieser wird in Diskussionen über KI-Kosten häufig nicht ausreichend berücksichtigt.
• Unternehmensführung und Compliance: Kosten im Zusammenhang mit dem KI-Risikomanagement, der Modellprüfung, Tools zur Erklärbarkeit sowie Maßnahmen zur Einhaltung gesetzlicher Vorschriften.

Jede Kategorie sollte zusätzlich mit Metadaten versehen werden, die eine Zuordnung ermöglichen, wie beispielsweise den Geschäftsbereich, der die Funktion nutzt, den Anwendungsfall oder das Produkt, das sie unterstützt, sowie die Umgebung (Entwicklung, Staging oder Produktion). Ohne diese Tagging-Ebene bietet die Taxonomie zwar Transparenz, aber keine Nachvollziehbarkeit.

Inwiefern unterscheidet sich eine KI-Kostentaxonomie von einer Cloud-Kostentaxonomie?

Eine KI-Kostentaxonomie unterscheidet sich hinsichtlich Umfang und Detaillierungsgrad von einer Cloud-Kostentaxonomie. Eine Cloud-Kostentaxonomie gliedert die Ausgaben nach Cloud-Anbieter, Diensttyp und Ressourcen-Tag. Eine KI-Kostentaxonomie muss darüber hinausgehen und Kosten auf Modellebene, die Zuordnung zu Anwendungsfällen sowie die gesamte Wertschöpfungskette von der Datenaufbereitung bis zur Inferenz erfassen, einschließlich der Kosten, die vollständig außerhalb der Cloud-Rechnung anfallen.

Taxonomien für Cloud-Kosten, wie sie in FinOps-Verfahren, basieren auf den Abrechnungskonzepten der Anbieter: Konten, Abonnements, Ressourcengruppen und Tags. Sie eignen sich gut zur Klassifizierung von Rechenleistung, Speicher und Netzwerk. Ausgaben für KI verursachen jedoch Kosten, die auf einer Cloud-Rechnung überhaupt nicht erscheinen, wie beispielsweise das Gehalt eines Datenwissenschaftlers, der ein Modell feinabstimmt, die kommerzielle Lizenz für einen proprietären Datensatz oder das Drittanbieter-Tool zur Überwachung von Modellabweichungen.

Eine Cloud-Taxonomie ist zudem in der Regel ressourcenorientiert und fragt: “Was haben wir ausgeführt?” Eine KI-Kostentaxonomie muss ergebnisorientiert sein und fragen: “Welche Fähigkeit haben wir aufgebaut, und welcher Geschäftsaktivität dient sie?” Diese Verlagerung des Blickwinkels macht die Klassifizierung von KI-Kosten tatsächlich komplexer. Man benötigt beide Dimensionen: die Ressourcenperspektive für die operative Steuerung und die Ergebnisperspektive für die strategische Entscheidungsfindung.

Wie lassen sich KI-Kosten mit Geschäftsergebnissen und Mehrwert in Verbindung bringen?

Sie ordnen KI-Kosten den Geschäftsergebnissen zu, indem Sie jede Kostenkategorie mit einem bestimmten Anwendungsfall verknüpfen und diesen Anwendungsfall wiederum mit einem messbaren Geschäftsziel verbinden. Dies erfordert eine gemeinsame Taxonomie, die sowohl vom Finanz- als auch vom Geschäftsteam verstanden wird, sowie eine einheitliche Methodik zur Kennzeichnung und Zuordnung, mit der die Kosten den Produkten oder Dienstleistungen zugeordnet werden, die durch die KI-Fähigkeit unterstützt werden.

Der praktische Ausgangspunkt ist die Zuordnung nach Anwendungsfällen. Jede KI-Initiative – sei es ein Chatbot für den Kundenservice, ein Modell zur Betrugserkennung oder eine Engine zur Nachfrageprognose – sollte als eigenständiger Kostenträger behandelt werden. Alle mit dieser Initiative verbundenen Kosten für Rechenleistung, Daten, Tools und Personal werden ihr zugeordnet. Anschließend können Sie die Gesamtkosten des Anwendungsfalls mit dessen gemessenen geschäftlichen Auswirkungen vergleichen, sei es in Form von Umsatzsteigerungen, eingesparten Kosten oder Zeitersparnissen.

Das Technology Business Management (TBM) bietet hier einen nützlichen strukturellen Rahmen. TBM-Taxonomien sind darauf ausgelegt, Technologiekosten in Unternehmensdienstleistungen und -ergebnisse zu übersetzen. Durch die Erweiterung der TBM-Taxonomie um KI-spezifische Kostenschichten – wie beispielsweise Modelltraining und Inferenz als eigenständige IT-Bereiche – können Sie KI-Ausgaben in Begriffen darstellen, die Führungskräfte und Finanzteams bereits verstehen. Diese Abstimmung zwischen KI-Kostendaten und der Sprache des Geschäftswerts macht aus einer Kostentaxonomie nicht nur ein Berichtsinstrument, sondern ein Entscheidungswerkzeug.

Was sind die häufigsten Fehler bei der Gestaltung einer Kostentaxonomie für KI?

Die häufigsten Fehler bei der Gestaltung einer KI-Kostentaxonomie sind, dass zu schnell zu viele Kategorien angelegt werden, dass jeder Kategorie keine klare Zuständigkeit zugewiesen wird und dass die Taxonomie als einmalige Gestaltungsaufgabe betrachtet wird, anstatt als lebendige Struktur, die sich gemeinsam mit Ihrem KI-Portfolio weiterentwickelt.

• Überdimensionierung zu Beginn: Unternehmen versuchen oft, eine umfassende Taxonomie aufzubauen, bevor sie über ausreichende KI-Ausgaben verfügen, um diese Komplexität zu rechtfertigen. Beginnen Sie mit fünf bis sieben übergeordneten Kategorien und erhöhen Sie die Detaillierung, sobald Ihr KI-Einsatz zunimmt.
• Keine Eigentumsverhältnisse pro Kategorie: Eine Taxonomie ohne zugewiesene Verantwortliche führt zu Daten ohne Rechenschaftspflicht. Für jede Kostenkategorie muss es ein Team oder eine Rolle geben, das bzw. die für die Nachverfolgung, Validierung und Umsetzung der darin enthaltenen Daten verantwortlich ist.
• Ohne Berücksichtigung von Arbeits- und internen Kosten: Rechen- und API-Kosten lassen sich leicht erfassen, da sie auf den Rechnungen ausgewiesen sind. Der Zeitaufwand der internen Entwickler und Datenwissenschaftler ist schwieriger zu erfassen, macht jedoch oft einen erheblichen Anteil der gesamten KI-Kosten aus. Wenn Sie diesen nicht berücksichtigen, verzerren Sie Ihr Bild von den tatsächlichen KI-Investitionen.
• Statische Taxonomie in einem dynamischen Umfeld: Die Kostenstrukturen im Bereich der KI ändern sich rasant. Ständig entstehen neue Modelltypen, neue Preismodelle und neue Anwendungsfälle. Eine Taxonomie, die nicht regelmäßig überprüft und aktualisiert wird, passt innerhalb weniger Monate nicht mehr zu den tatsächlichen Ausgabemustern.
• Losgelöst vom geschäftlichen Kontext: Eine Taxonomie, die lediglich technische Kostenarten abbildet, ohne einen Bezug zu Produkten, Dienstleistungen oder Geschäftsergebnissen herzustellen, verschafft der Finanzabteilung zwar Transparenz, hat jedoch keinen strategischen Wert. Die Taxonomie muss eine Brücke zwischen der technischen und der geschäftlichen Perspektive schlagen.

Welche Tools unterstützen die KI-Kostentaxonomie und die Finanz-Governance?

Die Tools, die die KI-gestützte Kostentaxonomie und Finanz-Governance am besten unterstützen, verbinden Funktionen zum Cloud-Kostenmanagement mit Rahmenwerken für das IT-Finanzmanagement. Das bedeutet: Plattformen, die Kostendaten aus verschiedenen Quellen erfassen, einheitliche Kennzeichnungs- und Zuordnungsregeln anwenden und Ausgaben nicht nur nach Ressourcentyp, sondern auch nach Anwendungsfall und Geschäftsergebnis aufschlüsseln können.

Apptio, ein Unternehmen der IBM-Gruppe, ist hierfür bestens aufgestellt. Das TBM-Framework von Apptio bietet die Taxonomiestruktur zur Klassifizierung von Technologiekosten nach Geschäftsdienstleistungen und Ergebnissen und lässt sich auf KI-spezifische Kostenschichten ausweiten. Apptio Cloudability sorgt für Transparenz auf FinOps-Niveau bei den Ausgaben für cloudbasierte KI und deckt dabei die GPU-Nutzung, den API-Verbrauch sowie die Kosten auf Containerebene bei AWS, Azure und GCP ab.

Über die Plattform-Tools hinaus erfordert eine effektive KI-Kostensteuerung eine Prozessinfrastruktur: regelmäßige Kostenüberprüfungen, klare Zuordnungsregeln, die von der Finanzabteilung und der Technik dokumentiert und vereinbart wurden, sowie eine Tagging-Richtlinie, die bereits bei der Bereitstellung der Ressourcen durchgesetzt wird. Tools unterstützen die Steuerung, ersetzen sie jedoch nicht. Die Taxonomie muss durch Mitarbeiter und Prozesse umgesetzt werden, bevor die Tools konsistente und vertrauenswürdige Daten liefern können.

Für Unternehmen, die sowohl eine lokale KI-Infrastruktur als auch cloudbasierte KI-Dienste verwalten, ist die Integration zwischen FinOps-Tools und umfassenderen IT-Finanzmanagement-Plattformen besonders wichtig. Ohne diese Integration erhält man getrennte Übersichten über die KI-Ausgaben in der Cloud und vor Ort, was es unmöglich macht, fundierte Abwägungsentscheidungen darüber zu treffen, wo KI-Workloads ausgeführt werden sollen.

So unterstützen wir Sie beim Aufbau einer einheitlichen KI-Kostentaxonomie

Wir arbeiten mit Unternehmen zusammen, um KI-Kostentaxonomien zu entwerfen und zu implementieren, die Ausgabendaten vom ersten Tag an mit Geschäftsergebnissen verknüpfen. Unser Ansatz kombiniert das TBM-Framework für die strategische Kostenklassifizierung mit der FinOps-Methodik zur operativen Kontrolle der Cloud-Kosten und bietet Ihnen so einen einheitlichen Überblick über die KI-Ausgaben, unabhängig davon, wo die Workloads ausgeführt werden.

• Definieren Sie eine praxisorientierte, skalierbare Taxonomie für KI-Kosten, die auf Ihre bestehende IT-Finanzmanagementstruktur abgestimmt ist
• Legen Sie Zuweisungsregeln und Kennzeichnungsrichtlinien fest, mit denen KI-Kosten bestimmten Anwendungsfällen und Geschäftsdienstleistungen zugeordnet werden
• Implementierung der Apptio-Tools zur Automatisierung der Kostenerfassung, -zuordnung und -berichterstattung in Cloud- und lokalen KI-Umgebungen
• Entwickeln Sie einen Governance-Rhythmus, der sicherstellt, dass die Bereiche Finanzen, IT und Entwicklung bei Entscheidungen über KI-Ausgaben aufeinander abgestimmt sind
• Erweitern Sie Ihre bestehende FinOps-Praxis um KI-spezifische Kostenkategorien und Verbrauchsmuster abzudecken

Wenn Sie von verstreuten KI-Kostendaten zu einer einheitlichen, entscheidungsreifen Taxonomie übergehen möchten, Nehmen Sie Kontakt mit uns auf und wir zeigen Ihnen, wie Sie loslegen können.