Käufer sollten KI-Anbieter anhand der Gesamtkosten für eine abgeschlossene und abgenommene Aufgabe vergleichen, nicht anhand von Symbolpreisen oder Lizenzgebühren. Teilen Sie die Gesamtausgaben (Nutzung, Wiederholungsversuche, Integration, Überprüfung und Support) durch die Anzahl der Aufgaben, die Ihren Qualitätsstandard erfüllen. Erst dann lassen sich Angebote mit unterschiedlichen Preismodellen miteinander vergleichen.
Ein Pauschalpreis oder eine Gebühr pro Mitarbeiter sagt wenig darüber aus, was Sie tatsächlich für ein fertiges Ergebnis bezahlen. Fehler, manuelle Überprüfungen und Plattformkosten verändern den tatsächlichen Betrag – oft sogar erheblich. In den folgenden Abschnitten erfahren Sie, wie Sie eine Aufgabe definieren, die schwierigsten Preismodelle erkennen und einen Vergleich erstellen, auf den sich Ihre Finanzabteilung verlassen kann.
Was gilt als abgeschlossene KI-Aufgabe?
Eine abgeschlossene KI-Aufgabe ist eine Arbeitseinheit, die einen vereinbarten Endzustand erreicht und Ihre Abnahmekriterien ohne weitere manuelle Korrekturen erfüllt. Eine vorformulierte Antwort, die ein Mitarbeiter überarbeiten muss, gilt nicht als abgeschlossen. Ein gelöstes Support-Ticket, das geschlossen bleibt, hingegen schon.
Legen Sie fest, was unter “Abschluss” zu verstehen ist, bevor Sie einen Anbieter um ein Angebot bitten. Anbieter zählen oft eine “Aktion”, einen “Durchlauf” oder ein „Gespräch“ als Abschluss, wobei jede dieser Einheiten auch unvollendete oder abgelehnte Arbeiten umfassen kann. Halten Sie Ihre eigene Definition schriftlich fest und prüfen Sie jedes Angebot anhand dieser Definition.
Eine brauchbare Definition besteht aus drei Teilen:
- Ein klarer Anfang und ein klares Ende: Was löst die Aufgabe aus und welche Ausgabe beendet sie?
- Ein Abnahmetest: Wer oder was überprüft das Ergebnis und wo liegt die Schwelle für “gut genug”?”
- Ein Lebensdauerfenster: wie lange das Ergebnis gültig sein muss, beispielsweise ein Ticket, das nicht innerhalb von sieben Tagen erneut geöffnet wird.
Unterschiedliche Arbeitsabläufe erfordern unterschiedliche Definitionen. Eine Dokumentenzusammenfassung, eine Codeänderung und eine Entscheidungsfindung zu Leistungsansprüchen haben jeweils ihre eigenen Qualitätsstandards; daher sollten Sie Anbieter jeweils nur innerhalb einer Aufgabenart miteinander vergleichen.
Welche Preismodelle im Bereich KI lassen sich am schwersten vergleichen?
Tokenbasierte, platzbezogene und ergebnisorientierte Preisgestaltung lassen sich am schwersten vergleichen, da jede davon etwas anderes misst. Token messen das Eingangs- und Ausgangsvolumen, Plätze messen den Zugang und die ergebnisorientierte Preisgestaltung misst die Ergebnisse. Keine dieser Methoden lässt sich ohne zusätzliche Annahmen direkt auf eine abgeschlossene Aufgabe übertragen.
Und hier sind die Gründe, warum sich die einzelnen Modelle einem direkten Vergleich entziehen:
- Token-Preisgestaltung: Der Preis pro Token scheint zwar genau festgelegt zu sein, doch die Anzahl der Token, die eine Aufgabe verbraucht, hängt von der Länge der Eingabe, der Kontextgröße, der Modellauswahl und den Schlussfolgerungsschritten des Agenten ab. Zwei Anbieter mit derselben Token-Rate können sich hinsichtlich der Kosten pro Aufgabe erheblich unterscheiden.
- Preise für Einzelplätze oder Abonnements: Hinter einer Pauschalgebühr verbergen sich Nutzungsbeschränkungen, Obergrenzen für die faire Nutzung und Gebühren für die Überschreitung des Kontingents. Ihre Kosten pro Aufgabe sinken bei steigendem Volumen und steigen, wenn die Nutzung gering bleibt.
- Guthaben- oder Aktionspakete: Anbieter wandeln Aktivitäten zu Sätzen, die je nach Funktion variieren, in Credits um. Eine Aufgabe kann mehrere Credits kosten.
- Ergebnisorientierte Preisgestaltung: Sie zahlen pro gelöstem Fall oder akzeptiertem Ergebnis, was einfach klingt. Der Haken liegt darin, wie der Anbieter Erfolg definiert und was mit den Fehlschlägen geschieht, die er selbst trägt.
Rechnen Sie jedes Modell vor dem Vergleich auf dieselbe Einheit um, nämlich die Kosten pro angenommener Aufgabe. Alles, was sich nicht umrechnen lässt, stellt ein Risiko bei der Preisgestaltung dar.
Wie wirken sich fehlgeschlagene und erneut ausgeführte Aufgaben auf die tatsächlichen Kosten aus?
Fehlgeschlagene und erneut ausgeführte Aufgaben erhöhen Ihre tatsächlichen Kosten pro abgeschlossener Aufgabe, da Sie für jeden Versuch bezahlen – nicht nur für den erfolgreichen. Wenn ein Mitarbeiter drei Versuche benötigt, um ein akzeptiertes Ergebnis zu liefern, entsprechen Ihre effektiven Kosten in etwa den Kosten für drei Versuche zuzüglich der Zeit für die Überprüfung.
Die einfache Rechnung verdeutlicht dies: Die effektiven Kosten pro abgeschlossener Aufgabe entsprechen den Gesamtkosten aller Versuche geteilt durch die Anzahl der akzeptierten Ergebnisse. Eine niedrige Erfolgsquote führt dazu, dass sich ein günstiger Preis pro Versuch zu einem teuren Endergebnis summiert.
Drei Faktoren treiben die Kosten in die Höhe:
- Wiederholungsversuche: automatische Wiederholungsversuche, bei denen jedes Mal Tokens oder Credits verbraucht werden.
- Eskalationen: Aufgaben, die der Agent aufgibt und an einen Menschen weitergibt, was bedeutet, dass Sie sowohl für den fehlgeschlagenen KI-Versuch als auch für die menschliche Arbeit bezahlen.
- Unauffällige Fehler: Ergebnisse, die auf den ersten Blick fertig erscheinen, später jedoch fehlschlagen, was Nacharbeit verursacht und manchmal Auswirkungen auf die Kunden hat.
Fragen Sie jeden Anbieter nach den Erfolgsquoten bei Aufgaben, die Ihren ähnlich sind, und führen Sie einen eigenen Pilotversuch durch, um diese zu überprüfen. Betrachten Sie die Benchmarks der Anbieter als Ausgangspunkt, da sich Ihre Daten und Randfälle anders verhalten werden.
Welche versteckten Kosten sollten zum Preis pro Aufgabe hinzugerechnet werden?
Zu den versteckten Kosten zählen die manuelle Überprüfung, die Integration und Datenaufbereitung, die Überwachung, Sicherheits- und Compliance-Maßnahmen sowie die Plattform- oder Infrastrukturgebühren, die mit dem Modell selbst verbunden sind. Addieren Sie diese Kosten zum Listenpreis des Anbieters hinzu, um die tatsächlichen Gesamtbetriebskosten für KI zu ermitteln.
Gehen Sie diese Checkliste für jedes Angebot durch:
- „Human in the Loop“: Zeitaufwand für die Überprüfung, Genehmigung oder Korrektur von Ergebnissen.
- Integration und Einrichtung: Systeme miteinander verknüpfen, Daten bereinigen und Eingabeaufforderungen oder Arbeitsabläufe erstellen.
- Beobachtbarkeit und Bewertung: Werkzeuge und Personalaufwand für die Überwachung der Qualität und der Abweichungen.
- Governance: Sicherheitsüberprüfungen, rechtliche Prüfungen und Prüfungsanforderungen.
- Ausgaben für Cloud-Lösungen: Speicher, Vektordatenbanken, Orchestrierung und Netzwerkkosten, die sich je nach Nutzung skalieren lassen.
- Veränderung und Weiterbildung: die Teams dazu zu bringen, das Tool so gut zu nutzen, dass das versprochene Volumen erreicht wird.
Verteilen Sie einmalige Kosten auf das erwartete Aufgabenvolumen und wiederkehrende Kosten auf den Zeitraum, für den sie anfallen. So wird verhindert, dass ein Anbieter mit niedrigen Nutzungsgebühren, aber hohen Einrichtungskosten günstiger erscheint, als er tatsächlich ist.
Wie können Einkäufer einen fairen Vergleich der Kosten pro Aufgabe erstellen?
Um einen fairen Vergleich zu ermöglichen, sollten alle Anbieter mit derselben Stichprobe realer Aufgaben getestet, eine einheitliche Definition für die Fertigstellung zugrunde gelegt und die Gesamtkosten pro angenommener Aufgabe berechnet werden. Durch die Verwendung identischer Eingabedaten und identischer Abnahmekriterien lassen sich die meisten Verzerrungen, die durch Preismodelle entstehen, beseitigen.
Befolgen Sie diese Schritte:
- Wählen Sie ein repräsentatives Aufgabenbeispiel aus. Beziehen Sie einfache, typische und schwierige Fälle in realistischen Anteilen mit ein.
- Legen Sie die Akzeptanzkriterien fest. Verwenden Sie für jeden Anbieter dieselben Prüfer und dieselbe Bewertungsrubrik.
- Erfassen Sie den gesamten Verbrauch. Erfassen Sie Tokens, Credits, Wiederholungsversuche, Eskalationen und die Dauer der Überprüfung pro Aufgabe.
- Rechnen Sie die versteckten Kosten hinzu. Einschließlich Einrichtung, Werkzeuge und Steuerung, aufgeschlüsselt nach Aufgaben.
- Berechne die Kosten pro angenommener Aufgabe. Teile die Gesamtkosten durch die Anzahl der Ergebnisse, die die Überprüfung bestanden haben.
- Test bei voller Lautstärke. Modellieren Sie Ihr erwartetes monatliches Volumen, da sich die Preise für Lizenzen und Pakete mit steigender Nutzung ändern.
- Heben Sie die Annahmen hervor. Führen Sie die Berechnungen mit niedrigeren Erfolgsraten und höherem Token-Verbrauch erneut durch, um zu sehen, wie empfindlich die einzelnen Angebote reagieren.
Vergleichen Sie die sich daraus ergebende Spanne und nicht nur eine einzelne Zahl. Ein Anbieter mit einem etwas höheren Durchschnitt, dessen Kosten jedoch weitaus besser vorhersehbar sind, könnte für Sie besser geeignet sein als einer, dessen Kosten bei jeder kleinen Änderung stark schwanken.
Wie können Finanz- und IT-Teams die Kosten für KI-Aufgaben im Griff behalten?
Finanz- und IT-Teams halten die Kosten für KI-Aufgaben unter Kontrolle, indem sie sich auf eine gemeinsame Zuständigkeit einigen, die Kosten pro Aufgabe als feste Kennzahl erfassen und diese in regelmäßigen Abständen überprüfen. Ohne klare Verantwortlichkeiten und einen festen Entscheidungsrhythmus steigen die KI-Ausgaben schneller als der damit erzielte Nutzen.
Die gleichen Probleme, die bei den Cloud-Ausgaben auftreten, zeigen sich auch im Bereich der KI: Die Teams, die die Nutzung vorantreiben, sehen die Rechnung selten, Berichte zeigen Ausgaben auf, ohne dass Entscheidungen angestoßen werden, und die Bereiche Finanzen, IT und Entwicklung optimieren aus unterschiedlichen Blickwinkeln. Unser FinOps-Ansatz geht genau auf diese Lücken ein, und die Grundsätze lassen sich auf KI-Workloads übertragen.
Führen Sie folgende Maßnahmen ein:
- KI-Nutzung kennzeichnen und zuordnen zu den Teams, Produkten und Anwendungsfällen, die sie generieren.
- Zielkosten pro Einheit festlegen pro Aufgabentyp und eine Warnmeldung ausgeben, wenn die tatsächlichen Kosten davon abweichen.
- Führen Sie eine regelmäßige Überprüfung durch wo die Finanzabteilung, die IT und das operative Geschäft entscheiden, was optimiert, ausgebaut oder eingestellt werden soll.
- Wägen Sie Kosten, Leistung und Risiko gegeneinander ab, Das bedeutet also, dass günstigere Modelle nicht zwangsläufig eine geringere Qualität aufweisen.
- KI-Investitionen mit Ergebnissen verknüpfen innerhalb Ihres weiteren strategisches Portfolio-Management, sodass sich jede Initiative ihren Platz verdient.
Automatisieren Sie die Zuweisung und Berichterstellung, wo immer es möglich ist. Manuelle Tabellenkalkulationen sind nicht mehr praktikabel, sobald mehrere Teams mehrere Agenten auf verschiedenen Modellen einsetzen.
Wie FinOps bei den KI-Kosten pro Aufgabe hilft
Die Ausgaben für KI verhalten sich ähnlich wie die Ausgaben für die Cloud: Sie sind nutzungsabhängig, ändern sich schnell und erfordern eine klare Zuständigkeit, um in geschäftlichen Mehrwert umgewandelt zu werden. Wir unterstützen Sie dabei, FinOps- und Technology Business Management (TBM)-Praktiken auf den KI-Bereich anzuwenden, damit Sie die Kosten jeder abgeschlossenen Aufgabe erkennen, vergleichen und steuern können.
Seit 2009 unterstützen wir Unternehmen dabei, IT, Geschäftsabläufe und Finanzen miteinander zu verknüpfen. Das bedeutet für Ihren KI-Kostenvergleich Folgendes:
- Ein FinOps-Betriebsmodell das die Steuerung, die Rollen und die Entscheidungsbefugnisse in Bezug auf KI- und Cloud-Ausgaben festlegt.
- Zuverlässige Kostendaten und -zuordnung, damit Sie wissen, welches Team und welcher Anwendungsfall hinter jedem Euro steht.
- Entscheidungsreife Unit Economics, einschließlich der Kosten pro Ergebnis, auf die sowohl die Finanzabteilung als auch die IT-Abteilung vertrauen.
- TBM-Integration die Technologieausgaben mit Dienstleistungen, Produkten und Geschäftsergebnissen verknüpft.
- Flexible Unterstützung, von einer Bewertung Ihres aktuellen Reifegrades bis hin zu FinOps as a Service und rollenbasierten Schulungen.
Unsere Kunden haben Einsparungen von bis zu 30 % bei ihren Cloud-Ausgaben erzielt, und denselben pragmatischen, wertorientierten Ansatz wenden wir auch bei den KI-Kosten an. Wenn Sie nach einer fairen und fundierten Methode suchen, um KI-Anbieter zu vergleichen, Nehmen Sie Kontakt mit uns auf und wir helfen Ihnen dabei, es aufzubauen.