Welche SLAs rechtfertigen höhere Kosten für die Orchestrierung von KI-Agenten?

Sie sollten nur dann mehr für ein SLA zur Orchestrierung von KI-Agenten bezahlen, wenn dieses Ergebnisse garantiert, die für Ihr Unternehmen von Bedeutung sind: Aufgabenabschlussquoten, End-to-End-Latenz, Kostenvorhersehbarkeit und sinnvolle Abhilfemaßnahmen, falls der Anbieter diese Ziele verfehlt. Ein höherer Preis für reine Verfügbarkeit zahlt sich selten aus, da eine Plattform zwar “in Betrieb” sein kann, Ihre Agenten jedoch ausfallen, ins Stocken geraten oder zu hohe Kosten verursachen können.
Der Aufpreis ist gerechtfertigt, wenn jede Garantie einem messbaren Geschäftsrisiko entspricht und mit einem Kredit- oder Ausstiegsrecht verbunden ist, das dem Schaden angemessen ist. In den folgenden Abschnitten wird erläutert, welche SLAs ihren Preis rechtfertigen, welche Rolle Kostenbegrenzungen dabei spielen und wie Sie die Versprechen eines Anbieters prüfen können, bevor Sie einen Vertrag unterzeichnen.

Warum reichen herkömmliche SLAs zur Verfügbarkeit für KI-Agenten nicht aus?

Standard-SLAs zur Verfügbarkeit messen, ob die Orchestrierungsplattform reagiert, nicht aber, ob Ihre Agenten nützliche Arbeit leisten. Ein Agenten-Workflow kann einen 200-Statuscode zurückgeben, während ein Modellaufruf in die Zeitüberschreitung läuft, ein Tool-Schritt in einer Schleife hängt oder eine Übergabe zwischen Agenten stillschweigend fehlschlägt. Eine Verfügbarkeit von 99,9 % sagt wenig über diese Ergebnisse aus.

Agent-Workflows verknüpfen zahlreiche Abhängigkeiten miteinander: die Orchestrierungsebene, einen oder mehrere Modellanbieter, externe Tools, Vektorspeicher und Ihre eigenen APIs. Ein herkömmliches SLA deckt in der Regel nur die Steuerungsebene des Anbieters ab. Wenn es bei einem nachgelagerten Modellanbieter zu Leistungseinbußen kommt, schließt der Anbieter diesen oft aus, und Sie müssen die Auswirkungen tragen.

Das Verhalten der Agenten ist zudem nicht deterministisch. Dieselbe Anfrage kann zwei oder auch zwanzig Schritte umfassen, sodass Latenz und Kosten weitaus stärker schwanken als bei herkömmlicher Software. Ein Vertrag, der die Plattform wie eine statische API behandelt, ignoriert diese Schwankungen. Achten Sie beim Vergleich von Anbietern auf Garantien, die den gesamten Workflow abdecken, nicht nur den Endpunkt.

Für welche SLA-Kennzahlen lohnt es sich, einen Aufpreis zu zahlen?

Zu den SLA-Kennzahlen, für die ein Aufpreis gerechtfertigt ist, gehören die Erfolgsquote des Workflows, die Perzentile der End-to-End-Latenz, die Wiederherstellungszeit sowie die Verpflichtungen hinsichtlich Daten und Audits. Jede dieser Kennzahlen steht in direktem Zusammenhang mit einem Geschäftsergebnis. Zahlen Sie nur dann einen Aufpreis, wenn es sich um Garantien handelt, die Sie unabhängig messen können und zu denen sich der Anbieter schriftlich verpflichtet.

Erfolgs- und Abschlussquote des Workflows

Verlangen Sie eine garantierte Abschlussquote für definierte Workflows, wobei klar festgelegt sein muss, was als Fehlschlag gilt. Hierzu sollten ins Stocken geratene Läufe, ausgeschöpfte Wiederholungsversuche und Tool-Fehler zählen. Eine Abschlussgarantie schützt Sie davor, für Läufe zu bezahlen, die keine Ergebnisse liefern.

Latenz am 95. und 99. Perzentil

Die durchschnittliche Latenz verschleiert die langsamen Durchläufe, die die Nutzer frustrieren und nachgelagerte Prozesse beeinträchtigen. Legen Sie Perzentil-Zielwerte für Anfragen (p95 und p99) pro Workflow-Typ fest und prüfen Sie, ob die Wartezeit bei Modellanbietern von Drittanbietern auf den Zielwert angerechnet wird.

Maßnahmen zur Wiederherstellung und Unterstützung

Achten Sie auf Wiederherstellungszeitziele für fehlgeschlagene oder unterbrochene Läufe, einschließlich der Möglichkeit, den Vorgang ab dem letzten Prüfpunkt fortzusetzen, anstatt ihn neu zu starten. Kombinieren Sie dies mit Reaktionszeiten des Supports, die sich nach dem Schweregrad richten. Eine schnelle Reaktion bei Vorfällen, die den Produktionsbetrieb blockieren, ist wertvoller als ein großzügiges Reaktionsfenster für kleinere Fragen.

Datenverarbeitung und Nachvollziehbarkeit

Wenn Mitarbeiter mit sensiblen Daten arbeiten oder Entscheidungen treffen, müssen Sie dies begründen, die Kosten für die Aufbewahrung von Protokollen übernehmen, die Nachverfolgbarkeit jedes einzelnen Schritts der Mitarbeiter gewährleisten und klare Bestimmungen zur Datenaufbewahrung festlegen. Diese Verpflichtungen sind in regulierten Umgebungen von größter Bedeutung.

Inwiefern fließen Kosten- und Nutzungsgrenzen in SLAs ein?

Kosten- und Nutzungsgrenzen gehören in das SLA, da die Ausgaben für Agenten variabel sind und schnell in die Höhe schnellen können. Ein solider Vertrag enthält Ausgabenobergrenzen, Ratenbegrenzungen, Warnmeldungen und Schutzmechanismen, damit ein außer Kontrolle geratener Agent keine ungeplanten Kosten verursacht. Behandeln Sie diese als finanzielle Kontrollmechanismen und nicht als optionale Funktionen.

Bei der Preisgestaltung für die Agenten-Orchestrierung werden häufig Plattformgebühren mit token-, aufruf- oder schrittbasierten Gebühren kombiniert. Ein sich endlos wiederholender Agent oder ein falsch konfigurierter Workflow kann diese Kosten innerhalb weniger Minuten vervielfachen. Bitten Sie den Anbieter, feste Budgetgrenzen pro Team oder Arbeitslast zuzusagen, eine automatische Abschaltung bei Erreichen von Schwellenwerten zu gewährleisten und Nutzungsberichte bereitzustellen, die detailliert genug sind, um die Kosten den jeweiligen Produkten und Verantwortlichen zuzuordnen.

Hier hilft das AI-FinOps-Konzept. Es gelten dieselben Grundsätze wie bei den Cloud-Ausgaben: klare Zuständigkeiten, vorhersehbare Stückkosten und Entscheidungen, die auf einer Abwägung von Kosten, Leistung und Risiko basieren. Wenn Sie bereits ein Cloud-Kostenmanagement betreiben, erweitern Sie dieses auf KI-Agenten, anstatt ein separates System aufzubauen. Prüfen Sie außerdem, ob Preisänderungen der Modellanbieter an Sie weitergegeben werden und mit welcher Vorlaufzeit, denn diese Klausel beeinflusst Ihre Prognose ebenso stark wie jede Verfügbarkeitskennzahl.

Was decken SLA-Gutschriften und -Strafen eigentlich ab?

SLA-Gutschriften erstatten in der Regel nur einen kleinen Teil Ihrer monatlichen Plattformgebühr, nicht jedoch den geschäftlichen Schaden, den ein Ausfall verursacht. Die meisten Gutschriften sind nach Höhe begrenzt, erfordern die Einreichung eines Antrags und schließen Ausfälle nachgelagerter Modelle oder Tools aus. Ein Premium-SLA lohnt sich nur, wenn die Abhilfemaßnahme Ihr tatsächliches Risiko sinnvoll ausgleicht.

Beachten Sie das Kleingedruckte zu den folgenden vier Punkten:

  • Kreditvolumen und Obergrenze: Prüfen Sie, ob sich die Credits proportional zum Schweregrad erhöhen oder auf einem niedrigen Prozentsatz konstant bleiben.
  • Ausnahmen: Achten Sie auf Ausnahmen für Drittanbieter, geplante Wartungsarbeiten und Fehlkonfigurationen seitens der Kunden.
  • Ablauf der Schadensmeldung: Klären Sie, wer die Abweichung misst. Vom Anbieter gemessene Daten fallen zugunsten des Anbieters aus.
  • Ausstiegsrechte: Bei wiederholten Zahlungsausfällen sollte eine Kündigung ohne Vertragsstrafe möglich sein, was oft wichtiger ist als eine Gutschrift.

Wenn der maximale Kreditbetrag nur einen Bruchteil der Kosten ausmacht, die Ihnen durch einen Ausfall entstehen, erhalten Sie mit einem höheren Tarif vor allem vorrangigen Support und klarere Zusagen, aber keinen finanziellen Schutz. Legen Sie den Preis entsprechend fest.

Wie lässt sich prüfen, ob sich ein Premium-SLA lohnt?

Sie können ein Premium-SLA testen, indem Sie vor einer endgültigen Entscheidung ein kostenpflichtiges Pilotprojekt durchführen, bei dem die Garantien des Anbieters anhand Ihrer eigenen Workloads überprüft werden. Vergleichen Sie die zusätzlichen Kosten der höheren Stufe mit den messbaren Kosten der Ausfälle, die dadurch verhindert würden. Wenn sich die Zahlen nicht aufrechnen lassen, bleiben Sie bei der Standardstufe.

Befolgen Sie diese einfachen Schritte:

  1. Legen Sie Ihre Ausfallkosten fest. Schätzen Sie, welche Kosten ein fehlgeschlagener Durchlauf, ein langsamer Durchlauf und eine Stunde Ausfallzeit in Form von entgangenen Einnahmen, Nacharbeiten oder Auswirkungen auf die Kunden verursachen.
  2. Spiele das Instrument selbstständig. Verfolgen Sie die Erfolgsquote, die Latenz-Perzentile und die Ausgaben mithilfe Ihres eigenen Überwachungssystems, damit Sie sich nicht ausschließlich auf die Dashboards der Anbieter verlassen müssen.
  3. Führen Sie eine realistische Belastung durch. Testen Sie mit produktionsnahen Volumina, Tool-Aufrufen und Randfällen, einschließlich eines Szenarios mit eingeschränkter Anbieterleistung.
  4. Vergleichen Sie die Tarife. Berechnen Sie die Preisdifferenz im Verhältnis zur erwarteten Senkung der Ausfallkosten und prüfen Sie die Kreditobergrenze im Hinblick auf Ihr Risiko.
  5. Die Lücken aushandeln. Nutzen Sie die Daten aus dem Pilotprojekt, um im endgültigen Vertrag mit dem Orchestrierungsanbieter strengere Definitionen, weniger Ausschlussklauseln und Ausstiegsrechte durchzusetzen.

Überprüfen Sie die Entscheidung bei der Verlängerung erneut. Nutzungsmuster ändern sich, und eine Stufe, die im Pilotmaßstab sinnvoll war, passt möglicherweise nicht mehr, sobald die Agenten in mehreren Teams zum Einsatz kommen. Wenn Ihr Agentenportfolio wächst, strategisches Portfolio-Management hilft Ihnen dabei, zu entscheiden, welche Workloads Premium-Garantien verdienen und welche nicht.

Wie „It’s Value“ bei der Kostenkontrolle für KI-Agenten hilft

Wir helfen Ihnen dabei, SLA-Entscheidungen in finanzielle Entscheidungen umzusetzen. Schwankende Ausgaben für Mitarbeiter, Anbieterstufen und nachgelagerte Modellkosten lassen sich nur dann in den Griff bekommen, wenn die Bereiche Finanzen, IT und Technik auf denselben Daten basieren und über dieselben Entscheidungsbefugnisse verfügen. Genau das bauen wir gemeinsam mit Ihnen auf.

  • Wir haben eine FinOps ein Betriebsmodell, das die Steuerung, die Zuständigkeiten und die Kostenverteilung für variable, nutzungsabhängige Technologieausgaben abdeckt.
  • Wir helfen Ihnen dabei, verlässliche Kostendaten zu erstellen, damit Sie die verschiedenen Orchestrierungsstufen anhand der tatsächlichen Stückkosten statt anhand von Anbieterschätzungen vergleichen können.
  • Mithilfe von Technology Business Management stellen wir einen Zusammenhang zwischen Ausgaben und geschäftlichem Nutzen her, sodass Sie beurteilen können, ob ein Premium-SLA die Ergebnisse verbessert oder lediglich die Kosten in die Höhe treibt.
  • Wir unterstützen Sie mit Informationen für Verhandlungen mit Anbietern, einschließlich der Abwägung zwischen Kosten und Leistung bei den verschiedenen Optionen.

Möchten Sie wissen, für welche SLAs es sich in Ihrer Situation lohnt, zu bezahlen? Nehmen Sie Kontakt mit uns auf Und wir helfen Ihnen dabei, diese Entscheidung anhand von Daten zu treffen.

Sein Wert
Datenschutz-Übersicht

Diese Website verwendet Cookies, damit wir dir die bestmögliche Benutzererfahrung bieten können. Cookie-Informationen werden in deinem Browser gespeichert und führen Funktionen aus, wie das Wiedererkennen von dir, wenn du auf unsere Website zurückkehrst, und hilft unserem Team zu verstehen, welche Abschnitte der Website für dich am interessantesten und nützlichsten sind.