Eine hochwertige KI-Forschungsplattform ist ihren Preis wert, wenn sie Prüfkontrollen bietet, die sich nicht kostengünstig nachbilden lassen: unveränderliche Prüfpfade, Datenherkunft, unabhängige Zertifizierungen wie SOC 2 Typ II und eine Kostenzuordnung, die sich bis zu den Geschäftsergebnissen zurückverfolgen lässt. Fehlen diese Funktionen bei einer Plattform, zahlen Sie für eine Marke und nicht für Risikominderung.
Die richtige Antwort hängt davon ab, welchen regulatorischen Anforderungen Sie unterliegen und in welcher Höhe Sie Ihre KI-Ausgaben gegenüber den Wirtschaftsprüfern und dem Finanzvorstand rechtfertigen müssen. In den folgenden Abschnitten erfahren Sie, welche Kontrollmaßnahmen Sie einfordern sollten, welche Zusicherungen Sie verlangen sollten und wie Sie den Wert nach Vertragsunterzeichnung quantifizieren und überwachen können.
Welche Funktionen des Prüfpfads unterscheiden Premium-Plattformen von Basisplattformen?
Premium-Plattformen protokollieren jede Abfrage, jede Quelle, jede Modellversion und jede Benutzeraktion in einem manipulationssicheren Protokoll, das Sie exportieren und durchsuchen können. Basisplattformen speichern bestenfalls den Chat-Verlauf. Dieser Unterschied entscheidet darüber, ob Sie nachvollziehen können, wie eine von der KI generierte Erkenntnis zu einer Entscheidung geführt hat – und genau das wird ein Prüfer von Ihnen wissen wollen.
Achten Sie bei der Bewertung eines KI-Prüfpfads auf folgende Funktionen:
- Unveränderliche Protokolle mit Zeitstempel die von Administratoren weder bearbeitet noch gelöscht werden können und für die festgelegte Aufbewahrungsfristen gelten.
- Eingabeaufforderung und Ausgabeerfassung die jede Antwort mit der genau verwendeten Modellversion und Konfiguration verknüpft.
- Quellenangaben und Datenherkunft aus der hervorgeht, welche Dokumente oder Datensätze jeweils als Grundlage für die einzelnen Ergebnisse dienten.
- Rollenbasierte Zugriffsprotokolle die aufzeichnet, wer die Ergebnisse angesehen, exportiert oder geteilt hat.
- Exportierbare Beweismittel in einem Format, das Ihre GRC- oder SIEM-Tools über eine API verarbeiten können.
Besondere Aufmerksamkeit verdienen die Kontrollen der Datenherkunft. Ohne sie lässt sich nicht nachweisen, dass ein Forschungsergebnis auf genehmigten, aktuellen und lizenzierten Quellen beruhte. Einfache Tools zeigen oft Zitate an, ohne zu erfassen, was das Modell zum jeweiligen Zeitpunkt tatsächlich abgerufen hat.
Welche Zusicherungen sollten Wirtschaftsprüfer von Anbietern einholen, bevor sie eine Premium-Stufe genehmigen?
Prüfer sollten unabhängige Bescheinigungen einfordern, keine Marketingaussagen: einen aktuellen SOC-2-Typ-II-Bericht, eine ISO-27001-Zertifizierung, eine Datenverarbeitungsvereinbarung sowie schriftliche Zusagen zur Verwendung von Trainingsdaten. Diese Dokumente belegen, dass die Kontrollmaßnahmen über einen längeren Zeitraum hinweg funktionieren – was ein Fragebogen, der sich auf einen bestimmten Zeitpunkt bezieht, nicht leisten kann.
Fragen Sie den Anbieter nach folgenden Informationen, bevor Sie die höhere Stufe genehmigen:
- SOC-2-Bericht Typ II die Sicherheit, Verfügbarkeit und Vertraulichkeit abdeckt, mit einem aktuellen Prüfungszeitraum und ohne offene Ausnahmen, die Ihren Anwendungsfall beeinträchtigen.
- ISO 27001 und, sofern zutreffend, ISO 42001 Zertifizierung für KI-Managementsysteme.
- Bestimmungen zur Datenverarbeitung die Auskunft darüber geben, ob Ihre Eingaben und Dokumente zum Trainieren ihrer Modelle verwendet werden, wo sich die Daten befinden und wie die Löschung funktioniert.
- Liste der Unterauftragsverarbeiter sowie das Recht auf Benachrichtigung bei Änderungen, da KI-Plattformen häufig auf Modellanbieter von Drittanbietern zurückgreifen.
- Reaktion auf Sicherheitsvorfälle und Meldung von Datenschutzverletzungen im Vertrag festgelegte Fristen.
- Recht auf Prüfung oder Zugriff auf Zusammenfassungen von Penetrationstests.
Lesen Sie den SOC-2-Bericht selbst und nicht nur das Gütesiegel. Prüfen Sie den Prüfungsumfang, denn Anbieter bescheinigen manchmal nur ihr Kernprodukt, während die KI-Funktionen außerhalb des geprüften Bereichs liegen. Dies ist die häufigste Lücke, die wir bei Prüfungen der KI-Governance feststellen.
Wie können Finanzteams den Wert dieser Kontrollmaßnahmen beziffern?
Finanzteams bewerten die Wirksamkeit von Prüfungssteuerungen, indem sie den Aufpreis mit den Kosten für den Arbeitsaufwand und dem durch diese Steuerungen verminderten Risiko vergleichen. Dabei werden die eingesparten Prüfungsstunden, die vermiedene manuelle Beweissammlung und die reduzierte Risikoexposition erfasst. Anschließend wird das Ergebnis pro Benutzer, pro Recherche-Workflow oder pro Geschäftsdienstleistung ausgedrückt.
Eine praxisorientierte Kostenanalyse für eine KI-Plattform stützt sich auf vier Faktoren:
- Einsparung beim Prüfungsaufwand: Stunden, die Ihre Compliance- und interne Revisionsteams derzeit mit der Erhebung von Nachweisen verbringen, im Vergleich zur Verwendung exportierbarer Protokolle.
- Nacharbeit vermieden: Zeit, die Analysten verlieren, wenn sie ein Forschungsergebnis nicht überprüfen oder reproduzieren können.
- Risikoexposition: die potenziellen Kosten einer behördlichen Feststellung, eines Datenlecks oder einer Entscheidung, die auf nicht überprüfbaren Ergebnissen basiert. Verwenden Sie Ihre eigenen Werte aus dem Risikoregister anstelle von allgemeinen Branchenzahlen.
- Verwendung: die Anzahl der aktiven Nutzer und Workflows, die tatsächlich von der Premium-Stufe profitieren.
Hier kommt das IT-Finanzmanagement ins Spiel. In einem Technology Business Management (TBM)-Modell ordnen Sie die KI-Ausgaben den Dienstleistungen und Produkten zu, die sie unterstützt, sodass Sie die Kosten der Steuerung direkt neben dem Wert ausweisen können, den sie schützt. Wenn Sie die TBM-KI-Ausgaben nach Geschäftsfunktionen nachverfolgen, wird eine Premium-Stufe zu einer Position, die Sie mit Daten begründen können – und nicht zu einer Lizenz, von der Sie hoffen, dass niemand sie in Frage stellt.
Was ist der Unterschied zwischen Premium-Steuerelementen und solchen, die man selbst erstellen kann?
Premium-Kontrollmechanismen sind in die Plattform integriert und verfügen über eine unabhängige Zertifizierung, während selbst entwickelte Kontrollmechanismen Ihnen Flexibilität bieten, jedoch die Verantwortung für die Konzeption, Wartung und den Nachweis auf Ihr eigenes Team verlagern. Sie können Protokollierungs- und Zugriffsrichtlinien selbst erstellen. In der Regel ist es jedoch nicht möglich, eine herstellerseitige Modell-Governance oder eine Bescheinigung zu erstellen, der ein Wirtschaftsprüfer vertrauen würde.
Vergleichen Sie die beiden Wege hinsichtlich dieser Punkte:
- Protokollierung und Überwachung: Sie können eine API mit Ihrer eigenen Protokollierung umschließen, sind dann aber selbst für die Aufbewahrung, Integrität und Vollständigkeit verantwortlich. Wenn Nutzer den Wrapper umgehen, entstehen Lücken.
- Datenherkunft: Eine Plattform, die den Abruf steuert, kann die Herkunft nativ erfassen. Wird diese außerhalb der Plattform rekonstruiert, gehen dabei oft Details verloren.
- Versicherung: Ein SOC-2-Typ-II-Bericht bezieht sich auf die Umgebung des Anbieters. Ihre selbst entwickelten Kontrollmaßnahmen müssen in jedem Prüfungszyklus separat geprüft und dokumentiert werden.
- Kosten im Zeitverlauf: Der Aufwand für Entwicklung und Wartung wird im ursprünglichen Business Case selten berücksichtigt; vergleichen Sie daher die Gesamtbetriebskosten und nicht nur die Lizenzgebühren.
Ein hybrider Ansatz funktioniert oft am besten. Kaufen Sie die Steuerungsfunktionen, die von den internen Abläufen des Anbieters abhängen, und entwickeln Sie diejenigen selbst, die an Ihre eigenen Richtlinien geknüpft sind, wie beispielsweise Genehmigungsworkflows und Kostenverrechnung. Wenn Sie diese Entscheidung im Zusammenhang mit anderen Technologieinvestitionen abwägen, strategisches Portfolio-Management hilft Ihnen dabei, es mit konkurrierenden Prioritäten eher anhand des Nutzens als anhand der Begeisterung zu vergleichen.
Wie sollten die Prüfkontrollen nach dem Kauf überwacht werden?
Überwachen Sie die Prüfkontrollen im Rahmen eines wiederkehrenden Überprüfungszyklus, bei dem geprüft wird, ob die Kontrollen noch funktionieren, Ihre Nutzung weiterhin abdecken und den Preis weiterhin rechtfertigen. Eine Abnahme beim Kauf sagt noch nichts über den Stand im zwölften Monat aus. Bestimmen Sie einen Verantwortlichen, legen Sie einen Rhythmus fest und verfolgen Sie sowohl den Zustand der Kontrollen als auch die Kosten.
Bauen Sie die Routine um diese Schritte herum auf:
- Überprüfen Sie die Zusicherungen der Lieferanten jährlich. Laden Sie den neuen SOC-2-Bericht herunter, prüfen Sie ihn auf Ausnahmen und vergewissern Sie sich, dass der Geltungsbereich weiterhin die von Ihnen genutzten KI-Funktionen umfasst.
- Führen Sie vierteljährlich eine Stichprobenprüfung des Prüfpfads durch. Wählen Sie einige Forschungsergebnisse aus und überprüfen Sie, ob Sie die Eingabeaufforderung, die Quelle, die Modellversion und den Nutzer zurückverfolgen können.
- Nutzung und Ausgaben nachverfolgen. Vergleichen Sie die Anzahl der aktiven Nutzer und die Arbeitslasten mit der von Ihnen bezahlten Premium-Stufe und nehmen Sie bei sinkender Nutzung ein Downgrade vor oder ordnen Sie die Ressourcen neu zu.
- Halten Sie Ausschau nach Veränderungen. Modellaktualisierungen, neue Unterauftragnehmer und neue Funktionen können Ihre Risikoposition verändern, ohne dass eine Neuverhandlung des Vertrags erforderlich ist.
- Bericht an die Interessengruppen. Bieten Sie den Bereichen Finanzen, Sicherheit und dem Unternehmen eine einheitliche Übersicht über die Kontrollleistung und die Kosten.
Diese Vorgehensweise spiegelt wider, wie Sie Ihre Cloud-Ausgaben verwalten. A FinOps Dieser Ansatz beim Einsatz von KI gewährleistet ein gleichbleibendes Maß an Transparenz, Verantwortlichkeit und Optimierung, sodass die Kosten für Premium-KI-Tarife nicht außer Kontrolle geraten.
Wie wir Ihnen helfen, die Ausgaben für KI-Plattformen zu rechtfertigen und zu steuern
Wir helfen Ihnen dabei, die Kosten für KI-Plattformen, Prüfkontrollen und den geschäftlichen Nutzen in einer entscheidungsreifen Übersicht miteinander zu verknüpfen. Seit 2009 unterstützen wir Unternehmen dabei, IT, Geschäft und Finanzen miteinander zu verknüpfen, und wenden bei den KI-Ausgaben dieselbe Methodik an wie bei Cloud- und On-Premise-Technologien.
So unterstützen wir Sie:
- Mithilfe von Technology Business Management ordnen wir die Kosten der KI-Plattform den Geschäftsdienstleistungen zu, sodass Sie aufzeigen können, was jede einzelne Premium-Kontrollfunktion kostet und was sie schützt.
- Wir erarbeiten gemeinsam mit Ihnen die Wirtschaftlichkeitsanalyse und vergleichen dabei die verschiedenen Premium-Stufen mit den Optionen zur Eigenentwicklung hinsichtlich der Gesamtbetriebskosten.
- Wir richten Governance-Strukturen, Zuständigkeiten und Überprüfungsrhythmen ein, die dafür sorgen, dass Kontrollen und Kosten nach dem Kauf unter Kontrolle bleiben.
- Wir wenden FinOps-Praktiken auf den Einsatz von KI und die Cloud-Nutzung an, damit die Ausgaben stets am Mehrwert ausgerichtet bleiben.
- Wir arbeiten eng mit Ihren Finanz-, IT- und Beschaffungsteams zusammen, damit Entscheidungen alle drei Perspektiven berücksichtigen.
Möchten Sie wissen, ob sich eine hochwertige KI-Forschungsplattform für Ihr Unternehmen lohnt? Nehmen Sie Kontakt mit uns auf und wir helfen Ihnen dabei, ein Konzept zu entwickeln, das Sie gegenüber Ihren Wirtschaftsprüfern und Ihrem Finanzvorstand vertreten können.