Ein KI-Anbieter sollte ausgeschlossen werden, wenn ihm grundlegende Kontrollmechanismen zum Schutz Ihrer Daten fehlen und er keinen glaubwürdigen Plan vorlegen kann, um diese Lücke zu schließen. Fehlende Verschlüsselung, das Fehlen unabhängiger Prüfnachweise, fehlende Zugriffskontrollen oder keine Zusicherung darüber, ob Ihre Daten zum Trainieren von Modellen verwendet werden, sind die eindeutigsten Ausschlusskriterien.
Der Kontext spielt jedoch eine wichtige Rolle. Eine Sicherheitslücke in einem Anwendungsfall mit geringem Risiko ist nicht dasselbe wie dieselbe Lücke in einem Tool, das mit Kundendaten oder Finanzunterlagen zu tun hat. In diesem Artikel wird erläutert, wie man schwerwiegende Sicherheitslücken von behebbaren unterscheidet, welche Sicherheitsmaßnahmen man einfordern sollte, wie man diese überprüft und wann man verhandeln sollte, anstatt das Projekt abzubrechen.
Was unterscheidet eine Kontrolllücke, die ein Ausschlusskriterium darstellt, von einer, die behoben werden kann?
Eine kritische Lücke setzt Ihre Daten oder Betriebsabläufe einem Risiko aus, das der Anbieter nicht innerhalb Ihrer Risikotoleranz oder Ihres Zeitrahmens beheben kann. Eine behebbare Lücke ist eine Lücke, die der Anbieter durch eine dokumentierte, datierte und vertraglich bindende Verpflichtung schließen kann, ohne dass sich in der Zwischenzeit etwas an der Art und Weise ändert, wie Ihre Daten verarbeitet werden.
Verwenden Sie drei Tests, um etwaige Lücken in Ihrer Risikobewertung von KI-Anbietern zu identifizieren:
- Vertraulichkeit der Daten: Verarbeitet das KI-Tool personenbezogene, finanzielle oder vertrauliche Daten? Je sensibler die Daten sind, desto weniger Lücken können Sie in Kauf nehmen.
- Explosionsradius: Wenn die Kontrollmaßnahme versagt, wie viele Systeme, Kunden oder Prozesse sind davon betroffen?
- Sanierungsgeschwindigkeit: Kann der Anbieter die Lücke noch vor der Inbetriebnahme schließen, und wird er sich dazu schriftlich verpflichten?
Eine fehlende Kontrollmaßnahme, die alle drei Tests nicht besteht, führt zur Disqualifizierung. Eine fehlende Kontrollmaßnahme, die Daten mit geringer Sensibilität betrifft, begrenzt ist und leicht zu beheben ist, sollte Gegenstand von Verhandlungen sein und nicht zur Ablehnung führen.
Welche fehlenden Sicherheitsmaßnahmen sind für KI-Anbieter automatische Warnsignale?
Bei automatischen Warnsignalen fehlen grundlegende Elemente, auf die kein seriöser Anbieter verzichten sollte: keine Verschlüsselung von Daten während der Übertragung und im Ruhezustand, keine unabhängige Zertifizierung wie SOC 2 oder ISO 27001, keine rollenbasierte Zugriffskontrolle, kein Verfahren zur Reaktion auf Vorfälle und keine Verpflichtung zur Meldung von Datenschutzverletzungen. Schon eines dieser Elemente sollte Sie dazu veranlassen, Ihre Zustimmung auszusetzen.
Betrachten Sie diese als Ihre zentralen Ausschlusskriterien für KI-Anbieter:
- Keine Verschlüsselung: Daten werden ungeschützt übertragen oder gespeichert. Dies ist ein grundlegender Fehler und kein Konfigurationsdetail.
- Keine unabhängigen Prüfungsnachweise: Ein Anbieter, der weder über einen SOC-2-Bericht noch über ein ISO-27001-Zertifikat oder eine vergleichbare Bewertung verfügt, verlangt von Ihnen, sich allein auf seine Behauptungen zu verlassen.
- Mangelhafte Zugriffsverwaltung: Keine Multi-Faktor-Authentifizierung, kein Zugriff nach dem Prinzip der geringsten Berechtigungen und keine Protokollierung, wer auf Ihre Daten zugreift.
- Keine Bestimmungen zur Reaktion auf Vorfälle oder zur Meldung von Datenschutzverletzungen: Ein Risiko, von dem man erst Wochen später erfährt, kann man nicht bewältigen.
- Unklare Unterauftragsverarbeiter: Der Anbieter kann Ihnen nicht mitteilen, welche Dritten Ihre Daten verarbeiten und wo dies geschieht.
- Kein Datenlöschvorgang: Bei Vertragsende können Sie Ihre Daten nicht löschen lassen.
Vage Antworten verdienen ebenso viel Aufmerksamkeit wie fehlende Antworten. Wenn ein Anbieter eine Kontrollmaßnahme nicht in verständlichen Worten erklären kann, sollten Sie davon ausgehen, dass sie nicht zuverlässig funktioniert.
Welche KI-spezifischen Kontrollmechanismen muss ein Anbieter vor der Zulassung vorweisen?
Über die Standard-Sicherheitsmaßnahmen hinaus muss ein KI-Anbieter kontrollieren, wie Ihre Daten in die Modelle einfließen, Ihre Daten von denen anderer Kunden trennen und vor KI-spezifischen Angriffen schützen. Ohne diese Maßnahmen kann ein Anbieter mit hoher allgemeiner Sicherheit Ihre Daten dennoch über das Modell selbst preisgeben.
Verlangen Sie klare Antworten zu diesen Datenschutzmaßnahmen im Zusammenhang mit KI, bevor Sie Ihre Zustimmung erteilen:
- Verwendung von Trainingsdaten: Der Anbieter muss angeben, ob Ihre Eingaben zum Training seiner Modelle verwendet werden. Sie sollten grundsätzlich davon ausgehen, dass dies nicht der Fall ist, es sei denn, Sie stimmen dem ausdrücklich zu.
- Isolierung von Mietern: Ihre Prompts, Ausgaben und feinabgestimmten Modelle müssen von denen anderer Kunden getrennt bleiben.
- Maßnahmen zur schnellen Eingabe und zur Absicherung der Ausgabe: Fragen Sie nach, wie der Anbieter auf manipulierte Eingaben prüft und verhindert, dass das Modell sensible Daten preisgibt.
- Modell- und Datenherkunft: Der Anbieter sollte dokumentieren, woher die Trainingsdaten und die zugrunde liegenden Modelle stammen, einschließlich etwaiger Basismodelle von Drittanbietern.
- Aufbewahrungsfristen: Für Eingabeaufforderungen und Ausgaben sollten festgelegte Aufbewahrungsfristen gelten, die Sie selbst steuern können.
- Menschliche Überprüfung und Überwachung: Informieren Sie sich, wer beim Anbieter Ihre Eingaben einsehen kann und unter welchen Bedingungen.
Ein Anbieter, der die Frage nach den Trainingsdaten nicht klar beantworten kann, fällt bei einer grundlegenden Due-Diligence-Prüfung für KI-Anbieter eindeutig durch. Akzeptieren Sie “Wir nehmen den Datenschutz ernst” nicht als Antwort.
Wie lässt sich überprüfen, ob die Sicherheitsmaßnahmen eines Anbieters tatsächlich vorhanden sind?
Überprüfen Sie die Kontrollmaßnahmen, indem Sie Nachweise einfordern, statt sich auf Zusicherungen zu verlassen. Fordern Sie aktuelle Prüfberichte an, prüfen Sie diese hinsichtlich Umfang und Ausnahmen, überprüfen Sie die Angaben anhand eines maßgeschneiderten Sicherheitsfragebogens und vergewissern Sie sich, dass die Vertragsbedingungen mit den Aussagen des Anbieters übereinstimmen. Eine Kontrollmaßnahme ist nur dann vorhanden, wenn Sie einen Nachweis dafür haben, dass sie funktioniert.
Befolgen Sie diese Reihenfolge, um eine zuverlässige Überprüfung durchzuführen:
- Fordern Sie die Berichte an. Fragen Sie nach dem aktuellen SOC-2-Typ-II-Bericht oder dem ISO-27001-Zertifikat mit der dazugehörigen Gültigkeitserklärung. Die Behauptung eines SOC-2-AI-Anbieters hat ohne den Bericht selbst kaum Aussagekraft.
- Lesen Sie den Anwendungsbereich. Vergewissern Sie sich, dass die Prüfung das konkrete KI-Produkt abdeckt, das Sie nutzen werden, und nicht nur die Unternehmens-IT des Anbieters oder einen anderen Dienst.
- Bitte beachten Sie die Termine und Ausnahmen. Achten Sie auf Berichte, die älter als zwölf Monate sind, sowie auf festgestellte Kontrollmängel.
- Senden Sie einen Sicherheitsfragebogen an einen KI-Anbieter. Ergänzen Sie Ihre Standardliste um KI-spezifische Fragen zu Trainingsdaten, Isolierung und Modellsicherheitsmaßnahmen.
- Testen Sie, wo immer es möglich ist. Bitten Sie um Zusammenfassungen der Penetrationstests, eine Live-Demonstration der Zugriffskontrollen oder eine kurze technische Präsentation mit dem Sicherheitsteam des Anbieters.
- Ordnen Sie den Vertrag den Ansprüchen zu. Nehmen Sie die Kontrollmaßnahmen in die Datenverarbeitungsvereinbarung auf, damit sie Rechtskraft erlangen.
Widersprüche zwischen dem Fragebogen, dem Prüfungsbericht und dem Vertrag stellen an sich schon ein Risiko dar. Klären Sie diese, bevor Sie unterschreiben.
Sollte man sich zurückziehen oder verhandeln, wenn Kontrollen fehlen?
Ziehen Sie sich zurück, wenn es sich bei der fehlenden Kontrollmaßnahme um eine zentrale Schutzmaßnahme handelt, die Daten sensibel sind oder der Anbieter sich weigert, eine Behebung zuzusagen. Verhandeln Sie, wenn die Lücke begrenzt ist, der Anbieter glaubwürdige Absichten zeigt und Sie ihn an einen terminierten Behebungsplan mit Konsequenzen binden können.
Verhandeln Sie, wenn alle folgenden Bedingungen erfüllt sind:
- Diese Lücke steht nicht auf Ihrer automatischen Warnliste.
- Der Anbieter räumt die Lücke offen ein und nennt einen konkreten Zeitplan.
- Sie können das Risiko in der Zwischenzeit begrenzen, indem Sie beispielsweise die Nutzung des Tools auf nicht sensible Daten beschränken.
- Der Vertrag sieht Prüfungsrechte, Fristen für Abhilfemaßnahmen sowie das Recht auf Rücktritt vor, falls der Anbieter diese Fristen nicht einhält.
Ziehen Sie sich zurück, wenn der Anbieter Fragen ausweicht, nur mündliche Zusagen macht oder eine grundlegende Kontrollmaßnahme als optional betrachtet. Die Art und Weise, wie ein Anbieter auf Ihre kritische Prüfung reagiert, lässt Rückschlüsse darauf zu, wie er sich nach einem Vorfall verhalten wird. Da KI-Tools oft mit erheblichen Kosten verbunden sind, sollten Sie bei Sicherheitsentscheidungen auch Kosten und Nutzen abwägen. Unsere strategisches Portfolio-Management Dieser Ansatz hilft Ihnen dabei, Anbieter und Initiativen anhand Ihrer geschäftlichen Prioritäten zu vergleichen, damit Sie kein riskantes Tool genehmigen, nur weil es günstig erscheint.
Wie „It’s Value“ bei der Bewältigung von Risiken und Ausgaben im Zusammenhang mit KI-Anbietern hilft
Wir helfen Ihnen dabei, Ihre Entscheidungen bezüglich KI-Anbietern auf der Grundlage von Fakten statt von Verkaufsargumenten zu treffen. Sicherheitslücken und Kostenüberschreitungen haben oft dieselbe Ursache: Niemand trägt die Verantwortung für die Entscheidung, und niemand hat den vollständigen Überblick über die Bereiche Finanzen, IT und Beschaffung. Wir schließen diese Lücke.
So unterstützen wir Sie:
- Wir schaffen klare Führungsstrukturen mit festgelegten Rollen und Entscheidungsbefugnissen, damit Sie wissen, wer einen Lieferanten genehmigt und nach welchen Kriterien.
- Wir bringen die Bereiche Finanzen, IT, Beschaffung und das operative Geschäft zusammen, sodass Risiken, Kosten und Mehrwert schon frühzeitig in denselben Diskussionsrahmen einfließen.
- Wir sorgen für Transparenz bei Technologie- und Cloud-Ausgaben, sodass Sie nicht verwaltete KI-Tools erkennen und Anbieter auf einer vergleichbaren Basis miteinander vergleichen können.
- Durch unsere FinOps-Dienstleistungen, helfen wir Ihnen dabei, die nutzungsabhängigen Kosten zu kontrollieren, die durch KI-Plattformen häufig entstehen.
- Wir verwandeln Lieferantenbewertungen in entscheidungsreife Erkenntnisse – und nicht nur in einen weiteren Bericht.
Möchten Sie KI-Anbieter mit gutem Gewissen zulassen und deren Kosten unter Kontrolle halten? Nehmen Sie Kontakt mit uns auf Und wir zeigen Ihnen, wie Sie einen Prozess zur Lieferantenfreigabe aufbauen können, der für Sie alle funktioniert.