Een AI-leverancier moet worden uitgesloten wanneer hij niet beschikt over basismaatregelen ter bescherming van uw gegevens en geen geloofwaardig plan kan voorleggen om deze tekortkomingen te verhelpen. Het ontbreken van versleuteling, het ontbreken van bewijs van een onafhankelijke audit, het ontbreken van toegangscontroles of het ontbreken van een toezegging over de vraag of uw gegevens worden gebruikt om modellen te trainen, zijn de duidelijkste redenen om af te zien van een samenwerking.
De context is echter wel van belang. Een tekortkoming in een gebruiksscenario met een laag risico is iets anders dan dezelfde tekortkoming in een tool die in aanraking komt met klantgegevens of financiële gegevens. In dit artikel wordt uitgelegd hoe je fatale tekortkomingen kunt onderscheiden van tekortkomingen die kunnen worden verholpen, welke maatregelen je moet eisen, hoe je deze kunt controleren en wanneer je beter kunt onderhandelen in plaats van weg te lopen.
Wat is het verschil tussen een controletekort dat een dealbreaker is en een controletekort dat kan worden verholpen?
Een ‘deal-breaker’-tekortkoming stelt uw gegevens of bedrijfsvoering bloot aan schade die de leverancier niet kan verhelpen binnen uw risicotolerantie of tijdsbestek. Een verhelpbare tekortkoming is een tekortkoming die de leverancier kan verhelpen door middel van een gedocumenteerde, gedateerde en contractueel bindende toezegging, zonder dat dit in de tussentijd gevolgen heeft voor de manier waarop uw gegevens worden verwerkt.
Gebruik drie toetsen om eventuele hiaten in uw risicobeoordeling van AI-leveranciers in kaart te brengen:
- Gevoeligheid van gegevens: Verwerkt de AI-tool persoonsgegevens, financiële gegevens of vertrouwelijke gegevens? Hoe gevoeliger de gegevens, hoe minder hiaten je kunt accepteren.
- Explosieradius: Als de controle faalt, op hoeveel systemen, klanten of processen heeft dit dan gevolgen?
- Snelheid van de sanering: Kan de leverancier het probleem oplossen voordat jullie live gaan, en willen ze dat schriftelijk toezeggen?
Een ontbrekende controle die aan alle drie de criteria niet voldoet, leidt tot uitsluiting. Een ontbrekende controle die betrekking heeft op gegevens met een lage gevoeligheid, die beperkt is en eenvoudig te verhelpen is, hoort thuis in een onderhandeling, niet in een afwijzing.
Welke ontbrekende beveiligingsmaatregelen zijn automatische alarmsignalen voor AI-leveranciers?
Bij automatische waarschuwingen ontbreken essentiële elementen die bij geen enkele serieuze leverancier mogen ontbreken: geen versleuteling van gegevens tijdens verzending en in opslag, geen onafhankelijke certificering zoals SOC 2 of ISO 27001, geen op rollen gebaseerde toegangscontrole, geen procedure voor incidentafhandeling en geen verplichting tot melding van datalekken. Elk van deze tekortkomingen zou aanleiding moeten zijn om uw goedkeuring op te schorten.
Beschouw dit als je belangrijkste criteria voor het uitsluiten van AI-leveranciers:
- Geen versleuteling: Gegevens worden onbeveiligd verplaatst of opgeslagen. Dit is een fundamentele tekortkoming, geen configuratiekwestie.
- Geen onafhankelijk controlebewijs: Een leverancier die niet beschikt over een SOC 2-rapport, een ISO 27001-certificaat of een vergelijkbare beoordeling, vraagt u om louter op zijn beweringen af te gaan.
- Gebrekkig toegangsbeheer: Geen meervoudige authenticatie, geen ‘least privilege’-toegang en geen registratie van wie er met uw gegevens werkt.
- Geen bepalingen inzake incidentafhandeling of melding van inbreuken: Je kunt geen risico beheersen waarvan je pas weken later op de hoogte wordt gebracht.
- Onduidelijke subverwerkers: De leverancier kan u niet vertellen welke derde partijen uw gegevens verwerken en waar dat gebeurt.
- Geen proces voor het verwijderen van gegevens: Je kunt je gegevens niet laten verwijderen wanneer het contract afloopt.
Vage antwoorden verdienen evenveel aandacht als ontbrekende antwoorden. Als een leverancier een controlemaatregel niet in begrijpelijke bewoordingen kan uitleggen, ga er dan vanuit dat deze niet betrouwbaar functioneert.
Over welke AI-specifieke controles moet een leverancier beschikken voordat hij wordt goedgekeurd?
Naast de standaardbeveiliging moet een AI-leverancier ervoor zorgen dat uw gegevens op de juiste manier in de modellen worden ingevoerd, uw gegevens van die van andere klanten worden gescheiden en bescherming bieden tegen AI-specifieke aanvallen. Zonder deze maatregelen kan een leverancier met een sterke algemene beveiliging uw gegevens toch via het model zelf laten uitlekken.
Vraag om duidelijke antwoorden op deze vragen over de maatregelen voor gegevensbescherming bij AI voordat u uw goedkeuring geeft:
- Gebruik van trainingsgegevens: De leverancier moet aangeven of uw input wordt gebruikt om zijn modellen te trainen. Uw uitgangspunt moet zijn dat dit niet het geval is, tenzij u hier zelf voor kiest.
- Isolatie van huurders: Uw prompts, output en verfijnde modellen moeten gescheiden blijven van die van andere klanten.
- Maatregelen voor snelle injectie en outputbeveiliging: Vraag hoe de leverancier controleert op gemanipuleerde invoergegevens en voorkomt dat het model gevoelige gegevens openbaar maakt.
- Herkomst van modellen en gegevens: De leverancier dient te documenteren waar de trainingsgegevens en de onderliggende modellen vandaan komen, met inbegrip van eventuele basismodellen van derden.
- Bewaartermijnen: Voor prompts en uitvoer moeten er vastgestelde bewaartermijnen gelden die u zelf kunt bepalen.
- Controle en toezicht door mensen: Weet wie bij de leverancier uw invoer kan inzien en onder welke voorwaarden.
Een leverancier die de vraag over de trainingsgegevens niet duidelijk kan beantwoorden, voldoet duidelijk niet aan de basiseisen voor een grondige beoordeling van AI-leveranciers. Accepteer “we nemen privacy serieus” niet als antwoord.
Hoe kun je controleren of de beveiligingsmaatregelen van een leverancier daadwerkelijk bestaan?
Controleer de beheersmaatregelen door om bewijs te vragen, niet om toezeggingen. Vraag om actuele auditrapporten, bekijk deze op reikwijdte en uitzonderingen, toets beweringen aan de hand van een op maat gemaakte beveiligingsvragenlijst en controleer of de contractvoorwaarden overeenkomen met wat de leverancier zegt. Een beheersmaatregel bestaat pas als je bewijs kunt zien dat deze ook daadwerkelijk werkt.
Volg deze stappen voor een betrouwbare controle:
- Vraag de rapporten aan. Vraag om het meest recente SOC 2 Type II-rapport of het ISO 27001-certificaat met de bijbehorende toepassingsverklaring. Een bewering van een SOC 2 AI-leverancier zegt weinig zonder het rapport zelf.
- Lees de reikwijdte. Controleer of de audit betrekking heeft op het daadwerkelijke AI-product dat u gaat gebruiken, en niet alleen op de bedrijfs-IT van de leverancier of een andere dienst.
- Controleer de data en uitzonderingen. Zoek naar rapporten die ouder zijn dan twaalf maanden en naar geconstateerde tekortkomingen in de controle.
- Stuur een beveiligingsvragenlijst naar een AI-leverancier. Voeg AI-specifieke vragen over trainingsgegevens, isolatie en modelbeveiligingsmaatregelen toe aan je standaardlijst.
- Test het waar je kunt. Vraag om samenvattingen van penetratietests, een live demo van toegangscontroles of een korte technische sessie met het beveiligingsteam van de leverancier.
- Koppel het contract aan de claims. Neem de bepalingen op in de overeenkomst inzake gegevensverwerking, zodat ze juridisch bindend zijn.
Tegenstrijdigheden tussen de vragenlijst, het auditrapport en het contract vormen op zich al een risico. Zorg dat u deze oplost voordat u tekent.
Moet je weggaan of onderhandelen als er controles ontbreken?
Trek je terug als de ontbrekende beveiligingsmaatregel een kernbeveiliging betreft, de gegevens gevoelig zijn of de leverancier weigert zich vast te leggen op een oplossing. Onderhandel wanneer de kwetsbaarheid beperkt is, de leverancier blijk geeft van oprechte bereidheid en je hem kunt binden aan een herstelplan met een vaste termijn en sancties.
Onderhandel als aan al deze voorwaarden is voldaan:
- Deze kloof staat niet op je automatische lijst met rode vlaggen.
- De leverancier geeft openlijk toe dat er een tekort is en stelt een concreet tijdschema voor.
- Je kunt het risico in de tussentijd beperken, bijvoorbeeld door het gebruik van de tool te beperken tot niet-gevoelige gegevens.
- Het contract omvat auditrechten, termijnen voor het verhelpen van tekortkomingen en het recht om de overeenkomst te beëindigen indien de leverancier deze termijnen niet nakomt.
Loop weg als de leverancier vragen ontwijkt, alleen mondelinge beloften doet of een basiscontrole als optioneel beschouwt. De manier waarop een leverancier op je kritische vragen reageert, is een indicatie van hoe hij zich na een incident zal gedragen. Aangezien AI-tools vaak tot daadwerkelijke uitgaven leiden, moet je bij je beveiligingsbeslissing zowel de kosten als de waarde in overweging nemen. Onze strategisch portefeuillebeheer Met deze aanpak kun je leveranciers en initiatieven afzetten tegen je zakelijke prioriteiten, zodat je geen risicovolle tool goedkeurt alleen omdat deze goedkoop lijkt.
Hoe It’s Value helpt bij het beheersen van risico’s en uitgaven in verband met AI-leveranciers
Wij helpen u bij het nemen van beslissingen over AI-leveranciers op basis van feiten in plaats van verkoopargumenten. Beveiligingslekken en kostenoverschrijdingen komen vaak voort uit hetzelfde onderliggende probleem: niemand neemt de verantwoordelijkheid voor de beslissing en niemand heeft het volledige overzicht over financiën, IT en inkoop. Wij dichten die kloof.
Zo ondersteunen wij u:
- We zorgen voor een duidelijke bestuursstructuur met vastgelegde rollen en beslissingsbevoegdheden, zodat u weet wie een leverancier goedkeurt en op basis van welke criteria.
- Wij brengen financiën, IT, inkoop en de bedrijfsactiviteiten met elkaar in verband, zodat risico’s, kosten en waarde al in een vroeg stadium in één en hetzelfde gesprek aan de orde komen.
- Wij zorgen voor transparantie op het gebied van technologie en clouduitgaven, waardoor u onbeheerde AI-tools kunt opsporen en leveranciers op basis van vergelijkbare criteria kunt vergelijken.
- Via onze FinOps-diensten, helpen wij u de kosten op basis van gebruik te beheersen die AI-platforms vaak met zich meebrengen.
- Wij zetten leveranciersbeoordelingen om in bruikbare inzichten waarop beslissingen kunnen worden gebaseerd, en niet zomaar in weer een rapport.
Wilt u AI-leveranciers met een gerust hart goedkeuren en de kosten onder controle houden? Neem contact met ons op en we laten u zien hoe u een goedkeuringsproces voor leveranciers kunt opzetten dat voor u allemaal werkt.