Vertrouwelijke verwerking is de meerprijs voor AI waard wanneer u gereguleerde, uiterst gevoelige of commercieel waardevolle gegevens en modelgewichten verwerkt in een cloud waarover u niet de volledige controle hebt. Voor openbare of laagrisico-workloads loont de extra kost zich zelden, en volstaan goedkopere beveiligingsmaatregelen doorgaans.
De beslissing hangt af van wat een datalek u zou kosten en wie toegang zou kunnen krijgen tot uw gegevens tijdens het gebruik. We zien dat veel organisaties overal betalen voor hardwaregebaseerde beveiliging, terwijl slechts enkele workloads dit nodig hebben. Hieronder leest u wat de prijs bepaalt, welke AI-workloads deze uitgave rechtvaardigen en hoe u de kosten onder controle kunt houden.
Wat is de oorzaak van de hogere prijs voor vertrouwelijke computing bij AI?
De meerprijs voor vertrouwelijke computing is het gevolg van gespecialiseerde hardware, een kleiner aanbod aan ondersteunde instancetypes en prestatieverlies. Trusted Execution Environments (TEE’s) vereisen CPU’s en, voor AI, GPU’s met ingebouwde geheugenversleuteling en authenticatie; daarom rekenen providers meer voor vertrouwelijke VM’s dan voor standaardinstances.
Er zijn verschillende factoren die de kosten boven de uurprijs per instantie doen uitkomen:
- Tekort aan hardware: Vertrouwelijke berekeningen op GPU’s zijn afhankelijk van recente versnellers die de vertrouwelijke modus ondersteunen, en de capaciteit is beperkt in vergelijking met standaard GPU-parken.
- Overhead bij de uitvoering: Het versleutelen van geheugen en gegevensoverdracht tussen de CPU en de GPU kan het trainen en de inferentie enigszins vertragen, waardoor je meer rekentijd nodig hebt voor dezelfde output.
- Certificering en sleutelbeheer: U betaalt voor de diensten die de omgeving controleren en sleutels uitsluitend vrijgeven aan vertrouwde workloads.
- Technische inspanning: Teams moeten hun pijplijnen, images en implementatieprocessen aanpassen, wat extra arbeidskosten met zich meebrengt die zelden op de prijspagina worden vermeld.
- Verminderde flexibiliteit: Door het beperkte aantal regio’s en instanciegroottes heb je minder mogelijkheden om de goedkoopste optie te kiezen of gebruik te maken van spotcapaciteit.
De prijzen van providers veranderen regelmatig, dus controleer de actuele vertrouwelijke VM-prijzen voor uw regio en instancetype in plaats van uit te gaan van een vast percentage. Houd er rekening mee dat de totale eigendomskosten ook deze indirecte kosten omvatten, en niet alleen de kosten voor rekenkracht.
Voor welke AI-workloads is het de moeite waard om te betalen voor vertrouwelijke computing?
AI-workloads maken vertrouwelijke computing gerechtvaardigd wanneer ze gevoelige invoergegevens, waardevol intellectueel eigendom en gedeelde of externe infrastructuur combineren. Typische voorbeelden zijn het trainen van modellen op basis van gereguleerde persoons- of financiële gegevens, het beschermen van bedrijfseigen modelgewichten en het uitvoeren van inferentie op vertrouwelijke klantgegevens in multi-tenant-clouds.
Let op de volgende patronen in je portefeuille:
- Gereguleerde gegevens in de cloud: Workloads in de gezondheidszorg, de financiële sector en de publieke sector, waarbij toezichthouders of klanten eisen dat gegevens niet alleen in rust en tijdens het transport, maar ook tijdens het gebruik worden beschermd.
- Belangrijke modelgewichten: Verfijnde of eigen modellen die een aanzienlijke investering vertegenwoordigen en die door concurrenten of insiders zouden kunnen worden gestolen.
- Samenwerking tussen meerdere partijen: Situaties waarin meerdere organisaties een gedeeld model willen trainen of er query’s op willen uitvoeren, zonder hun ruwe gegevens aan elkaar of aan de cloudbeheerder bloot te geven.
- Klantgerichte AI met contractuele garanties: Diensten waarbij u klanten belooft dat niemand, ook uw eigen medewerkers niet, hun invoer of documenten kan inzien.
Werkzaamheden waarbij de extra kosten zelden gerechtvaardigd zijn, zijn onder meer experimenten met openbare datasets, interne prototypes zonder gevoelige gegevens en batchtaken die worden uitgevoerd in een omgeving die u al beheert en vertrouwt. Classificeer elke AI-werkzaamheid eerst op basis van de gevoeligheid en blootstelling van de gegevens, en bepaal vervolgens waar een vertrouwde uitvoeringsomgeving daadwerkelijke bescherming biedt.
Hoe weeg je de premie af tegen het risico?
Weeg de kosten af door de extra jaarlijkse kosten van vertrouwelijke computing te vergelijken met het verwachte verlies dat hiermee wordt voorkomen. Maak een inschatting van de waarschijnlijkheid en de gevolgen van blootstelling van gegevens of modellen, houd rekening met de gevolgen op het gebied van naleving en contractuele verplichtingen, en ga vervolgens na of de bescherming die blootstelling voldoende beperkt om de uitgaven te rechtvaardigen.
Een praktische aanpak bestaat uit vier stappen:
- De blootstelling kwantificeren: Maak voor elke workload een schatting van de kosten van een datalek, inclusief boetes, herstelmaatregelen, verlies van klanten en de waarde van het model of de gegevens.
- Stel vast wat de werkelijke dreiging is: Vertrouwelijke computing biedt vooral bescherming tegen bevoorrechte toegang door de cloudbeheerder, gecompromitteerde hypervisors en kwaadwillende medewerkers. Als dat niet uw belangrijkste risico’s zijn, neemt het voordeel af.
- Bereken de totale premie: Houd rekening met de kosten per exemplaar, overhead, ontwikkelingstijd en operationele complexiteit, en niet alleen met het verschil in uurtarief.
- Bekijk de commerciële voordelen: Sommige transacties en gereguleerde markten komen pas tot stand als je kunt aantonen dat de gebruikte gegevens beschermd blijven, waardoor de premie een bron van inkomsten kan worden.
Deze afweging tussen kosten, prestaties en risico’s is precies het soort beslissing FinOps-werkwijzen zodat u hier vroeg en herhaaldelijk rekening mee kunt houden, in plaats van pas achteraf te ontdekken wat de premie is, wanneer de factuur binnenkomt. Leg de beslissing per werkpakket vast, zodat u deze kunt herzien wanneer prijzen en regelgeving veranderen.
Wat zijn goedkopere alternatieven voor vertrouwelijke computing?
Goedkopere alternatieven zijn onder meer krachtige versleuteling van gegevens in opslag en tijdens verzending, door de klant beheerde sleutels, strenge identiteits- en toegangscontroles, privé-netwerken en technieken voor gegevensminimalisatie, zoals anonimisering of synthetische gegevens. Deze maatregelen bieden geen bescherming voor gegevens die in gebruik zijn, maar dekken de meeste risico’s tegen aanzienlijk lagere kosten.
Overweeg deze opties, afzonderlijk of in combinatie:
- Door de klant beheerde versleutelingssleutels: U behoudt de controle over wie de gegevens in de opslag en de back-ups kan ontsleutelen.
- Toegang op basis van het principe van minimale rechten en logboekregistratie: Strikte rollen, just-in-time-toegang en audittrajecten verminderen de risico’s die voortvloeien uit interne personen en inloggegevens.
- Privé- of dedicated infrastructuur: Hosts met één gebruiker of lokale GPU’s voorkomen de risico’s van multi-tenant-omgevingen zonder dat daarvoor TEE-kosten in rekening worden gebracht.
- Gegevensminimalisatie: Pseudonimiseer, maskeer of vervang gevoelige velden voordat ze het model bereiken.
- Methoden op basis van federatieve of differentiële privacy: Deze technieken beperken wat een model of een derde partij uit onbewerkte gegevens kan afleiden.
Geen enkel alternatief kan de door hardware ondersteunde bescherming van gegevens tijdens gebruik volledig vervangen. Als de infrastructuurbeheerder zelf deel uitmaakt van uw dreigingsmodel, blijft ‘confidential computing’ de sterkste optie. Als dat niet het geval is, biedt een gelaagde reeks conventionele beveiligingsmaatregelen doorgaans meer waar voor uw geld.
Hoe kun je de kosten van vertrouwelijke dataverwerking onder controle houden?
Houd de kosten voor vertrouwelijke computing onder controle door deze te beperken tot de workloads die dit nodig hebben, de instances op de juiste grootte af te stemmen, taken efficiënt in te plannen en de uitgaven per AI-workload bij te houden. Beschouw vertrouwelijke capaciteit als een premium-niveau met duidelijke verantwoordelijkheden, budgetten en regelmatige evaluaties.
Met deze maatregelen kunt u de uitgaven binnen de perken houden:
- Segmenteer uw AI-omgeving: Voer alleen gevoelige trainingen en inferenties uit in vertrouwelijke omgevingen, en houd ontwikkelings- en testwerkzaamheden op standaardinstanties.
- Kosten labelen en toewijzen: Maak vertrouwelijke workloads zichtbaar per team en product, zodat de verantwoordelijken kunnen zien welke extra kosten deze met zich meebrengen.
- Aanpassen en inplannen: Sluit inactieve GPU-instances af, verdeel batchtaken over kortere tijdsvakken en stem de grootte van de instances af op het daadwerkelijke gebruik.
- Ga zorgvuldig om met toezeggingen: Gereserveerde capaciteit kan de kosten per eenheid verlagen, maar ga hier pas toe over zodra de vraag naar vertrouwelijke workloads stabiel is.
- Elk kwartaal evalueren: Ga na of workloads nog steeds vertrouwelijke bescherming nodig hebben, aangezien gegevens, regelgeving en de tarieven van providers voortdurend veranderen.
Uitgaven voor AI moeten ook een plaats krijgen in uw bredere technologieportfolio. Door deze kosten te koppelen aan producten en resultaten via strategisch portefeuillebeheer helpt u te bepalen welke AI-initiatieven extra bescherming verdienen en welke niet.
Hoe FinOps bijdraagt aan het verlagen van de kosten van vertrouwelijke computing voor AI
Wij helpen u om de beslissing over vertrouwelijke computing te veranderen van een eenmalige discussie over beveiliging in een gestructureerde, datagestuurde keuze. Onze FinOps-aanpak brengt financiën, IT, engineering en beveiliging met elkaar in verband, zodat kosten, prestaties en risico’s al in een vroeg stadium gezamenlijk worden afgewogen.
Dit is wat wij voor u doen:
- Beoordeel uw FinOps-rijpheid en breng in kaart waar bij de uitgaven voor AI en GPU’s sprake is van een gebrek aan verantwoordelijkheid, toewijzing of besluitvormingsritme.
- Ontwerp een bedrijfsmodel met duidelijke bestuursstructuren en beslissingsbevoegdheden voor premiumdiensten, zoals vertrouwelijke VM’s.
- Zorg voor een betrouwbare kostentoewijzing, zodat u de werkelijke premie per AI-workload en per product kunt zien.
- Zorg ervoor dat voortdurende optimalisatie wordt geïntegreerd, van het afstemmen van de omvang tot beslissingen over inzet, zodat besparingen niet afhankelijk zijn van handmatige inspanningen.
- Koppel clouduitgaven aan bedrijfswaarde via Technology Business Management, dat helpt bij het maken van keuzes tussen de cloud en on-premises oplossingen.
Als je wilt weten welke van je AI-workloads in aanmerking komen voor vertrouwelijke verwerking en welke niet, neem contact met ons op. Wij helpen u die beslissing te nemen op basis van feiten.