Quels sont les contrôles de sécurité manquants qui devraient entraîner l'exclusion d'un fournisseur d'IA ?

Un fournisseur d'IA doit être écarté s'il ne dispose pas des contrôles de base nécessaires à la protection de vos données et s'il n'est pas en mesure de présenter un plan crédible pour combler ces lacunes. L'absence de chiffrement, l'absence de preuves d'audit indépendant, l'absence de contrôles d'accès ou l'absence d'engagement quant à l'utilisation ou non de vos données pour l'entraînement des modèles constituent des critères d'exclusion incontestables.
Le contexte a toutefois son importance. Une faille dans un cas d’utilisation à faible risque n’est pas comparable à la même faille dans un outil qui traite des données clients ou des dossiers financiers. Cet article explique comment distinguer les failles critiques de celles qui peuvent être corrigées, quelles mesures de contrôle exiger, comment les vérifier et dans quels cas il vaut mieux négocier plutôt que de renoncer au projet.

Qu'est-ce qui distingue une lacune de contrôle rédhibitoire d'une lacune pouvant être corrigée ?

Une lacune rédhibitoire expose vos données ou vos opérations à des risques que le fournisseur ne peut pas résoudre dans les limites de votre tolérance au risque ou dans les délais impartis. Une lacune corrigible est une lacune que le fournisseur peut combler par le biais d’un engagement documenté, daté et contractuellement contraignant, sans modifier entre-temps la manière dont vos données sont traitées.

Utilisez ces trois critères pour identifier les éventuelles lacunes dans votre évaluation des risques liés à votre fournisseur d'IA :

  • Sensibilité des données : L'outil d'IA traite-t-il des données à caractère personnel, financières ou confidentielles ? Plus les données sont sensibles, moins vous pouvez vous permettre de négliger des lacunes.
  • Rayon d'action de l'explosion : Si le contrôle échoue, combien de systèmes, de clients ou de processus cela affecte-t-il ?
  • Vitesse de remédiation : Le fournisseur est-il en mesure de combler cette lacune avant la mise en service, et s'engagera-t-il à le faire par écrit ?

L'absence d'un contrôle qui échoue aux trois tests constitue un motif d'exclusion. En revanche, l'absence d'un contrôle portant sur des données peu sensibles, dont l'impact est limité et qui est facile à corriger, doit faire l'objet d'une négociation et non d'un rejet.

Quels sont les contrôles de sécurité manquants qui constituent des signaux d'alerte automatiques pour les fournisseurs d'IA ?

Les signaux d'alerte automatiques ne respectent pas les principes fondamentaux dont tout fournisseur sérieux devrait disposer : absence de chiffrement des données en transit et au repos, absence de certification indépendante telle que SOC 2 ou ISO 27001, absence de contrôle d'accès basé sur les rôles, absence de procédure de réponse aux incidents et absence d'engagement en matière de notification des violations de données. L'absence de l'un de ces éléments devrait vous inciter à suspendre votre validation.

Considérez ces éléments comme vos principaux critères d'exclusion des fournisseurs d'IA :

  • Pas de chiffrement : Les données circulent ou sont stockées sans protection. Il s'agit là d'une défaillance fondamentale, et non d'un simple détail de configuration.
  • Absence d'éléments probants issus d'un audit indépendant : Un fournisseur qui ne dispose ni d'un rapport SOC 2, ni d'un certificat ISO 27001, ni d'une évaluation équivalente vous demande de vous fier uniquement à ses affirmations.
  • Gestion des accès insuffisante : Pas d'authentification multifactorielle, pas de principe du « privilège minimal » et aucune trace de l'identité des personnes qui accèdent à vos données.
  • Absence de clauses relatives à la gestion des incidents ou à la notification des violations : On ne peut pas gérer un risque dont on n'a pris connaissance que plusieurs semaines plus tard.
  • Sous-traitants non clairement identifiés : Le fournisseur n'est pas en mesure de vous indiquer quels tiers traitent vos données ni où.
  • Pas de processus de suppression des données : Vous ne pouvez pas demander la suppression de vos données à l'expiration du contrat.

Les réponses vagues méritent d'être examinées avec autant d'attention que celles qui font défaut. Si un fournisseur n'est pas en mesure d'expliquer un contrôle en termes simples, partez du principe qu'il ne fonctionne pas de manière fiable.

Quels contrôles spécifiques à l'IA un fournisseur doit-il mettre en place avant d'obtenir l'agrément ?

Au-delà des mesures de sécurité standard, un fournisseur d'IA doit contrôler la manière dont vos données alimentent les modèles, isoler vos données de celles des autres clients et vous protéger contre les attaques spécifiques à l'IA. Sans ces mesures, un fournisseur disposant d'une sécurité générale solide peut tout de même divulguer vos informations par le biais du modèle lui-même.

Exigez des réponses claires concernant ces mesures de protection des données liées à l'IA avant de donner votre accord :

  • Utilisation des données d'entraînement : Le fournisseur doit préciser si vos données servent à entraîner ses modèles. Par défaut, vous devriez partir du principe que ce n'est pas le cas, sauf si vous donnez votre accord explicite.
  • Isolement des locataires : Vos prompts, vos résultats et vos modèles optimisés doivent rester distincts de ceux des autres clients.
  • Mesures de sécurité relatives à l'injection et à la sortie des messages : Demandez au fournisseur comment il vérifie que les données d'entrée n'ont pas été altérées et comment il empêche le modèle de divulguer des données sensibles.
  • Provenance du modèle et des données : Le fournisseur doit indiquer clairement d'où proviennent les données d'entraînement et les modèles sous-jacents, y compris les modèles de base tiers.
  • Limites de conservation : Les invites et les résultats doivent être associés à des durées de conservation définies que vous pouvez contrôler.
  • Contrôle et suivi par des personnes : Sachez qui, chez le fournisseur, peut consulter vos données saisies et dans quelles conditions.

Un fournisseur incapable de répondre clairement à la question relative aux données d'entraînement échoue manifestement à un contrôle de diligence raisonnable élémentaire concernant les fournisseurs d'IA. Ne vous contentez pas d'une réponse du type “ nous prenons la confidentialité très au sérieux ”.

Comment pouvez-vous vérifier que les mesures de sécurité d'un fournisseur existent bel et bien ?

Vérifiez les contrôles en demandant des preuves, et non des assurances. Demandez les rapports d'audit récents, examinez-les pour en évaluer la portée et les exceptions, vérifiez les affirmations à l'aide d'un questionnaire de sécurité sur mesure, et assurez-vous que les clauses du contrat correspondent bien aux déclarations du fournisseur. Un contrôle n'existe que lorsque vous pouvez constater qu'il fonctionne.

Suivez cette procédure pour effectuer une vérification fiable :

  1. Demandez les rapports. Demandez le dernier rapport SOC 2 de type II ou le certificat ISO 27001 accompagné de sa déclaration d'applicabilité. Une affirmation d'un fournisseur SOC 2 AI n'a guère de valeur sans le rapport lui-même.
  2. Lisez le périmètre. Assurez-vous que l'audit porte bien sur le produit d'IA que vous utiliserez réellement, et non pas uniquement sur l'infrastructure informatique de l'éditeur ou sur un autre service.
  3. Vérifiez les dates et les exceptions. Recherchez les rapports datant de plus de douze mois ainsi que les défaillances de contrôle signalées.
  4. Envoyer un questionnaire de sécurité à un fournisseur d'IA. Ajoutez à votre liste standard des questions spécifiques à l'IA concernant les données d'entraînement, l'isolation et les mesures de protection des modèles.
  5. Testez dès que vous en avez l'occasion. Demandez des rapports de tests d'intrusion, une démonstration en direct des contrôles d'accès ou une brève session technique avec l'équipe de sécurité du fournisseur.
  6. Associez le contrat aux sinistres. Précisez ces dispositions dans le contrat de traitement des données afin qu'elles aient une valeur juridique.

Les contradictions entre le questionnaire, le rapport d'audit et le contrat constituent en elles-mêmes un risque. Veillez à les résoudre avant de signer.

Faut-il renoncer ou négocier lorsque des contrôles font défaut ?

Renoncez au projet lorsque la mesure de contrôle manquante concerne une protection essentielle, que les données sont sensibles ou que le fournisseur refuse de s'engager à apporter une solution. Négociez lorsque la faille est circonscrite, que le fournisseur fait preuve d'une volonté crédible et que vous pouvez l'obliger à respecter un plan de remédiation assorti d'un délai et de sanctions.

Négociez si toutes ces conditions sont réunies :

  • Cet écart ne figure pas sur votre liste des signaux d'alerte automatiques.
  • Le fournisseur reconnaît ouvertement cette lacune et propose un calendrier précis.
  • En attendant, vous pouvez limiter les risques, par exemple en réservant l'utilisation de cet outil aux données non sensibles.
  • Le contrat prévoit des droits d'audit, des délais de mise en conformité et la possibilité de résilier le contrat si le fournisseur ne respecte pas ces délais.

N'hésitez pas à vous détourner d'un fournisseur qui élude vos questions, ne vous fait que des promesses verbales ou considère une mesure de contrôle élémentaire comme facultative. La manière dont un fournisseur réagit à votre examen minutieux laisse présager de son comportement après un incident. Étant donné que les outils d'IA représentent souvent un poste de dépenses important, évaluez votre décision en matière de sécurité en tenant compte à la fois du coût et de la valeur ajoutée. Notre gestion stratégique de portefeuille Cette approche vous permet de comparer les fournisseurs et les initiatives à l'aune des priorités de l'entreprise, afin de ne pas adopter un outil risqué simplement parce qu'il semble bon marché.

Comment « It’s Value » aide à gérer les risques liés aux fournisseurs d’IA et les dépenses associées

Nous vous aidons à choisir vos fournisseurs d'IA en vous appuyant sur des faits plutôt que sur des arguments commerciaux. Les failles de sécurité et les dépassements de budget découlent souvent d'un même problème fondamental : personne n'assume la responsabilité de la décision et personne n'a une vue d'ensemble des aspects financiers, informatiques et d'approvisionnement. Nous comblons cette lacune.

Voici comment nous vous accompagnons :

  • Nous mettons en place une gouvernance claire, avec des rôles et des pouvoirs décisionnels bien définis, afin que vous sachiez qui approuve un fournisseur et selon quels critères.
  • Nous assurons la liaison entre la finance, l'informatique, les achats et l'activité, afin que les questions de risque, de coût et de valeur soient abordées dès le début dans le même cadre de discussion.
  • Nous apportons de la transparence dans les dépenses liées à la technologie et au cloud, ce qui vous aide à identifier les outils d'IA non gérés et à comparer les fournisseurs sur une base comparable.
  • Grâce à notre Services FinOps, nous vous aidons à maîtriser les coûts liés à l'utilisation que génèrent souvent les plateformes d'IA.
  • Nous transformons les évaluations des fournisseurs en informations exploitables pour la prise de décision, et non pas simplement en un rapport de plus.

Souhaitez-vous sélectionner des fournisseurs d'IA en toute confiance tout en maîtrisant leurs coûts ? N'hésitez pas à nous contacter et nous vous montrerons comment mettre en place un processus de validation des fournisseurs qui réponde aux besoins de chacun d'entre vous.

It's Value
Présentation de la politique de confidentialité

Ce site web utilise des cookies afin de vous offrir la meilleure expérience utilisateur possible. Les informations contenues dans ces cookies sont stockées dans votre navigateur et permettent notamment de vous reconnaître lorsque vous revenez sur notre site, ainsi que d'aider notre équipe à identifier les sections du site que vous trouvez les plus intéressantes et utiles.