Comment les coûts liés à la conformité et à l'assistance devraient-ils être répartis entre les différents cas d'utilisation de l'IA ?

Les coûts liés à la conformité et au support de l’IA doivent être répartis entre les différents cas d’utilisation en fonction de leur contribution réelle à ces coûts, en combinant l’attribution directe pour les ressources dédiées et la répartition proportionnelle pour les services partagés. La méthode la plus appropriée dépend du type d’infrastructure IA (partagée ou cloisonnée) et du niveau de maturité de vos pratiques de gestion financière informatique. Les questions ci-dessous examinent en détail chaque aspect de ce défi, des types de coûts aux méthodes de répartition en passant par les cadres de gouvernance.

Quels sont les types de coûts liés à la conformité généralement associés à l'IA ?

Les coûts de mise en conformité liés à l'IA se répartissent en plusieurs catégories distinctes : le respect de la réglementation (notamment en matière de protection des données, d'explicabilité des modèles et d'exigences relatives à la traçabilité), les contrôles de sécurité, l'infrastructure de gouvernance des données et la surveillance continue des risques. Ces coûts sont souvent sous-estimés, car ils concernent plusieurs équipes et sont rarement attribués directement à des cas d'utilisation spécifiques de l'IA.

Dans la pratique, les coûts liés à la mise en conformité en matière d'IA comprennent :

• Contrôles relatifs à la confidentialité et à la localisation des données : Veiller à ce que les données d'entraînement et les résultats d'inférence soient conformes aux réglementations telles que le RGPD ou aux règles de traitement des données propres à chaque secteur d'activité
• Outils de gouvernance et d'explicabilité des modèles : Enregistrement, gestion des versions et contrôle du comportement des modèles afin de répondre aux exigences des audits internes et externes
• Sécurité et gestion des accès : Contrôles d'identité, chiffrement et segmentation du réseau spécifiques aux charges de travail d'IA
• Gestion des risques liés aux tiers : Évaluations des fournisseurs d'API d'IA, de modèles de base et de services d'IA dans le cloud
• Déclarations réglementaires : Obligations en matière de documentation et de déclaration liées à l'utilisation de l'IA dans les secteurs réglementés tels que la finance et la santé

Une grande partie de ces coûts de mise en conformité s'appliquent à plusieurs cas d'utilisation de l'IA plutôt qu'à un seul, ce qui explique précisément pourquoi il est si difficile de les répartir équitablement. En l'absence d'une approche structurée en matière de transparence des coûts liés à l'IA, les dépenses de mise en conformité ont tendance à être absorbées par les frais généraux et ne sont jamais correctement imputées.

En quoi les coûts liés à l'assistance en matière d'IA diffèrent-ils de ceux de l'assistance informatique traditionnelle ?

Les coûts liés à l'assistance pour les cas d'utilisation de l'IA diffèrent de ceux de l'assistance informatique traditionnelle sur trois points importants : ils sont plus dynamiques, plus transversaux et plus difficiles à prévoir. L'assistance informatique traditionnelle est essentiellement réactive et axée sur le volume, tandis que l'assistance en matière d'IA implique une maintenance continue des modèles, une surveillance des pipelines de données et un optimisation des performances qui ne suivent pas un schéma standard basé sur les incidents.

Plus précisément, les coûts liés à l'assistance par l'IA comprennent généralement :

• Suivi de la dérive du modèle : Vérifier en permanence si les résultats du modèle restent précis à mesure que les données réelles évoluent
• Cycles de recyclage : Le réentraînement périodique nécessite des ressources informatiques, du temps consacré à l'ingénierie des données et un travail de validation.
• Maintenance du pipeline de données : L'IA repose sur des données de haute qualité et au format homogène, ce qui signifie que le soutien en matière d'ingénierie des données représente un coût récurrent
• Gestion des invites et des configurations : Dans le cadre des cas d'utilisation de l'IA générative, la gestion des invites, des instructions système et des configurations d'API ajoute une nouvelle charge de travail opérationnel.
• Coordination interfonctionnelle : La prise en charge de l'IA fait généralement intervenir des data scientists, des ingénieurs et des acteurs métier, ce qui la rend plus coûteuse par incident que les tickets informatiques classiques.

Les coûts liés à l'assistance en matière d'IA étant moins prévisibles et nécessitant davantage de compétences que l'assistance informatique classique, ils doivent faire l'objet de lignes budgétaires spécifiques plutôt que d'être intégrés aux dotations générales destinées à l'assistance informatique.

Quelles sont les méthodes de répartition des coûts les plus efficaces pour une infrastructure d'IA partagée ?

En ce qui concerne les infrastructures d'IA partagées, les méthodes d'imputation des coûts les plus efficaces combinent l'imputation directe pour la consommation mesurable et l'imputation proportionnelle pour les frais généraux qui ne peuvent pas être clairement identifiés. Une approche par paliers s'avère la plus efficace : imputer directement ce qui peut l'être, puis répartir le reste à l'aide d'une clé d'imputation équitable et convenue d'un commun accord.

Parmi les méthodes les plus couramment utilisées, on peut citer :

• Répartition en fonction de la consommation : Répartissez les coûts en fonction de l'utilisation réelle des ressources, comme les heures d'utilisation du GPU, le volume d'appels d'API ou l'espace de stockage consommé par cas d'utilisation. Il s'agit de la méthode la plus précise lorsque l'utilisation est mesurable.
• Répartition par activité : Répartir les coûts partagés, tels que les licences de plateforme ou les outils de conformité, en fonction du niveau d'activité relatif de chaque cas d'utilisation, par exemple le nombre de requêtes d'inférence ou d'utilisateurs actifs.
• Répartition à part fixe : Répartissez les coûts d'infrastructure partagée de manière égale ou selon des pourcentages convenus entre tous les cas d'utilisation de l'IA. Cette méthode est plus simple mais moins précise, et fonctionne mieux lorsque les cas d'utilisation sont comparables en termes d'ampleur.
• Pools de coûts à plusieurs niveaux : Regroupez les coûts liés à l'IA dans des pools dédiés, partagés et généraux, puis appliquez des règles de répartition différentes à chaque pool. Cela permet de trouver un juste équilibre entre précision et facilité de gestion.

Le choix de la méthode doit tenir compte de la maturité de votre FinOps et gestion des coûts du cloud pratiques. Les organisations qui en sont aux prémices de leur démarche de gestion des coûts commencent souvent par des répartitions à part fixe, puis évoluent vers des méthodes basées sur la consommation à mesure que le marquage, le comptage et les outils s'améliorent.

Les coûts liés à la conformité doivent-ils être répartis entre les différents cas d'utilisation de l'IA ou imputés à chacun d'entre eux individuellement ?

Les coûts de mise en conformité devraient généralement être répartis entre les différents cas d'utilisation de l'IA lorsqu'ils protègent la plateforme dans son ensemble, et facturés individuellement lorsqu'ils sont directement liés à un cas d'utilisation spécifique. Cette distinction est importante, car le fait d'imputer intégralement les coûts de mise en conformité partagés à des cas d'utilisation individuels fausse leur profil de coûts réel et peut donner l'impression que des cas d'utilisation à forte valeur ajoutée ne sont pas rentables.

Une règle empirique pratique : si un contrôle de conformité doit exister même si un seul cas d'utilisation venait à être supprimé, il s'agit d'un coût partagé. Si un contrôle existe spécifiquement en raison d'un cas d'utilisation particulier, comme une application d'IA réglementée dans le secteur des services financiers qui nécessite la mise en place de journaux d'audit spécifiques, ce coût est alors imputable à ce cas d'utilisation.

Une approche courante consiste à créer un fonds commun destiné à couvrir les coûts de mise en conformité, qui est réparti entre les différents cas d'utilisation à l'aide d'une clé de pondération, telle que le niveau de sensibilité des données, le niveau de risque réglementaire ou le volume de données à caractère personnel traitées. Cela permet de garantir la transparence en matière de responsabilité tout en évitant les distorsions dans la rentabilité de chaque cas d'utilisation.

Le plus important est que la logique de répartition soit transparente et acceptée par les équipes financières, informatiques et opérationnelles en charge de chaque cas d'utilisation. Une répartition opaque des coûts de mise en conformité est l'une des sources de friction les plus courantes dans la gouvernance des coûts liés à l'IA.

Comment les organisations peuvent-elles mettre en place une taxonomie des coûts pour les cas d'utilisation de l'IA ?

Une taxonomie des coûts pour les cas d'utilisation de l'IA est un système de classification structuré qui regroupe les dépenses liées à l'IA en catégories cohérentes et comparables, afin de permettre le suivi, la répartition et la communication de ces coûts à l'échelle de l'organisation. Pour en élaborer une, il faut commencer par identifier tous les types de coûts, puis les associer aux cas d'utilisation et aux services partagés qui les génèrent.

Une taxonomie pratique des coûts liés à l'IA comprend généralement quatre niveaux :

1. Informatique et infrastructure : Coûts liés aux GPU et aux CPU, services d'IA dans le cloud (tels que les points de terminaison de modèles gérés), stockage des données d'entraînement et des artefacts de modèles, et réseau
2. Données et intégration : Pipelines d'ingestion de données, étiquetage et annotation, outils de contrôle de la qualité des données et intégration avec les systèmes sources
3. Plateforme et outils : Plateformes MLOps, registres de modèles, outils de suivi des expériences et logiciels d'observabilité de l'IA
4. Conformité, gouvernance et assistance : Contrôles de sécurité, outils d'audit, surveillance des modèles, rapports réglementaires et efforts de soutien interfonctionnels

Une fois la taxonomie définie, vous affectez chaque élément de coût soit à un cas d'utilisation spécifique (coût direct), soit à un pool partagé (coût indirect). Cette structure permet de générer des vues des coûts par cas d'utilisation qui sont cohérentes et comparables, ce qui constitue une condition préalable à une gouvernance des coûts de l'IA et à des décisions d'investissement pertinentes.

L'alignement de votre taxonomie des coûts liés à l'IA sur votre cadre global de gestion financière informatique, tel qu'une taxonomie TBM, garantit que ces coûts sont visibles à l'échelle de l'entreprise et peuvent être comparés à d'autres investissements technologiques.

Quel rôle joue la gestion financière des technologies de l'information dans la gouvernance des coûts liés à l'IA ?

La gestion financière des technologies de l'information (ITFM) fournit la structure de gouvernance, la logique d'allocation et la rigueur en matière de reporting requises par la gouvernance des coûts de l'IA. Sans l'ITFM, les coûts liés à l'IA ont tendance à être dispersés entre les factures de cloud, les factures des fournisseurs et les budgets des équipes, ce qui rend impossible de comprendre le coût réel d'un cas d'utilisation donné ou de prendre des décisions d'investissement éclairées.

L'ITFM apporte plusieurs fonctionnalités spécifiques à la gouvernance des coûts liés à l'IA :

• Visibilité des coûts : Les cadres ITFM regroupent les dépenses liées à l'IA (infrastructure, outils et assistance) au sein d'une vue unique et cohérente.
• Discipline d'allocation : L'ITFM définit et veille au respect des règles régissant la répartition des coûts partagés, notamment les coûts liés à la conformité et à la plateforme, entre les différents cas d'utilisation.
• Alignement sur les objectifs de l'entreprise : ITFM établit un lien entre les coûts liés à l'IA et les résultats commerciaux que chaque cas d'utilisation est censé générer, ce qui permet d'aborder la question du retour sur investissement avec la direction.
• Rapports prêts à l'emploi pour la prise de décision : Plutôt que de produire des données pour elles-mêmes, ITFM organise les informations relatives aux coûts liés à l'IA afin de faciliter la prise de décisions spécifiques, telles que l'opportunité d'étendre un cas d'utilisation, de le supprimer ou de renégocier les contrats avec les fournisseurs.

À mesure que les dépenses liées à l'IA augmentent, les organisations qui les gèrent efficacement sont celles qui les considèrent comme une discipline financière à part entière plutôt que comme un simple coût technique. L'ITFM assure le lien entre la consommation du cloud, les frais liés à la conformité et la valeur métier, ce qui en fait un fondement essentiel pour tout programme sérieux de gouvernance des coûts de l'IA.

Comment nous vous aidons à répartir les coûts liés à l'IA de manière équitable et transparente

La répartition des coûts liés à la conformité et à l'assistance entre les différents cas d'utilisation de l'IA ne se résume pas à un simple défi technique. Elle nécessite la mise en place d'un modèle de gouvernance adapté, d'une taxonomie des coûts et de pratiques de gestion financière qui fonctionnent en synergie. C'est précisément ce que nous aidons les organisations à mettre en place.

En travaillant avec nous, vous bénéficiez :

• Une taxonomie structurée des coûts liés à l'IA, alignée sur votre cadre existant de gestion financière informatique, y compris les taxonomies TBM ou FinOps
• Des règles claires de répartition des coûts liés à la conformité, à la plateforme et à l'assistance, convenues entre les services financiers, informatiques et les parties prenantes opérationnelles
• Visibilité des coûts en fonction de la consommation pour l'ensemble des services d'IA dans le cloud, y compris la répartition complète des frais d'assistance et des frais généraux
• Des rapports prêts à l'emploi qui établissent un lien entre les dépenses en IA et les résultats commerciaux, afin que la direction puisse évaluer les cas d'utilisation en fonction de leur valeur réelle
• Un modèle opérationnel de gouvernance qui attribue la responsabilité des coûts liés à l'IA aux équipes qui en sont à l'origine

Que vous commenciez tout juste à recenser vos coûts liés à l'IA ou que vous cherchiez à optimiser un système existant, Pratique FinOps Pour prendre en charge les charges de travail liées à l'IA, nous mettons à votre disposition les frameworks, les outils et l'expertise pratique nécessaires à leur bon fonctionnement. Contactez-nous afin de discuter de la manière dont nous pouvons vous aider à mettre en place une approche équitable et transparente de la répartition des coûts liés à l'IA au sein de votre organisation.