Comment affecter les dépenses liées à l'IA aux centres de coûts appropriés ?

Pour affecter les dépenses liées à l'IA aux centres de coûts appropriés, vous devez marquer chaque ressource liée à l'IA au moment de son provisionnement, attribuer clairement la responsabilité de chaque charge de travail et appliquer une taxonomie cohérente de répartition des coûts qui relie les dépenses liées à l'IA aux unités opérationnelles ou aux produits qui en bénéficient. Sans cette base, les coûts liés à l'IA sont regroupés dans des postes informatiques génériques et deviennent impossibles à gérer.

Les dépenses liées à l'IA sont particulièrement difficiles à attribuer, car elles combinent la puissance de calcul dans le cloud, l'infrastructure de données, les modèles sous licence et le travail humain, de manière à concerner simultanément plusieurs équipes. Les sections ci-dessous passent en revue chaque aspect du problème et proposent des solutions.

Quelles catégories de centres de coûts s'appliquent aux dépenses liées à l'IA ?

Les dépenses liées à l'IA se répartissent généralement en quatre catégories de centres de coûts : calcul et infrastructure, données et stockage, logiciels et licences, ainsi que ressources humaines et opérations. Chaque catégorie correspond à une composante distincte des coûts liés à l'IA et nécessite sa propre logique d'imputation afin d'être attribuée avec précision à l'unité opérationnelle ou au produit qui en bénéficie.

• Informatique et infrastructure : Instances GPU, clusters de formation, points de terminaison d'inférence et services d'orchestration dans des environnements cloud tels qu'AWS, Azure ou GCP.
• Données et stockage : Les lacs de données, les bases de données vectorielles, les référentiels de caractéristiques et les pipelines qui assurent le transfert des données entre eux.
• Logiciels et licences : Appels d'API de modèles de base (tels que OpenAI ou Azure OpenAI), plateformes MLOps et outils SaaS dédiés à l'IA.
• Personnel et opérations : Les data scientists, les ingénieurs en apprentissage automatique et les ingénieurs en modèles de génération dont le temps de travail est directement lié à des initiatives spécifiques en matière d'IA.

De nombreuses entreprises considèrent dans un premier temps les dépenses liées à l'IA comme une partie de leur budget global consacré au cloud ou aux logiciels. Cette approche s'avère rapidement inadaptée à mesure que les charges de travail liées à l'IA prennent de l'ampleur, car les facteurs de coût se comportent très différemment de ceux des applications classiques. Un seul cycle d'entraînement peut consommer en quelques heures plus de ressources de calcul qu'une application standard n'en utilise en un mois, ce qui fait de la séparation granulaire des catégories une nécessité pratique plutôt qu'une simple préférence comptable.

Pourquoi les dépenses liées à l'IA sont-elles plus difficiles à répartir que les coûts informatiques traditionnels ?

Les dépenses liées à l'IA sont plus difficiles à répartir que les coûts informatiques traditionnels, car les charges de travail liées à l'IA sont, par nature, partagées, variables et transversales. Un même modèle peut servir simultanément cinq unités opérationnelles ; les coûts de formation ne sont engagés qu'une seule fois, mais les bénéfices sont générés de manière récurrente ; enfin, la frontière entre l'infrastructure et les applications est souvent floue.

Plusieurs facteurs structurels viennent aggraver la situation :

• Infrastructure partagée : Les clusters de GPU et les plateformes de données sont rarement réservés à une seule équipe. Le partage des ressources rend difficile la répartition des coûts en l'absence d'un mécanisme mûrement réfléchi de mesure de la consommation et de refacturation.
• Habitudes de consommation irrégulières : Les tâches d'entraînement entraînent des pics de coûts importants mais peu fréquents. Les coûts liés à l'inférence sont continus, mais varient en fonction de l'utilisation. Aucun de ces deux types de coûts ne s'inscrit parfaitement dans les cycles budgétaires mensuels traditionnels.
• Propriété multi-équipes : Un même produit d'IA peut impliquer une équipe chargée de la plateforme centrale de données, une équipe produit d'une unité opérationnelle et une équipe informatique du groupe, chacune ayant des revendications légitimes concernant les coûts.
• Modèles de tarification opaques : La tarification des API par jetons, les remises sur les instances spot et les contrats d'utilisation engagée rendent difficile le calcul du coût réel d'une charge de travail d'IA sans outils dédiés.

La répartition traditionnelle des coûts informatiques repose sur l'hypothèse de charges de travail relativement stables et prévisibles, liées à des systèmes spécifiques. L'IA remet en cause ces deux hypothèses, ce qui explique pourquoi les entreprises qui appliquent à l'IA les mêmes règles de répartition qu'aux logiciels classiques se retrouvent systématiquement avec des données faussées concernant les centres de coûts.

Comment répartissez-vous les coûts liés à l'infrastructure d'IA partagée entre les différentes unités opérationnelles ?

Vous répartissez les coûts liés à l'infrastructure d'IA partagée entre les différentes unités opérationnelles en appliquant l'un des trois modèles suivants : une répartition directe basée sur la consommation mesurée, une répartition proportionnelle basée sur des ratios convenus, ou un modèle de « show-back » qui rend les coûts visibles sans pour autant les refacturer. Le choix du modèle approprié dépend du niveau de maturité de vos capacités en matière d'étiquetage et de mesure.

Répartition basée sur la consommation directe

C'est la méthode la plus précise. Vous mesurez l’utilisation réelle des ressources par charge de travail, vous associez chaque charge de travail à une unité opérationnelle, puis vous répartissez les coûts en conséquence. Cela nécessite un marquage cohérent au niveau des ressources et des outils capables d’agréger les données d’utilisation par balise sur l’ensemble des périodes de facturation. Pour le calcul sur GPU, cela implique de suivre des indicateurs au niveau des tâches, tels que les heures de GPU consommées par session d’entraînement, et de les attribuer à l’équipe qui a soumis la tâche.

Répartition proportionnelle et négociée

Lorsque la mesure directe n'est pas encore possible, vous pouvez convenir de coefficients de répartition avec les parties prenantes des unités opérationnelles en fonction de l'utilisation prévue, des effectifs ou de la contribution au chiffre d'affaires. Cette approche est moins précise, mais constitue un point de départ bien plus pratique. Ces coefficients doivent être réexaminés chaque trimestre, à mesure que les données d'utilisation réelles deviennent disponibles et que le modèle de répartition évolue vers une attribution directe.

Quel que soit le modèle choisi, la logique de répartition doit être documentée, communiquée aux responsables des unités opérationnelles et réexaminée à intervalles réguliers. Des règles de répartition opaques ou statiques font rapidement perdre la confiance des parties prenantes, ce qui conduit les unités opérationnelles à ne plus s'intéresser aux données relatives aux coûts.

De quelles données avez-vous besoin pour évaluer avec précision les coûts liés à l'IA ?

Pour cartographier avec précision les coûts liés à l'IA, vous avez besoin de quatre types de données : les données de facturation au niveau des ressources fournies par vos fournisseurs de cloud, les métadonnées relatives aux charges de travail (notamment les balises et les identifiants de projet), les indicateurs d'utilisation au niveau des tâches ou des requêtes, ainsi qu'une cartographie organisationnelle reliant les équipes et les produits aux centres de coûts.

Sans ces quatre éléments, votre répartition présentera des lacunes. Les données de facturation vous indiquent les dépenses engagées. Les balises vous indiquent qui a provisionné la ressource. Les indicateurs d'utilisation vous indiquent la quantité réellement consommée par chaque utilisateur. La cartographie organisationnelle permet de faire correspondre les noms des équipes à la hiérarchie financière à laquelle appartiennent vos centres de coûts.

Parmi les problèmes courants liés à la qualité des données qui nuisent à la cartographie des coûts par l'IA, on peut citer :

• Les ressources non étiquetées ou étiquetées de manière incohérente, qui font basculer les coûts dans une catégorie fourre-tout “ non affectée ”
• Les données de facturation sont transmises avec un certain retard, ce qui rend impossible l'affectation en temps réel
• Les indicateurs d'utilisation qui existent dans les systèmes d'ingénierie mais qui ne sont jamais reliés aux données financières
• Les hiérarchies organisationnelles au sein des systèmes financiers qui ne reflètent pas la structure réelle des équipes d'IA

Définir des normes de qualité des données avant de créer des modèles d'allocation permet d'éviter un travail supplémentaire considérable. A Évaluation de la maturité FinOps C'est un moyen efficace d'identifier précisément où se situent vos lacunes en matière de données avant d'investir dans des outils ou de modifier vos processus.

En quoi le FinOps modifie-t-il l'approche de la répartition des coûts liés à l'IA ?

Le FinOps transforme la répartition des coûts liés à l'IA en faisant passer l'objectif d'un simple reporting passif à une prise de décision active. Plutôt que de rendre compte a posteriori des dépenses liées à l'IA, l'approche FinOps intègre la prise en compte des coûts au sein même des équipes chargées de prendre les décisions relatives à l'infrastructure d'IA, créant ainsi un cycle continu de visibilité, de responsabilité et d'optimisation.

La différence concrète est considérable. La gestion des coûts du cloud permet à elle seule de rendre visibles les dépenses liées à l’IA. Le FinOps va plus loin en déterminant qui est responsable de chaque coût, quelles décisions ce coût doit éclairer et dans quels délais ces décisions doivent être prises. Pour les charges de travail liées à l’IA, cela signifie :

• Les équipes d'ingénieurs reçoivent des informations en temps quasi réel sur les coûts liés aux sessions d'entraînement et aux déploiements d'inférence
• Les responsables des divisions opérationnelles voient leurs dépenses en matière d'IA clairement répertoriées et peuvent les contester ou les valider
• Les services financiers et informatiques se mettent d'accord sur les prévisions avant que les budgets ne soient engagés, et non après la réception des factures.
• Les décisions d'optimisation, telles que le passage d'une capacité GPU à la demande à une capacité réservée, sont prises en tenant pleinement compte des coûts et des performances.

Le FinOps apporte également la couche de gouvernance qui fait défaut à la répartition des coûts par l'IA dans la plupart des organisations. En l'absence de droits de décision clairement définis et d'un rythme de révision régulier, même des données de coûts précises restent inutilisées. Le FinOps instaure le rythme opérationnel qui permet de transformer les données en actions concrètes.

Quels outils permettent de rattacher les dépenses liées à l'IA aux centres de coûts ?

Les outils permettant de cartographier les dépenses liées à l'IA par centre de coûts se répartissent en trois catégories : les outils natifs des fournisseurs de cloud, les plateformes FinOps dédiées et les plateformes de gestion financière informatique. Chacun d'entre eux fonctionne à un niveau de granularité différent et s'adresse à un public différent au sein de l'entreprise.

• Outils natifs des fournisseurs de services cloud (AWS Cost Explorer, Azure Cost Management, GCP Billing) fournissent des données brutes de facturation et des filtres de base basés sur des balises. Ils constituent un point de départ, mais ne permettent pas l'agrégation inter-cloud ni ne fournissent de contexte métier.
• Plateformes FinOps Telles qu’Apptio Cloudability, ces solutions agrègent les données de facturation multi-cloud, appliquent des règles de répartition et présentent les données de coûts sous forme de vues pertinentes pour l’entreprise. Elles prennent en charge les modèles de « showback » et de « chargeback » et s’intègrent aux politiques de balisage afin de garantir la qualité des données.
• Plateformes ITFM et TBM telles qu’Apptio, qui relient les dépenses cloud via l’IA à la taxonomie plus large des coûts informatiques, en cartographiant les dépenses depuis le niveau des ressources jusqu’aux services métier et aux résultats. C’est là que l’affectation des centres de coûts par l’IA s’inscrit dans la dimension stratégique de la gestion financière informatique.

Le choix de la combinaison la plus adaptée dépend de votre environnement. Les entreprises qui exécutent des charges de travail d'IA sur plusieurs fournisseurs de cloud ont généralement besoin d'une plateforme FinOps pour consolider leurs données avant de les transmettre à un outil ITFM en vue d'une allocation au niveau de l'entreprise. Celles qui n'utilisent qu'un seul fournisseur de cloud peuvent commencer par des outils natifs, puis évoluer vers une plateforme dédiée à mesure que leurs dépenses en IA gagnent en ampleur et en complexité.

Comment nous vous aidons à rattacher vos dépenses en IA à vos centres de coûts

Nous aidons les organisations à passer d’une visibilité fragmentée sur les coûts liés à l’IA à une répartition précise et maîtrisée entre les centres de coûts. Notre approche combine la conception de pratiques FinOps avec le travail technique et organisationnel nécessaire pour garantir la pérennité de cette répartition. Plus précisément, nous vous accompagnons dans les domaines suivants :

• Stratégie de balisage et qualité des données : Nous définissons et faisons respecter les normes de balisage qui permettent une allocation au niveau des ressources entre les différents fournisseurs de cloud.
• Conception du modèle d'allocation : Nous élaborons les règles qui relient les charges de travail liées à l'IA aux unités opérationnelles, en optant pour une approche directe, proportionnelle ou hybride en fonction du niveau de maturité de vos données.
• Modèle opérationnel FinOps : Nous mettons en place la gouvernance, les rôles et la fréquence des revues nécessaires pour transformer les données relatives aux coûts en décisions, y compris la responsabilisation en matière de dépenses liées à l'IA au niveau des unités opérationnelles.
• Intégration entre TBM et FinOps : Grâce à Apptio, nous intégrons vos dépenses liées à l'IA dans le cloud à votre cadre global de gestion financière informatique, afin que les dépenses liées à l'IA soient visibles aux côtés des coûts sur site et hybrides dans une vue unique alignée sur les objectifs de l'entreprise.

Que vous partiez de zéro ou que vous souhaitiez améliorer une stratégie d'allocation existante, nous travaillons en collaboration avec vos équipes financières, informatiques et d'ingénierie pour mettre en place une solution capable d'évoluer au rythme de vos ambitions en matière d'IA. Contactez-nous pour faire le point sur la situation actuelle de votre organisation et déterminer quelle pourrait être la prochaine étape concrète.