Pour créer une taxonomie cohérente des coûts liés aux dépenses en IA, vous devez définir un ensemble structuré de catégories de coûts qui permettent de rattacher ces dépenses aux infrastructures, aux modèles, aux services et aux activités métier qui les sous-tendent. Cette taxonomie doit être harmonisée entre les différentes équipes afin que les acteurs des services financiers, informatiques et métier parlent tous le même langage lorsqu’ils abordent la question des coûts liés à l’IA. Les questions ci-dessous examinent en détail chaque aspect de ce défi.
Pourquoi les dépenses liées à l'IA sont-elles si difficiles à classer dans les taxonomies informatiques existantes ?
Les dépenses liées à l'IA sont difficiles à classer dans les taxonomies informatiques existantes, car elles recoupent simultanément plusieurs catégories de coûts traditionnelles. Une seule charge de travail liée à l'IA peut impliquer à la fois des ressources de calcul dans le cloud, des logiciels sous licence, des API tierces, du temps de travail des ingénieurs internes et le stockage de données. Les taxonomies existantes ont été conçues pour des types de coûts distincts, et non pour des charges de travail qui les combinent de manière dynamique.
La plupart des modèles de coûts informatiques traditionnels distinguent l’infrastructure des applications, et les applications des services. L’IA fait tomber ces frontières. Une charge de travail d’inférence sur un grand modèle linguistique, par exemple, correspond à la fois à un coût lié au cloud (calcul sur GPU), à un coût logiciel (licence du modèle ou utilisation de l’API) et à un coût de main-d’œuvre (conception des prompts et réglage fin). Aucune de ces catégories traditionnelles ne permet à elle seule de rendre compte de la situation dans son ensemble.
Se pose également la question de la tarification basée sur la consommation. Les services d’IA, en particulier ceux accessibles via des API ou des plateformes cloud natives, sont facturés par jeton, par appel d’inférence ou par session d’entraînement. Ces unités de consommation ne correspondent pas clairement aux frais de licence mensuels ou aux allocations fixes d’infrastructure. En l’absence d’une taxonomie spécialement conçue à cet effet, les coûts liés à l’IA se retrouvent dispersés dans des dizaines de centres de coûts, ce qui rend presque impossible de comprendre ce que l’on dépense réellement en matière d’IA ou si ces dépenses génèrent de la valeur.
Quelles catégories doivent figurer dans une taxonomie des coûts liés à l'IA ?
Une taxonomie des coûts liés à l'IA devrait comporter au moins six catégories : ressources informatiques et infrastructure, acquisition et licences de modèles, coûts liés aux données, plateforme et outils d'IA, main-d'œuvre et compétences internes, ainsi que coûts liés à la gouvernance et à la conformité. Ensemble, ces catégories couvrent l'ensemble du cycle de vie des dépenses liées à l'IA, du développement des modèles jusqu'à leur mise en production.
- Informatique et infrastructure : Utilisation du GPU et du CPU pour l'entraînement, le réglage fin et l'inférence, que ce soit sur site ou dans le cloud. Il s'agit souvent du facteur de coût le plus important et le plus variable.
- Acquisition et octroi de licences de modèles : Coûts liés à l'accès à des modèles propriétaires, frais d'utilisation des API (telles que celles d'OpenAI ou d'Azure OpenAI) et licences commerciales pour les modèles de base.
- Coûts liés aux données : Collecte, stockage, étiquetage et nettoyage des données, ainsi que toute acquisition de données auprès de tiers nécessaire à l'entraînement ou à la validation des modèles d'IA.
- Plateforme et outils d'IA : Les plateformes MLOps, les bases de données vectorielles, les outils de suivi des expériences et les frameworks d'orchestration qui prennent en charge le pipeline de développement et de déploiement de l'IA.
- Main-d'œuvre et talents en interne : Le temps consacré par les équipes d'ingénierie, de science des données et de développement produit aux initiatives d'IA. Cet aspect est souvent sous-estimé dans les discussions sur les coûts de l'IA.
- Gouvernance et conformité : Coûts liés à la gestion des risques liés à l'IA, à l'audit des modèles, aux outils d'explicabilité et aux activités de mise en conformité réglementaire.
Chaque catégorie doit en outre être associée à des métadonnées permettant son attribution, telles que l'unité opérationnelle qui utilise cette fonctionnalité, le cas d'utilisation ou le produit qu'elle prend en charge, ainsi que l'environnement (développement, préproduction ou production). Sans cette couche de balisage, la taxonomie vous offre une visibilité, mais pas de responsabilité.
En quoi la taxonomie des coûts liés à l'IA diffère-t-elle de celle des coûts liés au cloud ?
Une taxonomie des coûts liés à l'IA diffère d'une taxonomie des coûts liés au cloud par son champ d'application et son niveau de granularité. Une taxonomie des coûts liés au cloud organise les dépenses par fournisseur de cloud, type de service et balise de ressource. Une taxonomie des coûts liés à l’IA doit aller plus loin, en prenant en compte les coûts au niveau des modèles, l’attribution par cas d’utilisation et l’ensemble de la chaîne de valeur, depuis la préparation des données jusqu’à l’inférence, y compris les coûts qui ne figurent pas du tout sur la facture du cloud.
Les taxonomies des coûts du cloud, telles qu'utilisées dans Pratiques FinOps, sont conçus autour des concepts de facturation des fournisseurs : comptes, abonnements, groupes de ressources et balises. Ils s’avèrent efficaces pour classer les ressources de calcul, de stockage et de réseau. Mais les dépenses liées à l’IA engendrent des coûts qui n’apparaissent jamais sur une facture cloud, tels que le salaire d’un data scientist chargé d’affiner un modèle, la licence commerciale d’un ensemble de données propriétaire ou l’outil tiers utilisé pour surveiller la dérive du modèle.
Une taxonomie du cloud a également tendance à être centrée sur les ressources, en posant la question suivante : “ Qu’avons-nous exécuté ? ” Une taxonomie des coûts de l’IA doit être axée sur les résultats, en posant la question suivante : “ Quelle capacité avons-nous développée, et à quelle activité métier sert-elle ? ” C’est ce changement de perspective qui rend la classification des coûts de l’IA véritablement plus complexe. Les deux dimensions sont nécessaires : la perspective des ressources pour le contrôle opérationnel et la perspective des résultats pour la prise de décision stratégique.
Comment établir un lien entre les coûts liés à l'IA et les résultats commerciaux ainsi que la valeur ajoutée ?
Pour établir un lien entre les coûts liés à l'IA et les résultats commerciaux, il faut associer chaque catégorie de coûts à un cas d'utilisation spécifique, puis relier ce cas d'utilisation à un objectif commercial mesurable. Cela nécessite une taxonomie commune, compréhensible tant par les équipes financières que par les équipes métier, ainsi qu'une méthodologie cohérente de marquage et d'affectation permettant d'imputer les coûts aux produits ou services pris en charge par la capacité d'IA.
Le point de départ concret réside dans l’attribution par cas d’utilisation. Chaque initiative d’IA, qu’il s’agisse d’un chatbot de service client, d’un modèle de détection des fraudes ou d’un moteur de prévision de la demande, doit être traitée comme un objet de coûts distinct. Tous les coûts liés à la puissance de calcul, aux données, aux outils et à la main-d’œuvre associés à cette initiative lui sont imputés. Vous pouvez ensuite comparer le coût total du cas d'utilisation à son impact commercial mesuré, qu'il s'agisse d'un impact sur le chiffre d'affaires, d'une réduction des coûts ou d'un gain de temps.
La gestion des activités technologiques (TBM) offre ici un cadre structurel utile. Les taxonomies TBM sont conçues pour traduire les coûts technologiques en services et résultats métier. En élargissant la taxonomie TBM pour y inclure des couches de coûts spécifiques à l’IA, telles que l’entraînement des modèles et l’inférence, sous forme de « tours informatiques » distinctes, vous pouvez présenter les dépenses liées à l’IA dans des termes que les dirigeants d’entreprise et les équipes financières comprennent déjà. C’est cet alignement entre les données de coûts de l’IA et le langage de la valeur métier qui transforme une taxonomie des coûts, passant d’un simple exercice de reporting à un véritable outil d’aide à la décision.
Quelles sont les erreurs les plus courantes dans la conception d'une taxonomie des coûts liés à l'IA ?
Les erreurs les plus courantes dans la conception d'une taxonomie des coûts liés à l'IA consistent à créer trop de catégories trop rapidement, à ne pas attribuer clairement la responsabilité de chaque catégorie et à considérer la taxonomie comme une tâche ponctuelle plutôt que comme une structure évolutive qui s'adapte au fur et à mesure de l'évolution de votre portefeuille d'IA.
- Une conception trop sophistiquée dès le départ : Les entreprises tentent souvent de mettre en place une taxonomie exhaustive avant même que leurs dépenses en IA ne soient suffisamment importantes pour justifier une telle complexité. Commencez par cinq à sept catégories générales, puis affinez-les à mesure que votre utilisation de l'IA se développe.
- Aucun propriétaire par catégorie : Une taxonomie sans responsables désignés génère des données sans obligation de rendre des comptes. Chaque catégorie de coûts doit disposer d'une équipe ou d'un poste chargé de suivre, de valider et d'exploiter les données qu'elle contient.
- Sans tenir compte des coûts de main-d'œuvre et des coûts internes : Les coûts liés au calcul et aux API sont faciles à mesurer, car ils figurent sur les factures. Le temps consacré en interne par les ingénieurs et les data scientists est plus difficile à quantifier, mais représente souvent une part importante du coût total de l'IA. Ne pas en tenir compte fausse votre perception du véritable investissement dans l'IA.
- Une taxonomie statique dans un environnement dynamique : Les structures de coûts de l'IA évoluent rapidement. De nouveaux types de modèles, de nouveaux modèles de tarification et de nouveaux cas d'utilisation apparaissent sans cesse. Une taxonomie qui n'est pas réexaminée et mise à jour régulièrement se retrouve, en l'espace de quelques mois, en décalage avec les tendances réelles en matière de dépenses.
- Hors contexte commercial : Une taxonomie qui ne reflète que les types de coûts techniques, sans établir de lien avec les produits, les services ou les résultats opérationnels, offre une visibilité financière dépourvue de valeur stratégique. La taxonomie doit faire le lien entre les perspectives techniques et opérationnelles.
Quels outils prennent en charge la taxonomie des coûts liés à l'IA et la gouvernance financière ?
Les outils les plus adaptés à la taxonomie des coûts liés à l'IA et à la gouvernance financière associent des fonctionnalités de gestion des coûts du cloud à des cadres de gestion financière informatique. Il s'agit donc de plateformes capables de collecter des données de coûts provenant de sources multiples, d'appliquer des règles cohérentes de marquage et d'affectation, et de présenter les dépenses par cas d'utilisation et par résultat commercial, et non plus uniquement par type de ressource.
Apptio, qui fait partie d'IBM, est particulièrement bien placé pour répondre à cet objectif. Le cadre TBM d’Apptio fournit la structure taxonomique permettant de classer les coûts technologiques par service métier et par résultat, et il peut être étendu pour prendre en charge des couches de coûts spécifiques à l’IA. Apptio Cloudability apporte une visibilité de niveau FinOps sur les dépenses liées à l’IA dans le cloud, couvrant l’utilisation des GPU, la consommation d’API et les coûts au niveau des conteneurs sur AWS, Azure et GCP.
Au-delà des outils de la plateforme, une gouvernance efficace des coûts liés à l’IA nécessite une infrastructure de processus : un rythme régulier d’analyse des coûts, des règles d’imputation claires, documentées et approuvées par les services financiers et d’ingénierie, ainsi qu’une politique de balisage appliquée dès l’allocation des ressources. Les outils renforcent la gouvernance, mais ne la remplacent pas. La taxonomie doit être mise en œuvre par le biais des personnes et des processus avant que les outils puissent fournir des données cohérentes et fiables.
Pour les organisations qui gèrent à la fois une infrastructure d'IA sur site et des services d'IA dans le cloud, l'intégration entre les outils FinOps et les plateformes plus larges de gestion financière informatique revêt une importance particulière. Sans cette intégration, on se retrouve avec des vues distinctes des dépenses liées à l’IA dans le cloud et sur site, ce qui rend impossible toute prise de décision éclairée quant au choix du lieu d’exécution des charges de travail d’IA.
Comment nous vous aidons à mettre en place une taxonomie cohérente des coûts liés à l'IA
Nous collaborons avec les entreprises pour concevoir et mettre en œuvre des taxonomies de coûts liées à l'IA qui relient, dès le premier jour, les données de dépenses aux résultats métier. Notre approche associe le cadre TBM (gestion des coûts de l'infrastructure) pour la classification stratégique des coûts à la discipline FinOps pour le contrôle opérationnel des coûts du cloud, vous offrant ainsi une vue unifiée des dépenses liées à l'IA, quel que soit l'endroit où s'exécutent les charges de travail.
- Définissez une taxonomie des coûts liés à l'IA qui soit pratique et évolutive, et qui s'aligne sur votre structure actuelle de gestion financière informatique.
- Définir des règles d'affectation et des politiques de marquage permettant d'imputer les coûts liés à l'IA à des cas d'utilisation et à des services métier spécifiques
- Mettre en œuvre les outils Apptio pour automatiser la collecte, la répartition et le reporting des coûts dans les environnements d'IA, tant dans le cloud qu'en local
- Mettre en place un rythme de gouvernance permettant d'assurer la cohérence entre les services financiers, informatiques et d'ingénierie dans les décisions relatives aux dépenses en matière d'IA
- Élargissez votre gamme actuelle Pratique FinOps afin de prendre en compte les catégories de coûts et les modes de consommation spécifiques à l'IA
Si vous souhaitez passer de données fragmentées sur les coûts de l'IA à une taxonomie cohérente et prête à l'emploi pour la prise de décision, contactez-nous et nous vous expliquerons comment vous y prendre.