Les prix des modèles d'IA doivent être intégrés dans les prévisions de coûts sous forme d'une fourchette de scénarios plutôt que d'une hypothèse fixe, car les fournisseurs ajustent fréquemment leurs tarifs, souvent sans préavis. L’approche la plus fiable consiste à établir un scénario de base, un scénario optimiste (baisse des prix) et un scénario pessimiste (hausse des prix ou obsolescence d’un modèle), puis à actualiser ces hypothèses chaque trimestre. Les sections ci-dessous passent en revue chaque aspect de ce défi, depuis la compréhension des raisons de l’évolution des prix jusqu’au choix des outils adaptés à une prévision dynamique.
Pourquoi les prix des modèles d'IA varient-ils si souvent ?
Les prix des modèles d’IA varient fréquemment, car les aspects économiques liés à l’exploitation de grands modèles linguistiques sont encore en pleine évolution. Les fournisseurs se livrent une concurrence acharnée pour conquérir des parts de marché, l’efficacité du matériel s’améliore à chaque nouvelle génération d’accélérateurs, et la sortie de nouveaux modèles rend souvent les anciens moins chers, voire obsolètes. La conjonction de ces facteurs crée un contexte tarifaire dans lequel les prix catalogue peuvent chuter de manière significative quelques mois seulement après le lancement d’un modèle.
Plusieurs facteurs spécifiques accentuent cette volatilité :
- Pression concurrentielle : Lorsqu'un grand fournisseur baisse ses prix, les autres lui emboîtent généralement le pas afin de conserver leur clientèle d'entreprises.
- Gains d'efficacité en matière d'inférence : Les progrès réalisés en matière de distillation et de quantification des modèles permettent de réduire le coût de traitement des jetons, et les fournisseurs répercutent une partie de ces économies sur leurs clients.
- Cycles de fin de vie des modèles : Les fournisseurs retirent les anciens modèles du marché et les remplacent par des versions plus récentes proposées à différents niveaux de prix, ce qui oblige parfois à une migration qui modifie complètement votre base de référence en matière de coûts.
- Tarification échelonnée et promotionnelle : Les remises sur les inférences par lots, les contrats d'engagement d'utilisation et l'élargissement des niveaux d'accès gratuit constituent autant de signaux de prix temporaires susceptibles d'induire en erreur une prévision statique.
Pour les équipes d'entreprise chargées de l'optimisation des dépenses liées à l'IA, cette variabilité ne constitue pas seulement un inconvénient sur le plan budgétaire. Elle a une incidence directe sur l'analyse de rentabilité des initiatives d'IA, sur la comparaison entre les options « développer en interne » et « acheter », ainsi que sur l'évolution à long terme des coûts des produits dont l'IA est au cœur même.
Comment intégrer des hypothèses d'évolution des prix dans un modèle de coûts basé sur l'IA ?
Intégrez des hypothèses d'évolution des prix dans un modèle de coûts basé sur l'IA en définissant au moins trois scénarios : un scénario de base dans lequel les prix actuels restent stables, un scénario baissier qui table sur une hausse significative des prix ou un changement de modèle, et un scénario haussier qui table sur la poursuite des baisses de prix, conformément aux tendances récentes du marché. Attribuez une pondération de probabilité à chaque scénario et recalculez votre fourchette de prévisions chaque trimestre.
Concrètement, une approche structurée se présente comme suit :
- Lien vers les prix catalogue actuels comme référence, mais notez bien la date à laquelle vous les avez relevés. Les prix fluctuent, et une hypothèse non datée peut rapidement devenir trompeuse.
- Appliquer une plage de sensibilité. Une sensibilité à la baisse de 20 à 40 % sur 12 mois correspond à ce qu'a observé le marché. Une sensibilité à la hausse de 10 à 20 % couvre le risque lié à l'obsolescence du modèle, qui pourrait obliger à opter pour une alternative plus coûteuse.
- Distinguer les hypothèses relatives aux volumes de celles relatives aux prix. La croissance de la consommation et l'évolution des prix sont des variables indépendantes. Les regrouper en un seul chiffre masque les véritables facteurs à l'origine des dépenses.
- Indiquez explicitement les hypothèses dans votre modèle. Chaque cellule contenant un prix doit faire référence à une hypothèse nommée, et non à un chiffre figé. Cela permet de mettre à jour rapidement les scénarios et d'en assurer la traçabilité.
Cette approche s'inscrit directement dans le cadre plus large de la discipline de FinOps pour la gestion des coûts de l'IA dans le cloud, où l'objectif n'est pas seulement d'avoir une visibilité sur les dépenses actuelles, mais aussi de disposer d'informations exploitables pour la prise de décision, qui tiennent compte des incertitudes futures.
Quelle est la différence entre la tarification par jetons et celle par appels d'API dans les prévisions ?
La tarification au nombre de tokens vous facture en fonction du volume de texte traité, mesuré en tokens d'entrée et de sortie. La tarification par appel d'API applique un tarif forfaitaire par requête, quelle que soit la quantité de texte contenue dans chaque requête. Dans les prévisions, cette distinction est importante car les modèles basés sur les tokens vous obligent à estimer la taille moyenne des requêtes, tandis que les modèles basés sur les appels vous obligent à estimer le volume de requêtes. Confondre ces deux approches entraîne des erreurs de prévision significatives.
La plupart des principaux fournisseurs de modèles LLM, notamment OpenAI, Anthropic et Google, ont désormais adopté une tarification au token. Cela signifie que vos prévisions doivent tenir compte des éléments suivants :
- Volume des jetons d'entrée : En fonction de la longueur du message, des instructions du système et de l'utilisation de la fenêtre de contexte.
- Volume des jetons émis : C'est souvent plus difficile à prévoir, car cela dépend du cas d'utilisation et du comportement de l'utilisateur.
- Rapport entre les entrées et les sorties : Une tâche de synthèse génère peu de tokens en sortie par rapport à l'entrée ; une tâche de génération de code peut inverser ce rapport.
Si un fournisseur auquel vous faites confiance applique une tarification au nombre d'appels, vos prévisions sont plus simples mais moins détaillées. Le risque est que le passage de ce fournisseur d'une tarification au nombre d'appels à une tarification par jetons, ce qui s'est déjà produit sur le marché, puisse bouleverser votre modèle de coûts sans que vos habitudes d'utilisation réelles aient changé. Vérifiez toujours si le modèle de tarification d’un fournisseur est stable en soi, et pas seulement le niveau des prix.
Les prévisions de coûts liées à l'IA doivent-elles se baser sur les prix catalogue des fournisseurs ou sur les tarifs négociés ?
Les prévisions de coûts liés à l'IA doivent s'appuyer sur les tarifs réels que vous avez négociés, lorsqu'ils existent, et ne considérer les prix catalogue des fournisseurs que comme un point de départ en l'absence d'accord. Se baser sur les prix catalogue pour établir des prévisions alors que vous bénéficiez d'une remise pour engagement d'utilisation ou d'un contrat d'entreprise conduit à surestimer vos dépenses prévues et fausse l'analyse de rentabilité des investissements dans l'IA.
Cela dit, il convient de garder à l'esprit certaines réserves importantes concernant l'utilisation des taux négociés dans les prévisions :
- Les conditions d'engagement arrivent à échéance. Si votre taux négocié est lié à un engagement d'un ou deux ans, vos prévisions au-delà de cette période doivent se fonder sur une hypothèse et non sur le taux contractuel.
- Les seuils de volume ont leur importance. De nombreux contrats d'entreprise prévoient des remises échelonnées qui ne s'appliquent qu'au-delà d'un certain seuil d'utilisation. Si vos prévisions de volume évoluent, votre tarif effectif évolue également.
- Il se peut que les nouveaux modèles ne soient pas couverts. Un contrat négocié pour une version donnée d'un modèle peut ne pas s'étendre aux modèles ultérieurs. Vérifiez si votre contrat couvre les versions futures avant d'extrapoler ces tarifs.
Concrètement, il est recommandé de prévoir deux colonnes de référence dans votre prévision des coûts liés à l'IA : l'une indiquant les prix catalogue et l'autre votre tarif effectif. La différence entre les deux correspond à la remise que vous avez négociée, et le fait de suivre cette évolution au fil du temps vous donnera un avantage lors de vos futures négociations avec les fournisseurs.
À quelle fréquence faut-il mettre à jour les prévisions de coûts générées par l'IA afin de tenir compte des nouvelles tarifications ?
Les prévisions de coûts liés à l'IA doivent être mises à jour au moins une fois par trimestre, et un examen sommaire doit être effectué chaque fois qu'un fournisseur majeur annonce une modification de ses tarifs ou lance un nouveau modèle. Les mises à jour trimestrielles s'alignent sur la plupart des cycles budgétaires des entreprises et laissent aux équipes financières et informatiques suffisamment de temps pour s'adapter aux nouveaux chiffres avant que ceux-ci n'aient une incidence sur les budgets approuvés.
Voici à quoi ressemble un rythme de mise à jour concret :
- Mensuel : Suivre les annonces des fournisseurs et comparer les dépenses réelles aux prévisions. Signaler les écarts supérieurs à un seuil défini afin qu'ils soient examinés.
- Trimestriel : Actualiser les hypothèses de prix, mettre à jour les prévisions de volume en fonction des tendances réelles de consommation et réajuster les scénarios.
- Chaque année : Procéder à un examen complet du modèle de prévision lui-même, notamment la structure des scénarios, les fourchettes de sensibilité et vérifier si les modèles appropriés font l'objet d'un suivi.
Le risque lié à des mises à jour moins fréquentes ne se limite pas à une imprécision des prévisions. Il réside dans le fait que les équipes prennent des décisions concernant le développement en interne ou l'achat de solutions, le choix des fournisseurs et les choix architecturaux sur la base d'hypothèses de coûts obsolètes. Sur un marché où les prix des modèles ont historiquement baissé plus rapidement que ne le prévoyaient la plupart des prévisions, une prévision pessimiste et obsolète peut également conduire les organisations à sous-investir dans des capacités d’IA qui sont désormais économiquement viables.
Quels outils permettent de réaliser des prévisions de coûts basées sur l'IA à partir de données de tarification dynamiques ?
Plusieurs catégories d'outils permettent de prévoir les coûts liés à l'IA à partir de données dynamiques sur la tarification. Les plateformes FinOps dotées de fonctionnalités de gestion des coûts de l'IA dans le cloud, les calculateurs de coûts LLM spécialement conçus à cet effet et les outils de planification financière d'entreprise avec modélisation de scénarios constituent les trois options les plus courantes. Le choix approprié dépend de vos besoins : une intégration avec des données plus larges sur les coûts informatiques ou une vue autonome spécifique à l'IA.
Plateformes FinOps et de gestion des coûts du cloud
Les plateformes conçues pour le FinOps, notamment les outils de la gamme Apptio Cloudability, vous permettent de marquer et d’imputer les dépenses liées aux API d’IA parallèlement aux autres coûts du cloud, de modéliser des scénarios et de comparer les chiffres réels aux prévisions au sein d’un environnement unique. Cela s’avère particulièrement utile lorsque les charges de travail d’IA s’exécutent sur une infrastructure cloud et que vous avez besoin d’une vue unifiée de l’ensemble des dépenses liées à l’IA dans le cloud, plutôt que de vous limiter à la couche API.
Outils de calcul des coûts et d'observabilité spécifiques aux modèles LLM
Des outils tels que LangSmith, Helicone et d’autres plateformes similaires d’observabilité des modèles de langage à grande échelle (LLM) suivent la consommation de jetons au niveau de chaque requête, ce qui vous fournit les données d’utilisation détaillées nécessaires pour établir des estimations précises en termes de volume. Certains intègrent des calculateurs de coûts qui récupèrent les tarifs actuels auprès des principaux fournisseurs ; toutefois, vous devriez vérifier la fréquence de mise à jour de ces barèmes tarifaires avant de vous y fier pour votre planification.
Quel que soit l'outil utilisé, la qualité du modèle de prévision dépend entièrement de la qualité des hypothèses qui l'alimentent. Les outils apportent visibilité et automatisation ; toutefois, les choix relatifs aux fourchettes de scénarios, à la fréquence des mises à jour et à la manière de gérer les transitions entre les modèles nécessitent toujours une prise de décision humaine s'appuyant sur un processus de gouvernance clair.
Comment nous vous aidons dans la prévision des coûts liés à l'IA et dans le domaine du FinOps
La gestion des prévisions de coûts liés à l'IA, parallèlement à l'ensemble des dépenses liées au cloud et à l'informatique, correspond exactement au type de défi pour lequel notre pôle FinOps a été conçu. Nous aidons les équipes des entreprises à dépasser le cadre des budgets statiques et des rapports réactifs pour adopter une approche structurée et orientée décision en matière de gestion financière de l'IA et du cloud. Plus précisément, nous vous accompagnons dans les domaines suivants :
- Concevoir un Modèle opérationnel FinOps qui intègre les dépenses liées aux API d'IA dans votre cadre existant de gestion des coûts du cloud
- Mise en place de structures de prévision basées sur des scénarios qui tiennent compte de la variabilité des tarifs des modèles de langage à grande échelle (LLM) et du risque de dépréciation des modèles
- Mettre en place un rythme décisionnel régulier entre les services financiers, informatiques et d'ingénierie afin que les modifications de tarification donnent lieu à des actions concrètes, et ne se limitent pas à la simple mise à jour de feuilles de calcul
- Intégrer les données relatives aux dépenses en IA à votre cadre global de gestion des activités technologiques afin que la direction puisse évaluer les investissements en IA à l'aune des résultats commerciaux, et non pas uniquement en fonction des postes de coûts
Si vous souhaitez apporter davantage de structure et de fiabilité à vos prévisions de coûts liées à l'IA, contactez-nous et nous pourrons passer en revue les lacunes de votre approche actuelle et voir à quoi ressemblerait un modèle plus solide pour votre organisation.