Pour obtenir un véritable retour sur investissement de l’IA générative (genAI), les organisations doivent repenser à la fois la signification du retour sur investissement dans ce contexte et la manière dont l’IA générative devrait être utilisée.

Les mesures traditionnelles du retour sur investissement ne parviennent souvent pas à saisir les avantages et les défis uniques de la genAI.
Au lieu de considérer le retour sur investissement uniquement sous l’angle financier, envisagez des impacts plus larges tels que l’amélioration de la prise de décision, de l’efficacité opérationnelle et de la vision stratégique.

Le potentiel de la GenAI comprend à la fois la réduction des coûts et la génération de revenus ; elle apporte des avantages intangibles qui peuvent transformer les processus d’entreprise.

De nombreuses organisations peuvent constater un faible retour sur investissement de leurs efforts en matière d’IA générative.

La faiblesse du retour sur investissement est un problème très répandu qui découle d’une incompréhension fondamentale des capacités de l’IA générative et d’attentes irréalistes de retours financiers rapides.
L’IA générative est une technologie complexe qui nécessite une planification minutieuse, une mise en œuvre stratégique et une gestion continue.

Les experts suggèrent que les entreprises doivent repenser la façon dont elles mesurent le retour sur investissement des projets de genAI.
Les mesures traditionnelles du ROI ne tiennent souvent pas compte de la courbe d’apprentissage, de la phase d’expérimentation et du potentiel à long terme de la genAI.

Les organisations devraient également se concentrer sur le déploiement de l’IA générique dans les domaines où elle peut réellement apporter une valeur ajoutée, plutôt que de sauter dans le train en marche sans stratégie claire.

Réactions de l’industrie et conséquences

La croissance des projets de genAI suite à la popularité du ChatGPT d’OpenAI au début de l’année 2023 a créé une frénésie d’activité.

Les conseils d’administration et les PDG, captivés par le potentiel et le battage médiatique, ont donné des mandats de haut en bas pour le déploiement de l’IA dans divers secteurs.
L’enthousiasme pour l’IA est comparable à l’euphorie du web au milieu des années 1990.

Les départements informatiques ont été soumis à une pression énorme de la part de la direction générale pour mettre en œuvre rapidement des solutions d’IA, souvent sans une compréhension claire de leurs applications pratiques ou de leur retour sur investissement potentiel.

De nombreuses unités opérationnelles ont lancé des projets d’IA générique de manière indépendante, compliquant encore le paysage pour les départements informatiques, ce qui a conduit à des mises en œuvre hâtives et à des attentes irréalistes, ouvrant la voie à une déception généralisée quant au retour sur investissement réel de ces projets.

Le paradoxe du retour sur investissement de l’IA

Atefeh « Atti » Riazi, DSI de Hearst, dont le chiffre d’affaires s’est élevé à 12 milliards de dollars l’année dernière, a souligné le paradoxe du retour sur investissement de l’IA.
Malgré une grande expérience dans la mesure du rendement des projets informatiques, la nature perturbatrice de l’IA rend difficile la prévision des impacts à long terme.

L’incapacité à comprendre et à mesurer pleinement les implications de l’IA signifie que les mesures traditionnelles du retour sur investissement sont souvent insuffisantes, ce qui entraîne un décalage entre les attentes et les résultats du projet.

Problèmes liés aux déploiements initiaux

Rajiv Shah, de Snowflake, a souligné que la pression exercée par les conseils d’administration et les PDG compliquait l’analyse traditionnelle du retour sur investissement.

Contrairement aux initiatives informatiques précédentes dont le retour sur investissement pouvait être prévu de manière plus prévisible, les projets d’IA générative ont été lancés sans un travail de fond suffisant.
Une approche descendante a conduit à des objectifs mal alignés et à des attentes déçues, car les projets n’étaient souvent pas adaptés aux besoins et réalités spécifiques de l’organisation.

Désalignement par rapport aux priorités essentielles

Les projets d’IA se sont souvent concentrés sur des processus non essentiels, tels que les chatbots et les agents d’assistance.
Si ces applications peuvent être bénéfiques, elles n’ont souvent pas d’impact direct sur les fonctions essentielles de l’entreprise qui génèrent du chiffre d’affaires et de la croissance.

En conséquence, les ressources ont été détournées de domaines plus critiques, diminuant ainsi le retour sur investissement potentiel global des initiatives de genAI.
Selon Kelwin Fernandes, PDG du consultant en IA NILG.AI, ces projets manquaient d’engagement à long terme et de soutien organisationnel, ce qui réduisait encore leur efficacité.

Problèmes d’évolutivité

Les premiers projets d’IA à petite échelle ont donné des résultats impressionnants, créant un faux sentiment d’optimisme.
Cependant, lorsque ces projets ont été mis à l’échelle, ils se sont heurtés à des difficultés importantes.

Les technologies genAI open-source, adaptées aux petits déploiements, sont souvent devenues inefficaces et coûteuses à grande échelle.
Conor Twomey, de KX, a souligné que les systèmes qui fonctionnaient bien avec quelques centaines de documents avaient du mal à en traiter des centaines de milliers, ce qui entraînait une augmentation des coûts et une diminution des bénéfices.

Les problèmes d’évolutivité sont un facteur clé du retour sur investissement décevant que connaissent de nombreuses entreprises.

Des attentes exagérées

Les premiers succès de l’IA générique, tels que les performances impressionnantes de ChatGPT dans les applications initiales, ont suscité des attentes irréalistes pour des déploiements plus larges.

Les organisations s’attendaient à des résultats similaires à plus grande échelle sans comprendre pleinement les complexités en jeu.
Patrick Byrnes, consultant en IA pour DataArt, a noté que les entreprises sautaient souvent les étapes progressives nécessaires et lançaient prématurément des projets à fort impact, en contact avec la clientèle, ce qui aboutissait à des résultats décevants.

Les coûts opérationnels de l’IA générative sont considérables

IDC a indiqué que les GPU de NVIDIA, essentiels pour les calculs d’IA, coûtent environ 10 000 dollars chacun.
Les dépenses opérationnelles mensuelles peuvent aller de 4 à 5 millions de dollars, et les coûts de formation des modèles devraient dépasser les 5 millions de dollars.

Ces chiffres n’incluent pas les dépenses supplémentaires telles que l’électricité et la gestion du centre de données.
De nombreuses organisations ont sous-estimé ces coûts, ce qui a entraîné des dépassements de budget et un mauvais retour sur investissement.

Les hallucinations comportent des risques

La tendance de l’IA générative à « halluciner », c’est-à-dire à générer des informations incorrectes ou fabriquées, présente un risque important.

L’hallucination est particulièrement dangereuse dans des secteurs tels que la santé, la finance et l’aérospatiale, où la précision est primordiale.
Chaque résultat généré par l’IA nécessite une vérification humaine, ce qui érode les gains de productivité que l’IA est censée apporter.

M. Riazi, de Hearst, estime que, si les hallucinations sont un problème temporaire, la nécessité actuelle d’un contrôle approfondi diminue le retour sur investissement immédiat des déploiements de genAI.

Surestimation des coûts d’acquisition des clients

De nombreux fournisseurs d’IA ont proposé des coûts initiaux peu élevés pour attirer les clients, mais ces coûts devraient augmenter de manière significative.

Les entreprises négligent souvent cet aspect, ce qui entraîne des difficultés financières lorsque les prix augmentent inévitablement.
Cette négligence a contribué à une mauvaise évaluation du véritable retour sur investissement des projets de genAI.

Recommandations stratégiques pour un meilleur retour sur investissement

Pour obtenir un retour sur investissement significatif de la genAI, il est important de comprendre et de contrôler le coût total de possession (TCO).
Les premiers déploiements de l’IA générique devraient être considérés comme expérimentaux, l’objectif premier étant l’apprentissage et l’adaptation plutôt qu’un rendement financier immédiat.

Les facteurs secondaires de retour sur investissement, tels que les perceptions du marché et l’engagement des clients, devraient également être pris en compte.
Une approche holistique de la mesure du retour sur investissement fournira une image plus précise de la valeur de la genAI.

Expérimentation intelligente

La conduite d’expériences avec l’IA générique devrait s’appuyer sur des lignes directrices claires et des critères spécifiques.
Une telle approche permet de cibler les expériences et d’obtenir des informations précieuses.

Une formation approfondie et des instructions détaillées devraient être données à l’IA, de la même manière que pour les nouveaux employés, afin de réduire le risque d’erreurs et d’accroître la fiabilité des résultats de l’IA, améliorant ainsi le retour sur investissement global.

Des projets ciblés et à petite échelle

Plutôt que de lancer des projets d’IA à grande échelle et aux enjeux considérables, les organisations devraient se concentrer sur des applications plus petites et plus faciles à gérer, avec des objectifs clairs.

Parmi les exemples de projets efficaces à petite échelle, citons l’analyse des rapports sur les dommages subis par les véhicules, l’audit des appels de vente et la recommandation de produits de commerce électronique sur la base des descriptions de contenu.

Les projets ciblés sont plus faciles à gérer et à dimensionner, offrant un environnement plus contrôlé pour obtenir un retour sur investissement positif.

Gouvernance et mesures de contrôle

La mise en place de mesures complètes de gouvernance et de contrôle est essentielle pour comprendre les complexités et les risques associés à l’IA générative (genAI).

Les mesures de contrôle fournissent un cadre structuré qui aide à gérer efficacement les initiatives d’IA, en relevant les défis stratégiques et opérationnels.
Les comités d’IA et les options de repli sont deux éléments clés de cette structure de gouvernance.

Comités sur l’IA

La création de comités dédiés à l’IA au sein des organisations est une mesure stratégique pour superviser et guider les projets d’IA.

Les comités devraient être composés de spécialistes de différentes disciplines, notamment la science des données, le droit, la sécurité et la stratégie d’entreprise.
Leur fonction première est d’examiner, d’approuver ou d’opposer leur veto aux propositions de projets d’IA sur la base d’une évaluation complète des risques et des avantages potentiels.

Les comités IA peuvent examiner minutieusement les propositions pour s’assurer qu’elles sont conformes aux exigences légales et réglementaires, évaluer les vulnérabilités potentielles en matière de sécurité et veiller à ce que les projets s’alignent sur les objectifs stratégiques de l’organisation.

La supervision contribue à atténuer les risques associés aux déploiements de genAI, tels que les violations de données, les problèmes de conformité et l’inadéquation avec les objectifs de l’entreprise.

En demandant aux promoteurs de projets de présenter leurs initiatives en matière d’IA au comité, les organisations peuvent favoriser une culture de la responsabilité et de la transparence.
De tels processus permettent de s’assurer que seuls des projets bien réfléchis et stratégiquement solides sont mis en œuvre, ce qui améliore les chances d’obtenir un retour sur investissement significatif.

Options de repli

Les options de repli consistent à traiter les informations générées par l’IA comme des suppositions éclairées plutôt que comme des vérités absolues, ce qui implique d’incorporer des processus humains de supervision et de validation pour examiner et confirmer les résultats de l’IA avant qu’ils ne soient utilisés pour la prise de décision.

Pour les tâches critiques, l’existence d’un plan de secours signifie que les opérations peuvent se poursuivre sans heurts même si le système d’IA tombe en panne ou produit des résultats erronés.

En intégrant des options de repli, les organisations peuvent atténuer les risques associés aux inexactitudes de l’IA générique et maintenir une continuité opérationnelle qui, à son tour, protège contre les défaillances potentielles et construit un cadre résilient pour l’adoption de l’IA.

Pour maintenir la confiance et la fiabilité, les organisations doivent mettre en œuvre des mécanismes de repli complets.

Principaux enseignements

Les responsables informatiques devraient se concentrer sur le déploiement de l’IA générique dans les domaines qui ont un impact direct sur les fonctions essentielles de l’entreprise.

En donnant la priorité aux initiatives qui correspondent aux objectifs stratégiques, on s’assure que les ressources sont investies dans les projets qui ont le plus grand potentiel de rendement positif.
L’alignement stratégique est essentiel pour réaliser la valeur réelle de la genAI.

Une expérimentation approfondie et une formation adéquate sont des étapes importantes pour un déploiement réussi de l’IA générique.

L’expérimentation devrait être guidée par des objectifs et des critères clairs, permettant aux organisations d’apprendre et de s’adapter sans risquer des ressources importantes.
Les programmes de formation devraient permettre aux employés d’acquérir les compétences nécessaires pour gérer et utiliser efficacement les technologies d’IA, afin que l’organisation puisse tirer pleinement parti des capacités de l’IA générique.

La mise en place de cadres de gouvernance solides est également importante pour gérer efficacement les projets de genAI.
Les cadres devraient inclure des comités d’IA pour assurer la supervision et l’approbation, ainsi que des options de repli pour garantir la fiabilité et la continuité.

La mise en place de ces structures permet aux organisations d’atténuer les risques, d’améliorer la prise de décision et d’accroître le succès global de leurs initiatives en matière d’IA.

Alexander Procter

août 5, 2024

12 Min