Dès qu'on construit un chatbot pour un mauvais processus, quelque chose d'intéressant se produit. Le chatbot se bâtit une base de soutien. Il a une équipe de projet, une ligne budgétaire, une relation avec un fournisseur, et une belle réussite à inscrire dans l'évaluation de rendement de quelqu'un. Et cette base de soutien a tout intérêt à garder le chatbot en vie, même quand la solution la plus intelligente serait de simplifier le processus pour que le chatbot ne soit plus nécessaire.
Voici le piège de l'investissement en IA.
Cet anti-modèle n'est pas propre à l'IA. Les organisations ont investi dans des systèmes de GRC, des plateformes ERP et d'autres outils qui ont fini par protéger des processus défaillants.
Ce qui change avec l'IA, c'est que le gain visible arrive plus vite, le coût politique d'admettre un échec est plus élevé, et la technologie commence à optimiser le processus existant. Cela rend la refonte plus difficile par la suite. Le piège de l'investissement en IA est une version plus rapide et plus ancrée d'un problème que nous connaissons déjà.
Le piège se déroule en trois étapes.