Dans le cadre de son programme d’innovation, un grand groupe bancaire a sollicité l’expertise d’Alteca pour relever un défi ambitieux : améliorer la rapidité et la pertinence des réponses apportées aux équipes internes via une solution d’IA Générative. Face à des processus de recherche d’informations chronophages et une surcharge des équipes, Alteca a mené une étude approfondie pour concevoir une solution basée sur la génération augmentée de récupération (RAG). L’objectif : Sécuriser la faisabilité de la technologie et optimiser l’efficacité des opérations, tout en garantissant la conformité aux exigences de sécurité de la Banque. Nous avons ensuite participé au développement et au déploiement de cette solution.
Enjeux du projet
- Répondre (en langage naturel) à une question client, en allant chercher les éléments de réponse dans l’ensemble du Système d’Information (données clients, CRM, documents internes, …).
- Améliorer les performances de l’équipe des « Relationship managers » en termes de délais et de qualité de réponse, tout en diminuant leur charge de travail.
Mission et réalisation
- Conception d’une architecture adaptée : Définition d’une infrastructure utilisant la puissance de calcul de GPU, hébergée sur un cloud privé sécurisé.
- Conversion des bases de données : Transformation des bases classiques en bases vectorielles pour faciliter l’usage de l’IAG.
- Mise en place d’un modèle LLM : Réalisation d’un modèle en utilisant une solution open source, avec un ‘fine tuning’ (spécialisation du modèle) pour obtenir des réponses synthétiques précises.
- Développement et tests : Développement et orchestration des micro-services, nettoyage des données, vectorisation des documents puis validation par les équipes Métier avant le déploiement en production.
Les bénéfices
Les résultats du projet sont immédiats et significatifs :
- Gain de temps : réponses en quelques secondes à des questions complexes.
- Interface simple : une interface, en langage naturel, intuitive pour les équipes internes.
- Fiabilité : pas de besoin d’entraînement du modèle (grâce au fine tuning) et très peu de problème d’hallucination.
- Sécurité garantie : le moteur est entièrement internalisé et conforme aux normes de sécurité de la banque.
L’apport de valeur Alteca
- Analyse approfondie et collaboration étroite avec l’équipe client : l’écoute client et la co-construction de la solution pour satisfaire les besoins Métier et garantir la sécurité informatique.
- Compétences variées : une expertise multidisciplinaire en Data Science, ingénierie de données et développement logiciel pour assurer une mise en œuvre efficace.
- Soutien du Centre R&D : l’appui de l’unité R&D d’Alteca, spécialisée en IA et IA Générative, pour innover et affiner la solution.
- Coût maîtrisé : Alteca a proposé une solution performante à moindre coût, en gérant efficacement les ressources et les processus.
Le succès de ce projet illustre parfaitement comment l’IA Générative peut transformer les processus internes d’une banque en améliorant à la fois la rapidité et la précision des réponses, tout en réduisant les coûts opérationnels. Cette technologie ouvre de nouvelles perspectives d’optimisation, non seulement pour les équipes internes, mais aussi pour des interactions futures avec les clients.
Si vous souhaitez découvrir comment l’IA Générative peut révolutionner vos propres opérations et services, Alteca vous accompagne à chaque étape de votre transformation digitale. Contactez-nous !