Ingestion Multi-Sources
J'ai conçu et déployé des services d'ingestion en production permettant de centraliser des données provenant d'APIs, de bases de données, d'équipements énergétiques, de systèmes de recharge de véhicules électriques, de données solaires et de plateformes métier.
Le même framework permettait de couvrir des données opérationnelles comme des sources externes sans développer un pipeline entièrement spécifique pour chaque nouvelle intégration.
Traitement Incrémental
J'ai mis en place des mécanismes réutilisables pour le chargement incrémental, la gestion des changements, l'évolution des schémas, la déduplication, les reprises sur erreur et la validation des données.
Cette approche facilitait l'ajout de nouvelles sources tout en maintenant un comportement cohérent entre les différents pipelines.
Exploitation
Les services étaient conçus pour des traitements planifiés en production, avec un suivi de leur exécution, de la fraîcheur des données, des erreurs et de la qualité des données ingérées.