Je vais construire votre pipeline de données ETL avec Python, SQL et Apache Airflow
Ingénieur data pour pipelines ETL, automatisation avec Python et SQL
À propos de ce service
Je crée des pipelines ETL/ELT fiables, de qualité production, qui déplacent et transforment vos données sans erreurs ni interruption. En tant qu'ingénieur data, j'ai conçu des pipelines synchronisant des milliards d'enregistrements entre systèmes avec déduplication en temps réel, synchronisation complète et delta, et aucune perte de données en production, ainsi que des clusters Apache NiFi pour gérer l'intégration continue des données d'entreprise.
Que vous ayez besoin d'un script simple pour déplacer des données d'un CSV vers une base de données, ou d'un pipeline programmé qui extrait via une API et charge dans votre entrepôt, je le concevrai pour qu'il soit propre, documenté et facile à transmettre à votre équipe.
Ce avec quoi je peux aider : extraction de données depuis des API, bases de données ou fichiers ; transformation et nettoyage ; déduplication et logique d'upsert ; synchronisations programmées et automatisées ; migration entre bases comme MySQL, SQL Server et PostgreSQL.
J'apporte la même fiabilité que j'utilise dans les systèmes en production supportant des millions d'utilisateurs à chaque projet. Une communication claire et un code propre, bien documenté, font toujours partie de la livraison.
Destination Platform:
PostgreSQL
•
mySQL
•
Serveur Microsoft SQL
Outils et plateformes:
Kafka Connect
•
Apache NiFi
FAQ
Traduction automatique
De quelles informations avez-vous besoin de ma part pour commencer ?
Envoyez-moi les détails de votre source et destination de données (bases, API ou fichiers), le format de vos données, et la fréquence d'exécution souhaitée. Je m'occupe du reste.
Pouvez-vous travailler avec ma configuration AWS ou Azure existante ?
Oui, je travaille régulièrement avec ADLS, S3 et d'autres services de stockage et bases de données cloud, et je peux m'intégrer à votre infrastructure existante.
Fournissez-vous une documentation pour le pipeline que vous construisez ?
Oui, chaque livraison comprend une documentation claire couvrant l'installation, la configuration et le fonctionnement du pipeline, pour que votre équipe puisse l'entretenir facilement.

