Je construirai une pipeline de données automatisée avec Python et Airflow
Ingénieur de données et cloud
À propos de ce service
Marre de copier et nettoyer les données manuellement ? Je conçois des pipelines de données automatisés qui collectent vos données, les nettoient et les stockent dans une base de données, fonctionnant selon un planning autonome.
Ce que vous obtenez :
- Code Python qui récupère les données à partir d’API ou de fichiers
- Nettoyage des données (doublons, formats incorrects, valeurs manquantes)
- Stockage dans une base PostgreSQL
- Planification quotidienne avec Apache Airflow
- Packaging Docker pour que tout tourne de la même façon partout
- Déploiement sur serveur cloud AWS (package Premium)
J’ai moi-même construit et déployé un pipeline fonctionnel de ce type, et je peux partager des captures d’écran.
Avant de passer commande, envoyez-moi votre source de données et ce que vous voulez faire avec les données, afin que je confirme que cela correspond à votre besoin.
Technologie:
Apache Spark
•
BigQuery
•
Python
•
SQL
•
Apache Airflow
Mon portfolio
FAQ
Traduction automatique
Travaillez-vous avec Power BI ou Tableau ?
Oui, mais je me concentre sur le pipeline de données et la base de données. Je peux préparer des données propres afin que votre outil de dashboard puisse les lire.
Pouvez-vous déployer sur mon propre compte AWS ?
Oui, si vous me donnez l’accès. Sinon je peux déployer sur mon propre serveur.

