Je vais construire un pipeline ETL personnalisé en utilisant Python et Apache Airflow

Certaines informations ont été traduites automatiquement.

Pakistan

Je parle Anglais

Ingénieur data, pipelines ETL, Spark et expert en entrepôt de données cloud

Data Engineer | plus de 4 ans à construire des pipelines ETL, des entrepôts de données et des systèmes de streaming en temps réel. Expert en Python, Apache Airflow, Apache Spark, dbt, Snowflake, BigQu...
À propos de ce service

Vous avez du mal avec des transferts de données manuels, des scripts cassés ou des pipelines de données peu fiables ? Je vais créer pour vous un pipeline ETL prêt pour la production qui extrait, transforme et charge vos données automatiquement, vous faisant gagner des heures de travail manuel chaque semaine.


Ce que je propose :

- Pipeline ETL personnalisé développé en Python avec un code propre et documenté

- DAG Apache Airflow pour la planification automatisée et la surveillance

- Support pour toutes les principales sources de données : bases de données (PostgreSQL, MySQL), APIs, CSV/Excel, S3, Google Sheets

- Logique de transformation et de nettoyage des données adaptée à vos règles métier

- Gestion des erreurs, logique de réessai et alertes par email/Slack en cas d’échec

- Déploiement sur votre infrastructure cloud (AWS, GCP, Azure) ou serveur local

- Documentation complète pour que votre équipe puisse l’entretenir de manière autonome


Technologies que j’utilise : Python, Apache Airflow, Apache Spark, Pandas, SQLAlchemy, AWS Glue, AWS Lambda, S3, PostgreSQL, MySQL, BigQuery, Snowflake.


Destiné à :

- Startups créant leur premier pipeline de données automatisé

- Entreprises migrantes de workflows manuels Excel/CSV vers l’automatisation ETL

- Équipes remplaçant un pipeline de données legacy cassé ou lent

- Entreprises nécessitant un pipeline d’ingestion de données pour Snowflake ou BigQuery


Destination Platform:

Snowflake

Amazon Redshift

Outils et plateformes:

Airbyte

AWS Glue DataBrew

Kafka Connect

Mon portfolio