Je vais construire des pipelines ETL automatisés avec Python, Airflow et SQL
Ingénieur des données, développeur Python et SQL, expert en automatisation
À propos de ce service
Solutions professionnelles d'ingénierie des données et d'ETL automatisé
Vous cherchez un moyen fiable d'automatiser vos flux de données ? Je suis ingénieur logiciel (spécialisé en ingénierie des données) dédié à la création de systèmes performants qui transforment des données brutes en actifs structurés et exploitables.
Ce que je propose :
- ETL/ELT de bout en bout : Pipelines entièrement automatisés utilisant Apache Airflow.
- Data Lakehouse moderne : Mise en œuvre de l'architecture Medallion (Bronze, Silver, Gold) avec PostgreSQL, dbt et MinIO.
- Traitement en temps réel : Solutions de streaming évolutives avec Apache Kafka et Spark.
- Intégrité des données : Systèmes à « tolérance zéro » avec zones de quarantaine automatisées pour les données corrompues.
- Déploiement complet : Tout est conteneurisé avec Docker pour une configuration facile en un clic.
Ma stack technologique :
- Langages : Python (Pandas, PySpark), SQL.
- Outils : Airflow, dbt, Spark, Kafka, Hadoop.
- Stockage : PostgreSQL, MySQL, Amazon S3 (MinIO).
Pourquoi travailler avec moi ? Je me concentre sur l’écriture de code propre, prêt pour la production et la fourniture de diagrammes d’architecture professionnels pour chaque projet. Je m’assure que vos données soient précises, partitionnées pour la rapidité, et prêtes pour l’analyse.
Veuillez m’envoyer un message pour discuter de vos besoins avant de passer commande !
Mon portfolio
FAQ
Traduction automatique
Dois-je fournir l’accès au cloud ?
Oui, pour déployer le pipeline, j’aurai besoin d’accéder à votre environnement (AWS, GCP ou serveur privé) ou je peux fournir un fichier Docker Compose pour un déploiement local.
Avec quelles bases de données travaillez-vous ?
Je travaille principalement avec PostgreSQL, MySQL, et le stockage compatible S3 comme MinIO, mais je peux m’adapter à Snowflake ou BigQuery si nécessaire.
Fournirez-vous de la documentation?
Absolument. Chaque projet inclut des instructions claires dans un README et un diagramme d’architecture pour vous assurer une gestion facile du système.

