Je vais construire des pipelines de données apache beam en utilisant google cloud dataflow
Ingénieur de données senior
À propos de ce service
Vous avez besoin d’un pipeline Apache Beam ou Google Cloud Dataflow fiable ?
Je vais créer un pipeline de données basé sur Python en utilisant Apache Beam et Google Cloud Dataflow selon vos besoins.
Voici ce que je peux faire :
Développement de pipelines Apache Beam
pipelines Google Cloud Dataflow
Traitement de données par lot
Traitement de données en temps réel / streaming
Intégration avec Google Cloud Storage
Intégration avec BigQuery
Transformation et validation des données
Développement ETL en Python
Débogage et dépannage de pipelines
Tests unitaires et documentation
J’ai une expérience professionnelle dans le développement de pipelines ETL évolutifs utilisant Python et Apache Beam sur Google Cloud Platform, en travaillant avec des services tels que Dataflow, BigQuery, Pub/Sub et Cloud Storage. J’ai également travaillé sur le traitement de données par lot et en temps réel, ainsi que sur les déploiements en production et les tests.
Je commencerai par comprendre vos besoins en source, destination et transformation, puis je mettrai en œuvre une solution propre et facile à maintenir.
Veuillez me contacter avant de passer commande afin que je puisse examiner vos besoins et confirmer la portée du projet.
Destination Platform:
Google BigQuery
•
Google Cloud Storage
Outils et plateformes:
Google Cloud Dataflow
•
Autres

