Je vais construire et optimiser les pipelines de données AWS glue etl

Certaines informations ont été traduites automatiquement.

Afrique du Sud

Je parle Anglais

Ingénieur AWS Amazon Connect Terraform et DevOps

Je suis un ingénieur cloud certifié AWS et développeur Amazon Connect spécialisé dans Amazon Connect, Terraform, l'automatisation DevOps et l'ingénierie des données cloud. J'aide les entreprises à con...
À propos de ce service

Vous avez besoin d’un pipeline de données AWS fiable, à construire, réparer ou optimiser ?


Je suis un ingénieur Cloud et DevOps certifié AWS, avec une expérience pratique dans la conception de pipelines de données d’entreprise utilisant AWS Glue, PySpark, Amazon S3, Amazon Redshift, Python, Terraform et GitHub Actions.


Je peux vous aider avec :


Développement et dépannage de jobs AWS Glue ETL

Ingestion S3, partitionnement et traitement Parquet

Transformations PySpark et gestion du schéma

Staging Redshift, chargement, MERGE et déduplication

Conversion de timestamps, rechargements et chargements incrémentiels

Vérifications de la qualité des données, validation et surveillance

Configuration du Glue Catalog et du crawler

Workflows d’infrastructure Terraform et déploiement CI/CD

Optimisation des performances et des coûts des pipelines

Analyse des causes profondes des erreurs liées au schéma ou à l’environnement


Mon expérience inclut la création de pipelines en production pour des données JSON complexes, la mise à plat de structures imbriquées, l’application de la logique de dernier enregistrement, la résolution de conflits de types, et la promotion de changements contrôlés à travers les environnements de développement, de test et de production.


Veuillez me contacter avant de commander si votre pipeline comporte plusieurs sources, de grands rechargements, des schémas complexes ou des exigences de déploiement en production.

Destination Platform:

Amazon Redshift

•

Amazon S3

Outils et plateformes:

Autres

Mon portfolio