Je vais effectuer le nettoyage, la déduplication et la mise en forme de fichiers de données désordonnés
Ingénieur data Python : web scraping, pipelines ETL et enrichissement de données
Niveau 1
Répond à certains critères de performance et présente un fort potentiel sur la place de marché.
À propos de ce service
Le fichier comporte 40 000 lignes, trois personnes l'ont modifié, et la même entreprise apparaît sous les noms Acme, ACME Ltd et Acme Limited. Corriger cela manuellement prend une semaine et peut introduire de nouvelles erreurs en cours de route. Le nettoyage des données réalisé en code prend une après-midi et peut être refait le mois prochain.
Ce que je corrige
- Les doublons, y compris les quasi-correspondances qu'une formule de tableur ne détectera jamais
- Les dates, noms, adresses, devises et majuscules incohérents
- Les colonnes fusionnées ou séparées, et les fichiers nécessitant une restructuration avant d'être utilisables
- Le codage, les délimiteurs et les lignes qui posent problème à l'importation
Ce qui vous revient
- Un fichier propre : CSV, Excel, JSON ou Google Sheet
- Un journal des modifications indiquant ce qui a été changé, fusionné ou supprimé, avec le nombre de lignes
- Le script de nettoyage, si vous souhaitez le lancer vous-même la prochaine fois
Le plus gros projet que j'ai réalisé a traité plus de 100 millions de fichiers JSON en CSV prêt pour l'analyse.
Excel s'arrête avant que la plupart de ces travaux ne soient terminés. Tout ce qui dépasse environ 50 000 lignes ou nécessite une correspondance floue, je le fais en Python et Pandas. Envoyez-moi le fichier et indiquez ce que vous attendez comme résultat. Je confirmerai la portée et vous fournirai un devis avant que vous passiez commande.
Mon portfolio
FAQ
Traduction automatique
Pouvez-vous fusionner plusieurs fichiers en un seul ?
Oui, et c'est la majorité du travail sur une commande typique. Noms de colonnes différents, formats de date variés, lignes qui se chevauchent et un fichier avec une colonne supplémentaire que personne n'a documentée. Je les mappe à un seul schéma et je vous indique d'où viennent les lignes.
Mon fichier contient 500 000 lignes. Est-ce un problème ?
Non. Au-delà d'environ 50 000 lignes, le travail quitte la feuille de calcul pour passer à Python et Pandas, ce qui est plus rapide et reproductible plutôt que lent. Un demi-million de lignes est une tâche ordinaire. Envoyez un échantillon et je confirmerai le niveau avant que vous passiez commande.
Qu’est-ce qu’un doublon ?
Vous me dites, et c'est la partie qu'il vaut mieux convenir avant que je commence. Les correspondances exactes sont faciles. Le vrai travail consiste à faire du fuzzy matching : Acme Ltd contre ACME Limited, la même adresse écrite de quatre façons différentes, deux enregistrements qui ne diffèrent que par des espaces. Je vous montre les correspondances avant de fusionner.
Me direz-vous ce que vous avez changé ?
Oui, chaque service comprend un changelog : lignes importées, lignes exportées, ce qui a été fusionné, ce qui a été supprimé et pourquoi, ainsi que les champs standardisés. Vous ne devriez pas avoir à faire confiance à un fichier propre. Vous devriez pouvoir le vérifier.
Est-ce que je reçois le script de nettoyage ?
Inclus dans Standard et Premium, en Python, commenté, pour que vous puissiez l'exécuter lors de l'export du mois prochain sans repasser commande. La version Basic fournit uniquement le fichier nettoyé, ce qui est la bonne option si c'est vraiment une opération unique.
Pouvez-vous nettoyer des données scrappées avec un encodage cassé ?
Oui, et c'est une situation courante. Mojibake dû à un mauvais encodage, entités HTML laissées dans les champs de texte, espaces et sauts de ligne indésirables dans les cellules, nombres stockés en tant que texte avec des symboles monétaires attachés. Envoyez un échantillon et je vous dirai ce qui peut être récupéré.
Pouvez-vous analyser les données en plus de les nettoyer ?
Les tableaux récapitulatifs, les pivots et les graphiques sont inclus dans Standard et Premium, et ils sont utiles pour vérifier la cohérence du nettoyage. Si vous avez besoin d’un vrai travail statistique ou de modélisation, c’est une autre tâche et je préférerais vous orienter vers quelqu’un d’autre plutôt que de le faire de manière satisfaisante.
Ce service peut-il s'exécuter automatiquement chaque mois ?
Oui, sous forme de pipeline programmé plutôt qu'une commande répétée : le fichier arrive, le script s’exécute, la version nettoyée apparaît où vous en avez besoin. C’est mon service de pipeline de données, pas celui-ci. Contactez-moi et je vous enverrai le lien plutôt que de vous facturer douze fois.
Mes données contiennent des informations personnelles. Est-ce un problème ?
Dites-le-moi avant de l’envoyer. Je peux travailler dessus, et je supprimerai les fichiers sources après livraison sur demande, mais je préférerais le savoir à l’avance plutôt que de découvrir des noms et adresses dans un fichier où je ne m’y attendais pas. Les données pseudonymisées ou échantillonnées conviennent pour définir le périmètre.
Comment savoir de quel forfait j'ai besoin ?
Envoyez d’abord le fichier, ou un échantillon. Certains travaux semblent simples et nécessitent un fuzzy matching entre trois sources ; d’autres ont l’air terrifiants et se résument à une recherche et remplacement. Je vous indiquerai le niveau ou je vous ferai une offre personnalisée avant que vous dépensiez quoi que ce soit.
93 avis concernant ce service
| (83) | ||
| (8) | ||
| (0) | ||
| (1) | ||
| (1) |
Détails de la notation
- Niveau de communication avec le freelance
- Qualité de la livraison
- Valeur de la livraison
Trier par
J jcummings72

États-Unis
I had 74,000 duplicate contacts and he was able to scrub the file and condense to no duplicates with all of the information. I’ve been trying to resolve this for years. He was able to turn it around within 24 hours. Thanks again!
50 $US-100 $US
Prix
4 jours
Durée
Utile?S 
soweilam01

Émirats Arabes Unis
Collaboration en coursHighly recommend this seller for any project involving word and or excel.
50 $US
Prix
1 jour
Durée
Utile?S 
soweilam01

Émirats Arabes Unis
Collaboration en coursVery detailed oriented and thorough seller. Happy reterning customer.
50 $US
Prix
4 jours
Durée
Utile?J 
johncharlin

Inde
very good job done
50 $US
Prix
1 jour
Durée
Utile?A aclaudiof

Porto Rico
Job was done close to expectations, but not complete. Unfortunately it was delivered too late, and I couldn't meet my client due date. Supplier suggested a 50% discount, that ant the end was not given, and never delivered on time, with lack of response due to a private family event.
100 $US-200 $US
Prix
2 semaines
Durée
Utile?
93 avis concernant ce service
| (83) | ||
| (8) | ||
| (0) | ||
| (1) | ||
| (1) |
Détails de la notation
- Niveau de communication avec le freelance
- Qualité de la livraison
- Valeur de la livraison
Trier par
J jcummings72

États-Unis
I had 74,000 duplicate contacts and he was able to scrub the file and condense to no duplicates with all of the information. I’ve been trying to resolve this for years. He was able to turn it around within 24 hours. Thanks again!
50 $US-100 $US
Prix
4 jours
Durée
Utile?S 
soweilam01

Émirats Arabes Unis
Collaboration en coursHighly recommend this seller for any project involving word and or excel.
50 $US
Prix
1 jour
Durée
Utile?S 
soweilam01

Émirats Arabes Unis
Collaboration en coursVery detailed oriented and thorough seller. Happy reterning customer.
50 $US
Prix
4 jours
Durée
Utile?J 
johncharlin

Inde
very good job done
50 $US
Prix
1 jour
Durée
Utile?A aclaudiof

Porto Rico
Job was done close to expectations, but not complete. Unfortunately it was delivered too late, and I couldn't meet my client due date. Supplier suggested a 50% discount, that ant the end was not given, and never delivered on time, with lack of response due to a private family event.
100 $US-200 $US
Prix
2 semaines
Durée
Utile?

