Je vais affiner un modèle d'IA privé personnalisé sur vos données propriétaires

Considérez les paramètres comme la « taille du cerveau ». 8B : Rapide, léger. Idéal pour une conversation simple ou une utilisation sur un ordinateur portable standard. 32B : Le « point idéal ». Excellent en codage, mathématiques et logique. Nécessite un bon GPU. 72B : Niveau entreprise. Rivalise avec GPT-4 en nuance et raisonnement complexe. Nécessite du matériel lourd (VRAM 48GB+).

Pas exactement. Le fine-tuning donne au modèle un nouveau comportement, ton ou format (« Écrire comme un avocat », « Coder dans ce style »). Pour qu’il se souvienne de faits spécifiques à 100 %, il faut le combiner avec un système RAG (que je peux conseiller). Le fine-tuning crée l’« Expert » ; le RAG lui donne le « Manuel scolaire ».

Oui, mais il faut le quantifier. Je peux compresser le modèle (par exemple en format Q4_K_M) pour qu’il tienne dans une mémoire plus petite (comme un Mac Studio ou un PC à double GPU) avec une perte minimale en intelligence. Mentionnez votre matériel dans la commande pour que je puisse le formater correctement.

100 %. Contrairement aux services cloud qui entraînent sur vos données, je gère un cluster local privé, isolé (Dual Nvidia P40). Vos données entrent sur mon serveur, entraînent le modèle, puis sont supprimées définitivement après livraison. Elles ne touchent jamais Internet.

Je fournis le format standard de l’industrie GGUF (pour LM Studio/Ollama) ou Safetensors (pour Text-Generation-WebUI). Si vous avez besoin d’un fichier d’adaptateur LoRA spécifique pour fusionner vous-même, je peux aussi le fournir.

« Garbage in, Garbage out. » Le modèle est aussi intelligent que les données que vous lui fournissez. Si vos données ne sont pas formatées, achetez l’option de nettoyage de dataset, et je rédigerai des scripts personnalisés pour les mettre en forme en paires JSONL de haute qualité pour l’entraînement.

Les délais de livraison (7/14/21 jours) incluent la mise en forme des données, des tests et la dernière phase d’entraînement. Le temps réel d’entraînement GPU varie, mais je prévois du temps supplémentaire pour que le modèle « converge » (apprenne) correctement sans surapprentissage. Je ne précipite pas la science.