Je construirai une passerelle llm compatible OpenAI avec routage et suivi des coûts
À propos de ce service
Traduction automatique
Découvrez Han Q
Senior Flutter and AI Engineer for IoT Apps
- DeChine
- Membre depuismai 2024
Langues
Chinois, Anglais
Traduction automatique
Mon portfolio
FAQ
Traduction automatique
Les coûts du fournisseur et de l’hébergement sont-ils inclus ?
Non. L’utilisation de l’API du fournisseur et l’hébergement sont payés séparément par vous, sauf indication contraire dans le périmètre. Le suivi des coûts est une estimation basée sur les données d’utilisation disponibles et les tarifs configurés.
Chaque fonctionnalité de l’API OpenAI sera-t-elle prise en charge ?
Le pack couvre les endpoints de chat et les fonctionnalités convenus. Les capacités des fournisseurs varient, nous définirons donc les modèles pris en charge, le streaming, les outils et les autres fonctionnalités avant la commande.
Quels fournisseurs de modèles peuvent être intégrés ?
Le support des fournisseurs dépend du package convenu et des adaptateurs API disponibles. Veuillez communiquer les fournisseurs, les modèles et les points d’accès requis avant la commande afin que la compatibilité et le routage puissent être confirmés.
La mise en production est-elle incluse ?
L’offre de base comprend des conseils de configuration mais aucune mise en production. L’offre standard intègre une aide pour une mise en staging, et l’offre premium comprend une assistance pour une mise en production. L’acheteur prend en charge l’hébergement, le nom de domaine et les frais liés à l’API du prestataire.
Pouvez-vous garantir la sortie du modèle ou la disponibilité du fournisseur ?
Non. Les réponses du modèle peuvent être inexactes et les pannes ou les limitations de débit des fournisseurs échappent au contrôle de la passerelle. Les fonctionnalités de routage et de résilience dépendent de l’étendue convenu ; les chiffres des coûts d’utilisation sont des estimations et non des factures.

