1. Comprendre les limites de débit
La limitation de débit désigne les règles qui régissent la fréquence à laquelle l’API d’un utilisateur peut accéder aux services de notre plateforme au cours d’une fenêtre de temps donnée. Ses objectifs sont les suivants :- Prévenir les abus et les utilisations inappropriées de l’API : En définissant une limite supérieure à la fréquence des requêtes, nous limitons le trafic anormal ou non intentionnel.
- Garantir une allocation équitable des ressources : Nous empêchons un petit nombre d’utilisateurs de monopoliser les ressources système, afin que chacun puisse accéder au service dans les mêmes conditions.
- Maintenir les performances et la fiabilité de l’API : En lissant les pics de trafic, nous stabilisons les temps de réponse et réduisons les taux d’échec dus à la surcharge, ce qui améliore la qualité globale du service.
- Protéger la stabilité du système : Les limites de débit aident à absorber les brusques augmentations de trafic, empêchant les pics de forte concurrence de submerger notre infrastructure.
2. Métriques de limitation de débit
Pour nos modèles d’image et de vidéo, nous utilisons deux métriques principales de limitation de débit :- IPM (Images Per Minute) : Le nombre d’images qu’un modèle d’image est autorisé à générer par minute.
- RPM (Requests Per Minute) : Le nombre de requêtes API qu’un modèle vidéo est autorisé à traiter par minute.
3. Limites de débit par défaut
Pour différents modèles, notre plateforme applique des stratégies de limitation de débit différenciées en fonction de la consommation de ressources de calcul de chaque modèle.IPM
La limite IPM (Images Per Minute) contrôle le nombre d’images pouvant être générées par minute. Les valeurs IPM par défaut de chaque modèle sont indiquées dans le tableau ci-dessous.RPM
La limite RPM (Requests Per Minute) contrôle le nombre de requêtes API autorisées par minute. Les valeurs RPM par défaut de chaque modèle sont fournies dans le tableau ci-dessous.4. Gérer les limites de débit
Comment surveiller les limites de débit ?
Si vos requêtes API dépassent le débit autorisé, l’API renverra :- Code d’état HTTP : 429 Too Many Requests
- Corps de la réponse : Un message indiquant que la limite de débit a été dépassée.
Bonnes pratiques
Pour éviter de déclencher les limites de débit, vous pouvez :- Mettre en œuvre une régulation des requêtes côté client : Respectez les limites de débit de la plateforme en contrôlant le taux de requêtes de votre application, afin de vous assurer de ne pas envoyer trop d’appels sur une courte période.
- Utiliser un backoff exponentiel lors des nouvelles tentatives : Lorsque vous recevez une réponse de limitation de débit (par exemple, HTTP 429), attendez progressivement plus longtemps entre les tentatives au lieu de réessayer immédiatement, ce qui réduit la charge sur le service.
- Surveiller votre utilisation de l’API : Suivez et journalisez en continu le nombre de vos requêtes, leurs fréquences et toute réponse d’erreur afin de pouvoir ajuster proactivement vos habitudes d’utilisation.
Lorsque vous atteignez les limites de débit
Si vous recevez une réponse HTTP 429 (“Too Many Requests”), vous pouvez :- Réessayer plus tard : Attendez une courte période avant d’envoyer à nouveau votre requête.
- Optimiser vos requêtes : Réduisez la fréquence des appels afin de rester dans les limites de débit de la plateforme.
- Demander une limite de débit plus élevée : Si vous avez besoin d’une limite de débit plus élevée, veuillez remplir le formulaire de contact sur la page Quotas et limites afin de nous contacter.