1. Entendendo os limites de taxa
Limitação de taxa refere-se às regras que determinam com que frequência a API de um usuário pode acessar os serviços da nossa plataforma dentro de uma determinada janela de tempo. Seus objetivos são:- Prevenir abuso e uso indevido da API: Ao definir um limite máximo para a frequência de solicitações, limitamos tráfego anormal ou não intencional.
- Garantir alocação justa de recursos: Impedimos que um pequeno número de usuários monopolize os recursos do sistema, para que todos possam acessar o serviço em condições iguais.
- Manter o desempenho e a confiabilidade da API: Ao suavizar picos de tráfego, estabilizamos os tempos de resposta e reduzimos as taxas de falha causadas por sobrecarga, melhorando a qualidade geral do serviço.
- Proteger a estabilidade do sistema: Limites de taxa ajudam a absorver aumentos repentinos de tráfego, evitando que picos de alta concorrência sobrecarreguem nossa infraestrutura.
2. Métricas de limitação de taxa
Para nossos modelos de imagem e vídeo, usamos duas métricas principais de limitação de taxa:- IPM (Images Per Minute): O número de imagens que um modelo de imagem pode gerar por minuto.
- RPM (Requests Per Minute): O número de solicitações de API que um modelo de vídeo pode processar por minuto.
3. Limites de taxa padrão
Para diferentes modelos, nossa plataforma aplica estratégias diferenciadas de limitação de taxa com base no consumo de recursos computacionais de cada modelo.IPM
O limite de IPM (Images Per Minute) controla o número de imagens que podem ser geradas por minuto. Os valores padrão de IPM para cada modelo estão listados na tabela abaixo.RPM
O limite de RPM (Requests Per Minute) controla o número de solicitações de API permitidas por minuto. Os valores padrão de RPM para cada modelo são fornecidos na tabela abaixo.4. Lidando com limites de taxa
Como monitorar limites de taxa?
Se suas solicitações de API excederem a taxa permitida, a API retornará:- Código de status HTTP: 429 Too Many Requests
- Corpo da resposta: Uma mensagem indicando que o limite de taxa foi excedido.
Práticas recomendadas
Para evitar acionar limites de taxa, você pode:- Implementar controle de taxa de solicitações no lado do cliente: Respeite os limites de taxa da plataforma controlando a taxa de solicitações da sua aplicação, garantindo que você não envie chamadas demais em um curto período.
- Usar backoff exponencial nas novas tentativas: Ao receber uma resposta de limite de taxa (por exemplo, HTTP 429), aguarde progressivamente mais tempo entre as tentativas em vez de tentar novamente imediatamente, reduzindo a carga sobre o serviço.
- Monitorar seu uso da API: Acompanhe e registre continuamente suas contagens de solicitações, frequências e quaisquer respostas de erro para que você possa ajustar seus padrões de uso de forma proativa.
Quando você atinge limites de taxa
Se você receber uma resposta HTTP 429 (“Too Many Requests”), você pode:- Tentar novamente mais tarde: Aguarde um curto período antes de enviar sua solicitação novamente.
- Otimizar suas solicitações: Reduza a frequência das chamadas para permanecer dentro dos limites de taxa da plataforma.
- Solicitar um limite de taxa maior: Se você precisar de um limite de taxa maior, preencha o formulário de contato em Quotas e limites para entrar em contato conosco.