1. レート制限を理解する
レート制限とは?
レート制限は、定義された期間内に実行できる API リクエスト数を制限します。これにより、次のことが可能になります。- API の不正利用や誤用を防止する。
- ユーザー間でリソースを公平に分配する。
- 一貫した API パフォーマンスと信頼性を維持する。
- 当社サービスの安定性を保護する。
デフォルトのレート制限
各アカウントには、モデル呼び出しに対するデフォルトのレート制限があります。これは RPM(モデルごとの 1 分あたりのリクエスト数)および TPM(モデルごとの 1 分あたりのトークン数)で測定されます。レート制限はアカウントのティアによって異なり、以下の表に示されています。| ティア | 到達条件 |
|---|---|
| T1 | 直近 3 暦月のいずれにおいても、月間チャージ額が $50 を超えていない。 |
| T2 | 直近 3 暦月のいずれにおいても、月間チャージ額が $50 以上で、$500 を超えていない。 |
| T3 | 直近 3 暦月のいずれにおいても、月間チャージ額が $500 以上で、$3,000 を超えていない。 |
| T4 | 直近 3 暦月のいずれにおいても、月間チャージ額が $3,000 以上で、$10,000 を超えていない。 |
| T5 | 直近 3 暦月の少なくとも 1 か月で、月間チャージ額が $10,000 以上である。 |
2. レート制限への対処
レート制限を監視する方法
レート制限を超過すると、API は次を返します。- HTTP ステータスコード: 429 (Too Many Requests);
- レスポンス本文内のレート制限超過メッセージ。
ベストプラクティス
レート制限に達しないようにするには、次のことを行ってください。- アプリケーションにリクエストスロットリングを実装する。
- リトライに指数バックオフを追加する。
- API の使用パターンを監視する。
レート制限に達した場合
429 エラーを受け取った場合は、次の対応が可能です。- 後で再試行: リクエストを再試行する前に、短時間待機します。
- リクエストを最適化: リクエスト頻度を減らします。
- レート制限の引き上げ: より高いレート制限が必要な場合は、次の方法があります。
ご不明な点がございましたら、Discord でお問い合わせください。