レート制限
Sarashina APIでは、サービスの安定性と公平な利用を確保するため、APIリクエストにレート制限を設けています。
制限値
レート制限は、契約主体とモデルの組み合わせごとに適用されます。 同一の契約主体が異なるモデルを利用する場合、レート制限は各モデルごとに個別に適用されます。
モデルごとの制限値
| モデル | 1分あたりの最大リクエスト数(RPM) |
|---|---|
| sarashina3-mini | 6 |
| sarashina3-nano | 60 |
| sarashina3-guard | 6 |
| sarashina3-embedding | 60 |
| sarashina3-rerank | 60 |
| sarashina3-translate | 6 |
本制限は1秒ごとのリクエスト数ではなく、60秒間の累計リクエスト数に基づいて判定されます。 制限値は、1分間のカウント期間ごとにリセットされ、カウント期間内に利用可能なリクエスト数は固定されています。 期間内に上限に達した場合、次のカウント期間が開始するまで追加リクエストは受け付けられません(バーストは許容されません)。 カウント期間がリセットされると、リクエスト数のカウントが0に戻り、再び上限までのリクエストが利用可能になります。
レート制限の基準・適用単位・制限値は、サービス利用状況などに応じて変更される場合があります。重要な変更については、本ドキュメントで随時お知らせいたします。
レート制限を超えた場合
レート制限を超えた場合、APIは 429 Too Many Requests を返します。
Retry-After ヘッダーや、上限値、残りのリクエスト数、リセット時刻などを示すレート制限関連のレスポンスヘッダーは返却されません。
再試行
429 Too Many Requests を受け取った場合は、一定時間待ってからリクエストを再試行してください。
短い間隔で再試行を繰り返すと、レート制限が継続する可能性があります。再試行には、待機時間を徐々に延ばす指数バックオフの利用を推奨します。