通用約定
限流與額度
請求限流、令牌授權和動態額度的基本規則。
TENSORAXIS 的限流與額度策略由部署配置、用戶分組和令牌授權共同決定。具體數值可能隨賬號、分組、模型和運營策略變化,文檔不會寫死 RPM、TPM、RPD 或價格。
可能影響請求的限制
| 限制類型 | 說明 |
|---|---|
| 令牌權限 | 令牌可以限制可用模型、分組、IP、額度和速率 |
| 用戶額度 | 賬戶餘額、訂閱額度或贈送額度不足時,請求會被拒絕 |
| 模型/分組限流 | 部署可按用戶和分組配置請求窗口,區分成功請求數和總請求數 |
| 上游限制 | 上游供應商也可能返回限流或容量錯誤 |
觸發限流時
觸發限流通常返回 429。建議客戶端:
- 使用指數退避重試,例如 1s、2s、4s、8s。
- 控制併發,避免多個 worker 同時打滿同一令牌。
- 對異步視頻任務,提交任務和輪詢任務都要控制頻率。
- 不要把失敗請求無限重試;連續失敗時記錄響應體並人工排查。
查看真實限制
真實限制以控制台和當前部署配置為準:
- 在「令牌」頁面查看或配置令牌級權限。
- 在模型廣場查看當前可用模型與價格。
- 企業或私有部署的限流策略可能由管理員配置。
控制台或模型詳情中展示的演示數據不應作為 API 合約。生產接入時,以控制台令牌配置、賬戶額度和服務端實際返回為準。