速率限制

为保证资源的高效使用，平台引入速率限制（Rate Limits），以确保服务的可用性与稳定性。

什么是 Rate Limits

Rate Limits（速率限制）指 API 限制用户在特定时间段内可发起的请求次数或消耗的 Token 数量。常见的限制维度包括：

维度	全称	含义
RPM	Requests Per Minute	每分钟最多发起的请求数
RPH	Requests Per Hour	每小时允许的最大请求数
RPD	Requests Per Day	每天允许的最大请求数
TPM	Tokens Per Minute	每分钟消耗的 Token 总数（含输入与输出）
TPD	Tokens Per Day	每天最多允许的 Token 数
IPM	Images Per Minute	每分钟最多生成的图片数
IPD	Images Per Day	每天最多生成的图片数

为什么需要 Rate Limits

• 防止接口被恶意滥用，避免短时间内大量无效访问导致性能下降甚至服务不可用
• 保证所有用户的权益不被少数高频用户侵占，公平分配访问资源
• 为所有用户提供一致、高效的服务体验

速率限制的具体参数

平台根据所用模型、接口类别以及账户等级，对账户实施统一的速率策略。例如：账户限额为 120 RPM，则每分钟最多发送 120 次请求；若已用掉 30 次，剩余 90 次可用于其他请求。

各等级的默认限制详见 用户等级。

速率超限时的响应

当请求次数或 Token 使用量在短时间内达到上限时，API 会返回 429 错误并暂时拒绝后续请求，待冷却时间结束后方可继续访问：

HTTP/1.1 429 Too Many Requests
Content-Type: application/json

当前分组上游负载已饱和，请稍后再试

速率限制与 max_tokens

由于请求发起时无法精准获知输入和输出的 Token 总数，系统会依据接口参数 max_tokens 预估该请求所用的 Token 数量，并据此进行 TPM 限流；生成完成后，再按实际 Token 数修正。

TIP

建议将 max_tokens 设置为尽可能贴合实际需求的值，以最大程度降低因预估超限导致的报错。

限速策略下的优化建议

平台分别管控请求数与 Token 总量。当请求次数达到上限但 Token 仍有余量时，可以把多个任务合并到一个请求中，以提升 Token 的处理效率。同时建议在客户端实现指数退避重试，平滑应对 429 响应。

如何提升速率限制

默认限制旨在维护 API 的稳定性与资源的公平分配。完成任意充值即可自动升级至更高等级（详见 用户等级）；如需更高速率或独立供应，请联系我们。