chatgpt速率参数TPM,RPM,RPD是什么意思

记录 z197 1927次浏览 已收录 用手机观看



TPM

TPM 指的是 "Tokens Per Minute",这是一个速率限制,表示系统每分钟能够处理的令牌数。这里的令牌可能指的是输入到系统的文字数量,因为在自然语言处理中,文本被分解成令牌(可以是单词、字符或片段)进行处理。

RPM

RPM 指的是 "Requests Per Minute",这意味着该系统每分钟可以处理的最大请求次数。

RPD

RPD 指的是 "Requests Per Day",表示系统每天能够处理的请求次数的上限。

这些参数通常用于控制对系统资源的访问和使用,防止过载,并确保所有用户都能公平地使用服务。