OpenAI 如何解决 429:“请求过多”错误?

工具软件 Edge插件网 2年前 (2023-02-09) 2446次浏览 已收录 0个评论

速率限制错误(“太多请求”、“达到速率限制”)是由于达到了您组织的速率限制,即每分钟可以提交的请求和令牌的最大数量。如果达到限制,组织将无法成功提交请求,直到重置速率限制。错误消息如下所示:

Rate limit reached for default-code-davinci-002 in organization org-exampleorgid123 on tokens per min. 
Limit: 10000.000000 / min. Current: 10020.000000 / min. 
Contact support@openai.com if you continue to have issues.

我们建议使用指数退避来处理这些错误。指数退避意味着当遇到速率限制错误时执行短暂的休眠,然后重试不成功的请求。如果请求仍然不成功,则增加睡眠时间并重复该过程。这一直持续到请求成功或达到最大重试次数为止。

由于不成功的请求会影响您的每分钟限制,因此连续重新发送请求将不起作用。可以在较短的时间内应用速率限制 – 例如,每秒 1 个请求以限制 60 RPM – 这意味着短时间的大量请求突发也可能导致速率限制错误。指数退避通过将请求间隔开以最小化这些错误的频率来很好地工作。

在 Python 中,指数退避解决方案可能如下所示:

from openai.error import RateLimitError
import backoff

@backoff.on_exception(backoff.expo, RateLimitError)
def completions_with_backoff(**kwargs):
response = openai.Completion.create(**kwargs)
return response

(请注意:退避库是第三方工具。我们鼓励所有客户在验证其项目的任何外部代码时进行尽职调查。)

如果实施指数退避仍然导致此错误,请填写Rate Limit Increase Request。我们仍然会尽快回复您。

要了解有关每种引擎类型的默认速率限制的更多信息,请参阅此处

ChatGPT中国体验版点击进入https://yundongfang.com/chatgpt.php


Edge插件网 , 版权所有丨如未注明 , 均为原创丨本网站采用BY-NC-SA协议进行授权
转载请注明原文链接:OpenAI 如何解决 429:“请求过多”错误?
喜欢 (0)
发表我的评论
取消评论
表情 贴图 加粗 删除线 居中 斜体 签到

Hi,您需要填写昵称和邮箱!

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址