OpenAI的Rate Limit是什么意思?
OpenAI的Rate Limit(速率限制)是指对使用其API(如GPT和DALL-E)的请求次数和频率的限制。这些限制旨在防止API滥用、保证所有用户公平访问API资源、并管理OpenAI基础设施的整体负载。不同的使用等级有不同的速率限制,影响用户可以多频繁地使用这些模型。
OpenAI的Rate Limit是怎么限制的?
OpenAI API的使用等级根据用户在API上的消费金额自动调整。不同的等级对应不同的月度使用限额。例如:
- 免费等级:适用于特定地区的用户,月度限额为$100。
- 第1等级(Tier 1):消费达到$5,月度限额为$100。
- 第2等级(Tier 2):消费达到$50并且自首次成功支付后超过7天,月度限额为$500。
- 第3等级(Tier 3):消费达到$100并且自首次成功支付后超过7天,月度限额为$1,000。
- 第4等级(Tier 4):消费达到$250并且自首次成功支付后超过14天,月度限额为$5,000。
- 第5等级(Tier 5):消费达到$1,000并且自首次成功支付后超过30天,月度限额为$10,000。
随着等级的提升,大多数模型的速率限制通常会增加。
不同Tier等级对应的API速率对比
免费等级是不需要花钱就可以使用的一些权限。这是一个高级总结,每个模型都有例外情况(例如,一些遗留模型或具有更大上下文窗口的模型具有不同的速率限制)。要查看您账户的每个模型的确切速率限制,请访问账户设置中的限制部分。
免费等级:适用于特定地区的用户,月度限额为$100。
模型 | 每分钟请求次数 (RPM) | 每天请求次数 (RPD) | 每分钟令牌数 (TPM) | 每天令牌数 (TPD) |
---|---|---|---|---|
gpt-3.5-turbo | 3 | 200 | 40,000 | – |
text-embedding-ada-002 | 3 | 200 | 150,000 | – |
whisper-1 | 3 | 200 | – | – |
tts-1 | 3 | 200 | – | – |
dall-e-2 | 5 图/分钟 | – | – | – |
dall-e-3 | 1 图/分钟 | – | – | – |
第1等级(Tier 1):消费达到$5,月度限额为$100。
模型 | 每分钟请求数 (RPM) | 每天请求数 (RPD) | 每分钟令牌数 (TPM) | 每天令牌数 (TPD) |
---|---|---|---|---|
gpt-4 | 500 | 10,000 | 10,000 | – |
gpt-4-1106-preview | 500 | 10,000 | 150,000 | 500,000 |
gpt-4-vision-preview | 80 | 500 | 10,000 | – |
gpt-3.5-turbo | 3,500 | 10,000 | 60,000 | – |
text-embedding-ada-002 | 500 | 10,000 | 1,000,000 | – |
whisper-1 | 50 | – | – | – |
tts-1 | 50 | – | – | – |
tts-1-hd | 3 | – | – | – |
dall-e-2 | 5 img/min | – | – | – |
dall-e-3 | 5 img/min | – | – | – |
第2等级(Tier 2):消费达到$50并且自首次成功支付后超过7天,月度限额为$500
模型 | 每分钟请求数 (RPM) | 每天请求数 (RPD) | 每分钟令牌数 (TPM) | 每天令牌数 (TPD) |
---|---|---|---|---|
gpt-4 | 5,000 | – | 40,000 | – |
gpt-4-1106-preview * | 5,000 | – | 300,000 | 1,500,000 |
gpt-4-vision-preview * | 100 | 1,000 | 20,000 | – |
gpt-3.5-turbo | 3,500 | – | 80,000 | – |
text-embedding-ada-002 | 500 | – | 1,000,000 | – |
whisper-1 | 50 | – | – | – |
tts-1 | 50 | – | – | – |
tts-1-hd | 5 | – | – | – |
dall-e-2 | 50 img/min | – | – | – |
dall-e-3 | 7 img/min | – | – | – |
第3等级(Tier 3):消费达到$100并且自首次成功支付后超过7天,月度限额为$1,000。
模型 | 每分钟请求数 (RPM) | 每天请求数 (RPD) | 每分钟令牌数 (TPM) | 每天令牌数 (TPD) |
---|---|---|---|---|
gpt-4 | 5,000 | – | 80,000 | – |
gpt-4-1106-preview * | 5,000 | – | 300,000 | 5,000,000 |
gpt-4-vision-preview * | 120 | 1,500 | 40,000 | – |
gpt-3.5-turbo | 3,500 | – | 160,000 | – |
text-embedding-ada-002 | 5,000 | – | 5,000,000 | – |
whisper-1 | 100 | – | – | – |
tts-1 | 100 | – | – | – |
tts-1-hd | 7 | – | – | – |
dall-e-2 | 100 img/min | – | – | – |
dall-e-3 | 7 img/min |
第4等级(Tier 4):消费达到$250并且自首次成功支付后超过14天,月度限额为$5,000。
模型 | 每分钟请求数 (RPM) | 每天请求数 (RPD) | 每分钟令牌数 (TPM) | 每天令牌数 (TPD) |
---|---|---|---|---|
gpt-4 | 10,000 | – | 300,000 | – |
gpt-4-1106-preview * | 10,000 | – | 450,000 | – |
gpt-4-vision-preview * | 300 | 2,000 | 150,000 | – |
gpt-3.5-turbo | 10,000 | – | 1,000,000 | – |
text-embedding-ada-002 | 10,000 | – | 5,000,000 | – |
whisper-1 | 100 | – | – | – |
tts-1 | 100 | – | – | – |
tts-1-hd | 10 | – | – | – |
dall-e-2 | 100 img/min | – | – | – |
dall-e-3 | 15 img/min | – | – | – |
第5等级(Tier 5):消费达到$1,000并且自首次成功支付后超过30天,月度限额为$10,000。
模型 | 每分钟请求数 (RPM) | 每天请求数 (RPD) | 每分钟令牌数 (TPM) | 每天令牌数 (TPD) |
---|---|---|---|---|
gpt-4 | 10,000 | – | 300,000 | – |
gpt-4-1106-preview * | 10,000 | – | 600,000 | – |
gpt-4-vision-preview * | 3,000 | 50,000 | 300,000 | – |
gpt-3.5-turbo | 10,000 | – | 2,000,000 | – |
text-embedding-ada-002 | 10,000 | – | 10,000,000 | – |
whisper-1 | 500 | – | – | – |
tts-1 | 500 | – | – | – |
tts-1-hd | 20 | – | – | – |
dall-e-2 | 500 img/min | – | – | – |
dall-e-3 | 50 img/min |
以上就是GPT的API对应的6个Tier层速率限制的对比,建议您可以按照需求进行选择,如果单个Tier超过了您的需求,可以采取购买多个账号的形式进行API的并发处理,这也是目前主流的手段。
为什么OpenAI会限制API 的Rate Limit
API速率限制是常见的做法,主要出于以下几个原因:
- 防止滥用:速率限制可以防止恶意行为者通过大量请求来过载API或干扰服务。
- 保证公平访问:限制单个用户的请求数量,确保更多人能公平地使用API,避免因个别用户的过度使用而影响其他用户。
- 管理整体负载:通过设定速率限制,OpenAI可以管理其基础设施的总体负载,保持服务器性能,确保所有用户都能享受到平稳、一致的体验。
如果您需要购买或者代充值API,欢迎采购我们的服务,目前主推正规代充值的服务,没有时间限制,尽情享受时间最强AI
OpenAI 官方和中转 API ChatGPT-4/GPT-4o/3.5 独享/共享组织API 额度代充值购买
通过这款产品,您可以调用 OpenAI 官方的:已经开通 GPT-4o、GPT-4- turbo 、 gpt-…
参考文章:OpenAI API的官方文档