OpenAI 推出 Batch 批处理 API:半价折扣,24 小时内输出结果
https://www.ithome.com/0/762/140.htm
https://platform.openai.com/docs/api-reference/batch
新的 Batch API 适用于异步任务处理,如当开发者需要处理大量文本、图片、摘要时,就可以使用该 API,OpenAI 会在 24 小时内给出处理结果。这样 OpenAI 可以在非高峰期处理,节约服务器资源,并为开发者提供半价优惠,解锁更高的速率限制
https://www.ithome.com/0/762/140.htm
https://platform.openai.com/docs/api-reference/batch
新的 Batch API 适用于异步任务处理,如当开发者需要处理大量文本、图片、摘要时,就可以使用该 API,OpenAI 会在 24 小时内给出处理结果。这样 OpenAI 可以在非高峰期处理,节约服务器资源,并为开发者提供半价优惠,解锁更高的速率限制