OPENAI为开发者推出半价API:支持批量处理但不是实时获得结果 – 蓝点网

[热点] 时间:2024-11-23 19:56:33 来源:燃眉之急网 作者:焦点 点击:151次

对于需要对大量内容进行处理的为开开发者有福了,OPENAI 今天为开发者们推出了批量处理 API,推出开发者们可以一次性将大量内容提交过去然后在 24 小时内获得结果。半价不实

推出这种异步任务对 OPENAI 来说也有好处,持批那就是量处理可以在非高峰期时处理这些请求,这样可以平衡服务器资源节省成本,时获所以 OPENAI 给这些异步任务 API 提供了半价优惠,得结点网开发者只需要支付 50% 的果蓝费用即可。

OPENAI为开发者推出半价API:支持批量处理但不是为开实时获得结果

举个例子,当存在大量的推出文本、摘要、半价不实翻译或图像需要进行分类整理时,持批就可以使用异步任务,量处理这些内容的时获分类整理对及时性要求并不高,开发者可以提交后等待 OPENAI 给出结果再处理就好。得结点网

这样对 OPENAI 和开发者来说是双赢,按照 OPENAI API 文档的说明,除了开发者可以获得半价折扣外,还可以获得更高的速率,也就是可以在每分钟内提交更多请求。

唯一要求是开发者需要通过 JSONL 文件格式进行传输,即将需要处理的所有请求放到一个 JSONL 文件里,然后将这个文件使用 batch 参数上传到服务器即可。

OPENAI 已经在 API 文档中罗列了详细使用方法,包括创建批处理、请求正文、检索等,有需要的开发者可以前往 OPENAI 查看调用示例:https://platform.openai.com/docs/api-reference/batch

(责任编辑:综合)

相关内容
精彩推荐
热门点击
友情链接