重磅:GPT-4 API全面开放使用
Contents
背景
相信很多申请GPT-4 API的开发者都收到OpenAI的邮件通知了,从2023.07.06开始,所有OpenAI的API付费用户都可以使用GPT-4了。
目前所有大语言模型的评测中,毫无疑问GPT-4是最亮眼的那颗星。
有了GPT-4的API,意味着开发者可以做出功能更强大、体验更好的应用。
此外,OpenAI官方表示要废弃Completions API,该API目前可以使用的一些Model会在2024年1月4号下线。后续OpenAI的规划是让开发者都使用Chat Completions API。
另外,Embedding的部分模型以及Edits API也会在2024年1月4号下线。
GPT-4 API全面开放
GPT-4是目前最强大的大语言模型,从3月份开放API以来,数百万的开发者进行了申请,有非常多成功的应用是基于GPT-4 API开发的。
从2023.07.06开始,只要有过API付费记录的开发者都可以使用GPT-4 8K上下文版本的API了。
新申请的开发者预计2023年7月底会审批通过,然后OpenAI会基于已有的计算能力来降低API的使用流控限制(rate limit),让开发者可以更顺畅地使用GPT-4 API。
GPT-3.5 Turbo, DALL.E和Whisper API也都会全部开放出来给开发者使用。
预计2023年下半年,基于GPT-4和GPT-3.5 Turbo模型的微调(fine-tuning)也会开放出来。
废弃Completions API
OpenAI在2023年3月份引入了Chat Completions API,现在有大约97%的API使用量都来源于Chat Completions API。
Completions API是在2020年6月份引入的,当时是为了给开发者提供和OpenAI语言模型交互的能力。
现在有了Chat Completions API后,完全可以覆盖Completions API的功能,而且Chat Completions API更为强大,可以满足非常多的使用场景和对话需求。
下面简单介绍几种Chat Completions API的使用场景:
- 文本总结(Text summarization)
|
|
- 代码补全(Code completion)
|
|
- 小样本学习(Few-shot learning)
|
|
废弃Completions API的旧模型
OpenAI接下来会把重点放在Chat Completions API,不再投入精力支持Completions API。
从2023年1月4日开始,Completions API目前可以使用的一些模型会下线,开发者要继续使用Completions API,得使用新模型,参考如下表格:
Older model | New model |
---|---|
ada | ada-002 |
babbage | babbage-002 |
curie | curie-002 |
davinci | davinci-002 |
davinci-instruct-beta | gpt-3.5-turbo-instruct |
curie-instruct-beta | |
text-ada-001 | |
text-babbage-001 | |
text-curie-001 | |
text-davinci-001 | |
text-davinci-002 | |
text-davinci-003 |
-
如果开发者使用的是基于GPT-3模型的稳定模型版本,例如
ada
,babbage
,curie
,davinci
,那代码可以不用修改,这些稳定版本的模型底层会在2024年1月4日后自动升级为上面表格里右侧的新模型。右侧的新模型在接下来几周开放测试,调用API的时候指定新Model的名字即可,例如
ada-002
,babbage-002
,curie-002
,davinci-002
。 -
如果开发者使用的是其他旧模型名称,例如
text-davinci-003
,那就需要在手工修改API里调用的模型名称为gpt-3.5-turbo-instruct
,这个新模型也会在接下来几周开放测试。
同时,OpenAI也把Completions API在官网的API文档里标记为legacy
,不推荐大家继续使用了。
所以还在用Completions API的赶紧去拥抱Chat Completions API吧。
废弃Embedding旧模型
从2024年1月4日开始,只能使用text-embedding-ada-002这个Embedding Model,其它Embedding Model都会下线,不能再使用。
text-embedding-ada-002是2022年12月上线的,比其它Embedding Model更强大而且成本更低。现在99%的embedding API调用都在使用这个模型。
这对使用旧模型来做embedding的开发者来说是一个痛苦的事情,因为不同模型embedding的结果是不一样的,开发者需要在旧模型下线前提前做好适配和测试。
OpenAI官方承诺会补偿旧模型的用户。
Older model | New model |
---|---|
code-search-ada-code-001 | text-embedding-ada-002 |
code-search-ada-text-001 | |
code-search-babbage-code-001 | |
code-search-babbage-text-001 | |
text-search-ada-doc-001 | |
text-search-ada-query-001 | |
text-search-babbage-doc-001 | |
text-search-babbage-query-001 | |
text-search-curie-doc-001 | |
text-search-curie-query-001 | |
text-search-davinci-doc-001 | |
text-search-davinci-query-001 | |
text-similarity-ada-001 | |
text-similarity-babbage-001 | |
text-similarity-curie-001 | |
text-similarity-davinci-001 |
废弃Edits API
目前Edits API可以使用text-davinci-edit-001
和code-davinci-edit-001
这2个模型。
从2024年1月4日开始,Edits API不能使用这2个模型,要继续使用Edits API,得使用GPT-3.5 Turbo模型。
但是官方不再建议大家使用Edits API了,这个API也会废弃。
我们建议直接使用Chat Completions API来替代Edits API,如下例所示:
|
|
相关阅读
- 手把手教会你如何通过ChatGPT API实现上下文对话
- ChatGPT API重大升级-必知必会
- ChatGPT必会知识点
- baichuan-7B: 开源可商用支持中英文的最好大模型
- 轩辕:首个千亿级中文金融对话模型
- 逼近GPT-4!BLOOMChat: 开源可商用支持多语言的大语言模型
- 一文汇总开源大语言模型,人人都可以拥有自己的ChatGPT
总结
文章和示例代码开源在GitHub: GPT实战教程,了解主流LLM相关知识。
公众号:coding进阶。关注公众号可以获取最新GPT实战内容。
个人网站:Jincheng’s Blog。
知乎:无忌。