背景

OpenAI在2024年1月25日发布了重要更新,主要更新内容如下:

  • 更新了GPT-4 Turbo模型
  • 更新了GPT-3.5 Turbo模型
  • 更新了文本审查模型(moderation model)
  • GPT-3.5 Turbo降价
  • 引入了新的API使用管理工具
  • 引入2个新的embedding模型

默认地,发送给OpenAI API的数据不会被OpenAI用于模型训练和优化。

GPT-3.5模型升级和降价

从2024年1月29日开始,OpenAI引入了一个新的GTP-3.5 Turbo模型,叫gpt-3.5-turbo-0125。与此同时,OpenAI会对GPT-3.5 Turbo模型进行降价。

新的GPT-3.5 Turbo模型对于输入token的费用下降50%,降为0.0005美金/1K token,输出token的费用下降25%到0.0015美金/1K token。

这个新的GPT-3.5 Turbo模型做了很多改进提升,包括提升了问题回答的准确性以及修复了非英语场景下function call的bug。

新模型发布2周后,开发者如果在API调用时指定GPT-3.5-turbo,会自动从之前的gpt-3.5-turbo-0613升级到gpt-3.5-turbo-0125。

如果想迫不及待马上使用最新模型的话,就直接在API调用的时候指定模型为gpt-3.5-turbo-0125即可。

GPT-4 Turbo模型升级

GPT-4 API调用里,超过70%的请求使用的都是GPT-4 Turbo模型,主要是以下原因:

  • 使用的训练数据更新。GPT-4 Turbo模型使用的训练数据截止到2023年4月,GPT-4模型使用的训练数据截止到2021年9月。
  • 更大的上下文窗口。GPT-4 Turbo模型支持128k上下文窗口,GPT-4模型支持8k上下文窗口。
  • 价格更便宜。

此次发布的GPT-4 Turbo新模型叫gpt-4-0125-priview。

这个模型比之前的GPT-4 Turbo模型在任务完成度上更好,优化了之前模型的偷懒行为。

同时,这个新模型还修复了对于非英语语言的UTF-8内容生成的bug。

开发者在调用API时,指定模型为gpt-4-turbo-preview就可以自动使用到最新的gpt-4-0125-preview新模型。

此外,OpenAI计划在接下来的几个月里发布更为强大的GPT-4 Turbo with vision模型。

审查模型升级

OpenAI目前免费的审查API可以帮助开发者检测出有害内容。

这次发布的新审查模型叫text-moderation-007,是OpenAI目前最稳定的审查模型。

如果你在开发的时候指定模型为text-moderation-latest或者text-moderation-stable,都会自动指向这个text-moderation-007新模型。

如果你想构建安全的AI系统,可以参考 safety best practices guide

API Key管理升级

API管理进行了两个功能升级,可以帮助开发者更好地管理和分析API key的使用。

第一,开发者可以对创建的API key做权限控制,比如可以指定API key只有特定API的使用权限。具体权限设置地址:https://platform.openai.com/api-keys。

第二,支持对API key开启tracking跟踪功能,开启后,在API key的Usage面板里可以看到每个API key的使用情况,做更精细化的API key使用分析。

OpenAI在接下来的几个月里,会进一步优化API key的管理和使用分析。

升级embedding模型和降价

OpenAI发布了2个新的embedding模型:一个小巧但是高效的text-embedding-3-small模型和一个规模更大效果更好的text-embedding-3-large模型。

在此之前,OpenAI的embedding模型是2022年12月发布的text-embedding-ada-002模型。

Model Usage
text-embedding-3-small $0.00002 / 1K tokens
text-embedding-3-large $0.00013 / 1K tokens
text-embedding-ada-002 $0.00010 / 1K tokens

总结

文章和示例代码开源在GitHub: GPT实战教程,可以看到所有主流的开源LLM。

公众号:coding进阶。关注公众号可以获取最新GPT实战内容。

个人网站:Jincheng’s Blog

知乎:无忌

References