admin管理员组文章数量:1631716
0. 前言
最近刚接触GPT的API,将一些使用流程记录下来
1. 普通token的收费逻辑
详见https://openai/pricing
目前是1000个token,gpt4收费0.03美元,gpt3.5收费0.01美元
假如要创建一个chat机器人,那么每一次都要把之前的所有message都送入API里,所以说每次聊天越长,最后token数会越多,也就越贵。
例如某次聊天如下
用户:你好,介绍一下生活大爆炸这个电视剧
GPT:好的,生活大大爆炸是xxxxxxxx
用户:你对电视剧中的人物有什么看法
GPT:我认为,电视剧里的XXX XXX
类似于上面的一场对话,第一次送入 API的是
用户:你好,介绍一下生活大爆炸这个电视剧
当GPT返回答案后,如果想让GPT记得之前说的是啥(在这里是哪部电视剧),就需要把前面的历史记录都送进去,也就是说,第二次送入API的是:
用户:你好,介绍一下生活大爆炸这个电视剧
GPT:好的,生活大大爆炸是xxxxxxxx
用户:你对电视剧中的人物有什么看法
所以越往后面token越多,越贵
2. Assistants API的收费逻辑
官方推出的个人定制GPT,暂时没有提供API,但是目前提供了一个Assistants的API,可以当作同样的来使用,效果可能略有不同,具体需要尝试。
- 收费方式:如果给Assistants已经设定了一些instructions,那么每次询问,其实还是会算这个instructions的钱,并不会便宜。
- 需要先给账户充钱,我充了5刀多点,API才会显示gpt4的model的选项。
3. 实现简单的一问一答
def get_answer(prompt=None,image=None):
'发送一个请求给API,返回caption'
client = OpenAI()
response = client.chat.completions.create(
model="gpt-4-vision-preview",
messages=[
{
"role": "user",
"content": [
{"type": "text", "text": prompt},
{
"type": "image_url",
"image_url": {
"url": f"data:image/jpeg;base64,{image}",
},
},
],
}
],
max_tokens=2000,
)
return response.choices[0].message.content
我这里使用的是gpt-4-vision-preview模型,注意这时候max_tokens如果设置过小就会报错找不到gpt4模型,调大就行了。
4. 需要注意问题
- 官方有限制,限制API使用频率,所以如果大批量使用,需要注意其限制情况。
- 账户分几个等级,详见https://platform.openai/docs/guides/rate-limits/usage-tiers
tier1是需要交$5才行。一个月最多充$100;
tier2要交$50,而且需要等待7天以上才会生效。
版权声明:本文标题:OPENAI chatgpt API的使用指南 内容由热心网友自发贡献,该文观点仅代表作者本人, 转载请联系作者并注明出处:https://m.elefans.com/dianzi/1729101229a1186627.html, 本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容,一经查实,本站将立刻删除。
发表评论