助理API

什么是助理(助手)?

注意:第三方中转API一般都不支持助理的文件上传功能,因为文件都是存储于GPT账号内,因此会有泄漏用户文件的风险。所以第三方中转API用户请使用gpt-4o-allgpt-4-all模型来上传文件分析。

助理(Assistant)是Openai专门构建的新的 AI能力,他可以访问文件,维护持久线程和调用函数工具。

Assistant

助理 API 目前支持三种类型的工具:代码解释器、检索和函数调用。

他的工作原理是这样的:记住原理对您的使用过程很有帮助。

Assistant

注意:消息可以包含文本、图像或文件。目前,用户创建的消息不能包含图像文件,Openai计划在未来添加对此的支持。

我可以使用它吗?

助理 API 目前处于测试阶段,拥有GPT帐号即可使用。由于助理与账号绑定,因此第三方API不属于此范围。

什么是线程?

线程可以通俗的理解为助理和用户之间的对话存储器。存储的历史消息数量没有限制,并在对话超出模型上下文长度时进行自动截断。一个线程的有效期是1个小时。您只需创建一个线程,只需在提问时将消息附加到该线程中即可。

在插件中线程有以下特点:

  1. 助理模式下提问,将会自动启用线程
  2. 每次启用线程都将产生0.03$资费
  3. 线程有效期一个小时,过期后向助理提问会重新创建
  4. 启用线程后建议不要手动关闭,以备下次使用
  5. 普通账号受速率限制,暂时不支持多线程
  6. 在一个线程中可以随意切换助理提问
  7. 线程与账号绑定的,切换KEY后需原线程会失效

什么是代码解释器?

代码解释器,使助理能够编写和运行代码。该工具可以处理具有不同数据和格式的文件,并生成图表等文件。 支持较多文件类型。支持的文件类型

什么是检索器?

检索功能使助理能够从您或您上传的文件中获取知识。上传文件后,助理会根据您请求自动决定何时检索内容。支持的文件类型少于代码解释器。支持的文件类型

Openai如何收费?

能力价格
代码解释器0.03$/每个线程价格 (有效期1小时)
检索器0.2$/GB (每个助手每天价格)

代码解释器说明

如果您的助手同时在两个不同的 线程 中调用代码解释器,这将创建两个代码解释器会话(2 * 0.03 美元)。每个会话默认为一小时活动,这意味着如果用户在同一线程中连续一小时给代码解释器指令,您只需支付一次此费用。
在插件中请勿随意的开启和关闭线程,这样会导致线程的创建和销毁,从而导致费用的增加。

检索器说明

检索的价格为每个助手每天 0.20 美元/GB。如果您的应用程序在一天内存储了 1GB 的文件,并将其传递给两个助手以进行检索(例如,面向客户的助手#1 和内部员工助手#2),您将为此存储费用支付两次(每天 2 * 0.20 美元)

以上数据来自openai官网,录入于2023年11月19日。查看原文介绍

助理的弊端

助理API目前还处于测试阶段,因此存在一些问题,这些问题可能会影响您的使用体验。具体表现如下:

1、助理的响应速度较慢,特别是传入大文件时需要等待较长检索时间。

2、助理对文件的识别能力有限,经常会无法识别个别后缀的文件内容。

3、助理的请求是多API运行,无法人工中断请求,除非关闭线程。

4、助理暂时还不支持对图片的识别。

5、助理的回复经常会变成英文,可在指令中要求中文回复。

6、涉及到文件提问时经常会超出速率限制。

等助理API正式版上线后应该会得到很大的改善。我们也会持续关注并更新该文档。