新聞 | iThome ( ) • 2024-04-24 15:56

OpenAI向其API客户提供一系列企业级功能,目的在于提升安全性和管理效能。此外,OpenAI还对Assistants API进行改进,使其检索与模型行为更加精确,并且增加对话串流以及新的向量储存物件等灵活功能。

OpenAI对API用户推出一种称为Private Link的新功能,目的在于提高资料的安全性和隐私保护,让用户能够将Azure云端和OpenAI的服务直接相连,避免资料传输经过公开的网际网路,最大程度降低资料泄漏的机会。这项功能对于需要传输敏感资料微调模型的企业用户来说尤为重要。

在身分验证方面,OpenAI在开发者平台引入多因素验证安全措施,要求用户登入时使用Authenticator应用程式,以此增强对帐户存取的要求,进而提升整体的安全性。

现在API用户可以使用新的专案功能,对OpenAI中各专案进行更细致的监控,具体功能包括用户能够对特定专案设定角色和API金钥,限制可存取的专案资源,或是限制特定专案所使用的模型。此外,专案拥有者还能建立服务帐户API金钥,该金钥不与个别用户绑定,可供系统或是自动化工具直接存取专案,而这提高了自动化和整合的方便性,且因为金钥没有与个别用户绑定,因此也增加了安全性。

专案的使用量限制和呼叫速率限制,让用户能够更简单地控制预算和资源,避免出现意外的超额费用。OpenAI还开始提供承诺吞吐量使用折扣,用户也可以使用更便宜的新Batch API,以非同步的方式执行工作负载,进行模型评估、离线分类和合成资料生成等非紧急工作负载。

Assistants API的更新改进file_search检索功能,每个助手最多可以撷取一万个档案,较之前仅可撷取20个档案的限制大幅增加。API新的vector_store物件可以将档案新增至向量储存,并自动解析、分块和嵌入,替档案搜寻先做好准备,而且因为vector_store物件已经可以跨助手和执行绪使用,如此更简化了档案管理和计费。另外,OpenAI现在还开放用户可以在Assistants API中,直接微调GPT-3.5 Turbo模型。