在 Dify 中使用 GenStudio API
Dify 支持通过插件扩展模型提供商能力。本文介绍如何在 Dify 中配置 GenStudio API 服务。
获取 GenStudio API Key
您可以复制已有 API Key 或创建新的 Key。
预置模型 API 服务有 API 频率限制。租户在 GenStudio 的服务等级决定了 API 调用是否计费,以及享受的 API 频率上限。详见 LLM API 计费规则。
配置 GenStudio API 服务
Dify 官方的 OpenAI-API-compatible 模型供应商插件可接入 GenStudio 的 OpenAI 兼容接口。
在 Dify 控制台,点击右上角头像,点击设置。
在左侧点击模型提供商。如果页面未显示 OpenAI-API-compatible,在安装模型供应商区域搜索并安装 OpenAI-API-compatible。
在 OpenAI-API-compatible 卡片中点击添加模型。
在添加模型弹窗中配置模型基本信息:
- 模型名称:填写 GenStudio 模型 ID,例如
glm-5.2。如果不单独填写 API endpoint中的模型名称,Dify 将使用此名称作为请求 GenStudio API 时的模型名称。 - 模型类型:选择 LLM。
- 模型名称:填写 GenStudio 模型 ID,例如
在模型凭据区域填写连接信息:
- API Key:粘贴您获取的 GenStudio API Key。
- API endpoint URL:填写
https://neogpu.com/maas/v1。该字段需要填写 Base URL,不要追加/chat/completions。 - API endpoint中的模型名称:通常留空。仅当 Dify 中展示的模型名称与实际请求 GenStudio API 的模型 ID 不一致时,填写实际模型 ID。
- 对话类型:选择对话。
- 模型上下文长度:按所选模型的上下文窗口填写;不确定时可先保留默认值。
- 最大 token 上限:按所选模型的输出上限填写;不确定时可先保留默认值。
- 思考模式支持:按所选模型能力选择。仅普通对话模型选择仅支持非思考模式,同时支持思考和非思考输出的模型选择两种模式都支持。
- 兼容模式:选择严格(OpenAI 兼容)。
- token 参数名:保留自动(按模型判断)。
- 函数调用类型、流式函数调用、视觉支持、视频支持、音频支持、文档支持、结构化输出:按所选模型能力选择;不需要相应能力时保留默认的不支持配置。
点击添加。Dify 会校验该模型凭据;校验通过后,模型会出现在 OpenAI-API-compatible 的模型列表中。
在 Dify 系统模型设置中,将刚添加的模型配置为需要使用的默认模型或在应用编排中选择该模型。