模型管理

概述

模型管理模块用于管理 LLM 和 Embedding 两种类型的 AI 模型，支持千问（DashScope）、豆包（火山引擎）等主流模型，同时兼容任意 OpenAI 协议的模型接入。

配置说明

支持的提供商

提供商	配置要求
阿里云(百炼平台)	apiKey
字节跳动(火山引擎)	apiKey + baseUrl
OpenAI 兼容协议	apiKey + baseUrl
自定义	根据实际情况配置

使用说明

新增模型

进入 资源库 → 模型管理，点击「新增」：

1. 填写模型基本信息
2. 选择模型类型和提供商
3. 填写 API Key（必填）
4. 配置模型参数（温度、最大 Token 等）
5. 点击「确定」

通过 application.yml 配置（兜底）

在 application-dev.yml 中配置（可选，仅用于未接入模型表时的兜底，建议跳过，直接通过管理界面配置）：

# 千问
dashscope:
  api-key: sk-xxx

# 豆包
# doubao:
#   api-key: xxx
#   base-url: https://ark.cn-beijing.volces.com/api/v3

测试

需要到流程设计的大模型节点试运行 / 知识库中上传文档测试

数据库实体

AiModel

字段	类型	说明
id	Long	编号
modelType	Integer	模型类型：1-LLM，2-Embedding
provider	String	模型提供商：qwen-阿里云(百炼平台)，doubao-字节跳动(火山引擎)，openai-OpenAI
modelName	String	模型名称
displayName	String	模型显示名称
apiKey	String	API密钥
baseUrl	String	API基础URL
config	String	模型配置JSON
status	Integer	状态：0-禁用，1-启用
isDefault	Integer	是否默认模型：0-否，1-是
createBy	Long	创建人ID
createTime	LocalDateTime	记录创建时间
updateBy	Long	最后更新人ID
updateTime	LocalDateTime	记录最后更新时间
deleteFlag	Boolean	删除标记：0-正常，1-已删除
orgId	Integer	所属组织ID

核心类

ChatModelProvider（引擎接口）

位于 agent-plus-engine 模块：

public interface ChatModelProvider {
    ChatModel provide(LLMNodeData nodeData);
    AiChatResponse chat(AiChatRequest request);
}

DefaultChatModelProvider（兜底实现）

使用 application.yml 中的配置，支持千问/豆包二选一。

AiModelChatModelProvider（主实现，@Primary）

• 按 modelId 查库路由
• 统一落 ai_llm_call_log
• 集成 @TraceSpan 记录 Token 用量
• 支持多租户（orgId）