模型设置
Mira 不把「默认模型」理解为一个覆盖所有任务的单一选项。
模型设置页按照业务用途分别绑定模型,让聊天生成、轻量任务、Agent 编排、知识检索、评测、生图和语音可以使用不同 Provider 与不同模型。
八类模型角色
| 模型角色 | 主要用途 |
|---|---|
| 主模型 | 普通对话与最终内容生成 |
| 小任务模型 | 分类、改写、摘要等轻量任务 |
| 编排模型 | Agent 规划、工具意图和下一步决策 |
| 评测模型 | 评测样本生成与生成质量裁判 |
| 向量模型 | 文本向量化与语义检索 |
| 排序模型 | 对候选检索结果进行重排 |
| 生图模型 | 图像生成请求 |
| 语音模型 | 语音识别、合成或对应语音能力 |
把这些角色拆开有两个好处:
- 可以为高频小任务选择更快、更便宜的模型;
- 某一类模型故障或效果不佳时,不必同时影响聊天、检索和 Agent。
Provider 与模型的关系
模型卡片中同时显示「连接」和「模型」。
- Provider 连接表示请求发往哪里、使用什么协议和认证;
- 模型表示在这条连接上调用哪个具体模型 ID;
- 模型角色表示它在 Mira 中承担什么工作。
同一个 Provider 可以提供多种模型;同一个模型也可能被绑定到多个角色。但这不代表所有模型都适合所有用途。
例如:
- 聊天模型通常不能直接代替 Embedding 模型;
- Rerank 模型使用的调用协议与普通聊天模型不同;
- 生图模型不应强行复用 Chat Completions 协议;
- Agent 编排模型和普通轻任务模型的失败影响面不同,最好独立配置。
本地模型与云端模型
Mira 可以同时使用本地与云端连接。
本地模型常见于 Ollama、LM Studio 或本机运行时,优势是数据控制和可预测成本;云端模型通常能力更强、维护更少,但需要网络、凭据并受服务商策略影响。
选择时可按任务判断:
- 隐私敏感、可接受较慢:优先考虑本地模型;
- 复杂推理、长上下文或高质量生成:考虑能力更强的云端模型;
- 高频分类、摘要:选择轻量模型;
- 向量化和重排:优先保证协议匹配与稳定性,而不是追求聊天排行榜。
选择模型与编辑参数
「选择模型」用于更换当前角色绑定的 Provider 与模型。
「编辑参数」用于调整该角色长期使用的模型参数。并非所有模型角色都有相同参数,也不是参数越多越好。修改前应先明确是在解决随机性、长度、采样还是性能问题。
「查看详情」更适合展示由 Provider 决定、并不适合统一编辑的模型信息。
重置默认模型
页面右上角的「重置默认模型」会把模型角色绑定恢复到系统默认状态。
执行前应记录当前连接和模型 ID,特别是本地自定义模型、Embedding 与 Rerank 配置。重置后,知识库上传、评测或 Agent 可能因为缺少对应模型而暂时不可用。
常见排查顺序
模型无法使用时,建议按下面顺序检查:
- Provider 连接是否可用;
- API 地址和认证信息是否正确;
- 模型 ID 是否真实存在;
- 当前模型是否支持对应角色所需的协议;
- 本地模型服务是否已经启动;
- 超时、上下文长度和输出参数是否合理;
- 问题是否只影响某一模型角色,还是所有连接都失败。
先定位层级,再改配置。不要因为一个 Embedding 模型失败,就同时更换主模型、Agent 模型和知识库参数。