产品能力

模型设置

按业务用途为对话、任务、评测、检索、生图与语音绑定默认模型。

模型设置

Mira 不把「默认模型」理解为一个覆盖所有任务的单一选项。

模型设置页按照业务用途分别绑定模型,让聊天生成、轻量任务、Agent 编排、知识检索、评测、生图和语音可以使用不同 Provider 与不同模型。

八类模型角色

模型角色 主要用途
主模型 普通对话与最终内容生成
小任务模型 分类、改写、摘要等轻量任务
编排模型 Agent 规划、工具意图和下一步决策
评测模型 评测样本生成与生成质量裁判
向量模型 文本向量化与语义检索
排序模型 对候选检索结果进行重排
生图模型 图像生成请求
语音模型 语音识别、合成或对应语音能力

把这些角色拆开有两个好处:

  • 可以为高频小任务选择更快、更便宜的模型;
  • 某一类模型故障或效果不佳时,不必同时影响聊天、检索和 Agent。

Provider 与模型的关系

模型卡片中同时显示「连接」和「模型」。

  • Provider 连接表示请求发往哪里、使用什么协议和认证;
  • 模型表示在这条连接上调用哪个具体模型 ID;
  • 模型角色表示它在 Mira 中承担什么工作。

同一个 Provider 可以提供多种模型;同一个模型也可能被绑定到多个角色。但这不代表所有模型都适合所有用途。

例如:

  • 聊天模型通常不能直接代替 Embedding 模型;
  • Rerank 模型使用的调用协议与普通聊天模型不同;
  • 生图模型不应强行复用 Chat Completions 协议;
  • Agent 编排模型和普通轻任务模型的失败影响面不同,最好独立配置。

本地模型与云端模型

Mira 可以同时使用本地与云端连接。

本地模型常见于 Ollama、LM Studio 或本机运行时,优势是数据控制和可预测成本;云端模型通常能力更强、维护更少,但需要网络、凭据并受服务商策略影响。

选择时可按任务判断:

  • 隐私敏感、可接受较慢:优先考虑本地模型;
  • 复杂推理、长上下文或高质量生成:考虑能力更强的云端模型;
  • 高频分类、摘要:选择轻量模型;
  • 向量化和重排:优先保证协议匹配与稳定性,而不是追求聊天排行榜。

选择模型与编辑参数

「选择模型」用于更换当前角色绑定的 Provider 与模型。

「编辑参数」用于调整该角色长期使用的模型参数。并非所有模型角色都有相同参数,也不是参数越多越好。修改前应先明确是在解决随机性、长度、采样还是性能问题。

「查看详情」更适合展示由 Provider 决定、并不适合统一编辑的模型信息。

重置默认模型

页面右上角的「重置默认模型」会把模型角色绑定恢复到系统默认状态。

执行前应记录当前连接和模型 ID,特别是本地自定义模型、Embedding 与 Rerank 配置。重置后,知识库上传、评测或 Agent 可能因为缺少对应模型而暂时不可用。

常见排查顺序

模型无法使用时,建议按下面顺序检查:

  1. Provider 连接是否可用;
  2. API 地址和认证信息是否正确;
  3. 模型 ID 是否真实存在;
  4. 当前模型是否支持对应角色所需的协议;
  5. 本地模型服务是否已经启动;
  6. 超时、上下文长度和输出参数是否合理;
  7. 问题是否只影响某一模型角色,还是所有连接都失败。

先定位层级,再改配置。不要因为一个 Embedding 模型失败,就同时更换主模型、Agent 模型和知识库参数。