Skip to main content

模型管理

模型 API

img

当前页面的配置信息，用于 Prompt 调试和自动评估功能，根据连接器情况可能会产生一定费用。

↗️ 单击「新建模型 API」，根据提示填写必要信息，即可完成模型 API 的创建。

其中，对于适配器的选择需要补充说明：

  1. 若适配器选择了“ OpenAI 兼容”，则需要自行填写“模型提供商 URL”；并在最后一步的“可用模型”，需要自行添加自定义模型名称。验证成功的模型，方可在 Lighthouse 平台中正常使用。

  2. 若适配器选择了“OpenAI”、“DeepSeek”、“通义千问”，则会自动填充对应的“模型提供商 URL；最后一步的“可用模型”会自动从公网上上获取可用模型列表。

warning

  1. 目前，暂不支持修改已成功保存的模型 API 配置信息。

  2. 若某个模型 API 被删除，正在使用该连接器的功能可能会报错，例如评估器、数据集实验等功能。

模型计费

img

当前页面记录的模型，用于计算 Token 消耗和消费金额。

「模型计费」页面展示系统自带的及自定义模型信息，包括模型名称、来源、匹配模式、价格（USD）、价格（CNY）、最后更新时间。拥有权限的成员，可以对自定义模型进行编辑、克隆、删除的操作。

⬆️ 上方搜索框，可以输入模型名称快速过滤出目标数据。

tip

模型列表默认根据最后更新时间倒排。模型位置越靠前，LLM 数据最终匹配到的优先级更高。

例如：采集到的某条 LLM 数据，同时符合模型列表中第二个和第五个模型的匹配规则，最终会匹配到第二个模型及其配置信息。

新建自定义模型

img

若系统自带的模型不能满足要求，用户可以自定义添加模型，通过设置模型名称、匹配模式、价格，从而识别采集到的 LLM 数据中的模型使用信息及费用情况。

tip

新建自定义模型后，只对新采集的数据生效，不会修改历史数据。