Modelz LLM

将一个开放模型接入现有 API 客户端

准备输入

• 受支持模型
• 运行硬件
• 兼容客户端

操作步骤

1. 启动自托管推理服务并加载模型。
2. 将客户端地址调整到模型接口，发送样例请求。
3. 核对响应、上下文行为和资源使用后保存配置。

各模型支持的参数和硬件要求不同，不能假定与所有 OpenAI 能力等价。