Shimmy

为本地模型建立应用调用入口

准备输入

• 受支持 GGUF 模型
• 本地硬件
• 兼容 API 客户端

操作步骤

1. 选择模型并启动本地推理服务。
2. 把客户端指向服务地址，使用测试提示发送请求。
3. 核对返回文本、模型参数和资源使用后保存配置。

模型和硬件支持需按当前版本检查，兼容接口不代表所有扩展参数都可用。