LlamaGPT

运行自托管模型聊天

准备输入

• 受支持模型
• 运行设备
• 问题

操作步骤

1. 按部署说明选择受支持的模型配置并启动自托管服务。
2. 打开聊天界面，用一条具体问题确认模型加载和回复正常。
3. 再提供实际任务上下文，检查回答质量与本机资源情况。

核对模型支持和设备资源，并检查回答事实。