工具介绍与任务方法
GPUStack
统一管理 GPU 集群，编排模型推理引擎，并按需提供可访问的 GPU 实例。
GPUStack 能做什么
统一管理 GPU 集群，编排模型推理引擎，并按需提供可访问的 GPU 实例。
- 模型训练与部署
如何使用 GPUStack
为模型服务分配GPU资源
准备输入
- GPU节点
- 模型与推理引擎配置
操作步骤
- 将可用计算节点加入 GPUStack，检查节点与 GPU 资源状态。
- 选择待部署模型，配置推理后端与资源分配并发起部署。
- 等模型服务就绪后发送测试请求，结合资源使用情况调整分配。
预期交付物
- 模型部署
- GPU实例与运行状态
检查资源分配、网络访问与服务实际响应。
开始前需要了解
账号权限、费用与可用功能请以官方入口的当前说明为准。重要结果应先检查，再用于实际工作。
