工具介绍与任务方法
piqc
以只读方式收集 Kubernetes 推理集群的模型、GPU 和吞吐事实,生成资源与成本检查报告。
piqc 能做什么
以只读方式收集 Kubernetes 推理集群的模型、GPU 和吞吐事实,生成资源与成本检查报告。
- GPU云租户与计费管理
如何使用 piqc
检查推理集群的资源分配情况
准备输入
- 授权集群只读权限
- 推理工作负载
- 成本参数
操作步骤
- 配置只读连接并运行事实采集。
- 查看模型、硬件、缓存和吞吐对应的记录。
- 核对空闲或配置不匹配的项,再由负责人评估调整方案。
预期交付物
- 推理资源事实包
- 成本检查报告
估算结果依赖遥测和计价配置,报告本身不会完成资源优化或节省费用。
开始前需要了解
账号权限、费用与可用功能请以官方入口的当前说明为准。重要结果应先检查,再用于实际工作。