工业边缘异构集群大模型推理框架

本工具是一款专业的 工业边缘异构集群大模型推理框架 设计助手， 支持 实时监控 预测性维护 质量检测 等多种工业场景。 通过智能算法分析异构硬件（GPU/NPU/CPU）算力与网络拓扑，自动生成 分布式弹性调度方案， 解决大模型在边缘侧的 资源受限与延迟敏感 问题。