AI集群-Kevin's Blog

Kevin's Blog 博主等级

累计撰写 478 篇文章
累计创建 1879 个标签
累计收到 0 条评论

目录CONTENT

以下是 AI集群相关的文章

2025-10-30
Parallax by Gradient：跨设备共享GPU的分布式LLM推理框架 Parallax by Gradient是一款分布式模型服务框架，让开发者能够在不同设备间共享GPU资源构建AI集群，支持管道并行模型分片、动态KV缓存管理和连续批处理。该工具支持多种主流开源LLM模型，提供Python API、CLI工具和Docker部署方式，适用于研究、开发和教学等多种场景。
- 2025-10-30
- 1
- 0
- 0
- 工程与开发
- 大语言模型/LLMs