AMD EPYC 9455P48 核 · 128 GB DDR5 ECC · 2 × 1.92 TB NVMe
48 个 Zen 5 核心，支持全宽 AVX-512，配备 12 个 DDR5 通道：CPU 推理与 CI 的高性价比之选。
AI 与 CPU 计算
面向 AI 与 CI 的 CPU 服务器。算力强劲，无需排队等 GPU。
并非所有 AI 或计算任务都需要 GPU。量化语言模型、向量嵌入、CI 流水线、编译和渲染，都能在拥有宽向量单元的多核现代 CPU 上良好运行——价格仅为 GPU 方案的一小部分，而且无需排队。
- 最多 64每路核心数
- AVX-512 指令集Zen 5 全宽执行
- AMXXeon 6 搭载
- $255每月起价
这类工作负载需要什么工作负载特征
- 宽向量单元Zen 5 以完整的 512 位宽度执行 AVX-512，Xeon 6 则增加了用于 BF16 和 INT8 推理的 AMX 矩阵引擎。
- 内存带宽Token 生成速度受限于内存带宽。EPYC Turin 每路提供 12 个 DDR5 通道。
- 大量并行任务CI Runner、编译集群和渲染节点的吞吐量几乎随核心数线性增长。48 或 64 个核心足以让构建队列大幅缩短。
- 可预期的成本固定月费，而非按分钟计费：队列可以日夜满负荷运行。
推荐配置
最适合 AI 与 CPU 计算的独立服务器
由每周都在为这类工作负载做选型的工程师挑选，全部有现货。
工程师建议
如何配置 AI 与 CPU 计算服务器
新服务器上线后的第一个小时，决定了接下来一整年的运行状况。
- 使用量化模型（Q4–Q8），配合 llama.cpp 或 ONNX Runtime；线程数应与物理核心数匹配，而非逻辑线程数。
- 在 Xeon 6 上启用 AMX，前提是框架支持（PyTorch + oneDNN、OpenVINO）。
- 为 CI Runner 的构建目录配置独立的 tmpfs，以减少 NVMe 的写入磨损。
- 对规模实事求是：训练大模型仍然需要 GPU——遇到这种情况，我们会直言相告。
常见问题
AI 与 CPU 计算常见问题
还有疑问？
客户可在客户中心提交工单，直接向运维服务器的工程师提问——首次回复时间中位数不到 15 分钟，7×24 小时在线。
了解技术支持是否提供 GPU 服务器？
目前没有——我们的产品线以 CPU 为主。对许多推理和批处理工作负载来说，48 到 64 个现代核心是更具性价比的选择。
CPU 上能运行多大的模型？
有 256 GB 内存，数百亿参数的量化模型都能轻松装下；此时生成速度取决于内存带宽。
能为大量代码仓库运行 CI 吗？
可以。在容器或虚拟机中运行 Runner，并为每个 Runner 设定 CPU 限制，一台服务器就能让数十条流水线同时运转。