
AI 服务器
RTX 4090 8-GPU AI Inference Server
高性价比 4U 机架式 AI 推理与 AIGC 算力服务器

RTX 4090 八卡 AI 推理服务器
高性价比 4U 机架式 AI 推理与 AIGC 算力服务器
面向高性能、灵活扩展而设计的新一代 AI 训练推理硬件算力平台
- 面向 AI 大模型训练推理
- 超强的 I/O 灵活扩展性能
- 全新处理器架构带来的性能飙升
- 真正企业级的可靠性和可用性
CPU
2 CPUs
5th/6th Gen Intel Xeon
GPU
8 GPUs
8×RTX 4090/PCIe 4.0
Memory
4TB
32×DDR5
Hard Drive
8×3.5"
4×NVMe
Power
4×Powers
2000-3000W
Product Overview
本机为 4U 机架式双路 AI 智算服务器,搭载第 5/6 代 Intel Xeon Scalable 可扩展处理器,配备 32 条 DDR5 内存(最大 4TB),支持 8 张全高全长双宽 PCIe GPU 卡全速运行。整机基于高带宽内存与 I/O 子系统,配合 4 路冗余电源与模块化散热设计,面向 AI 推理、AIGC 批量生成、深度学习训练、图形渲染与 HPC 等场景,提供性价比突出、扩展灵活的高密度算力底座。
Product Highlights
Rich and Extensible
最大支持 12 个 PCIe G5 x16 扩展槽,支持最多 8 张全高全长双宽 GPU 卡,适用于 AI/深度学习/HPC/大数据等多种应用场景。
Reliable Scenario Applications
采用 4U 机架式模块化设计,整机模块化,集高性能、高密度、高可靠于一体,便于维护管理。
Efficient Heat Dissipation Design
CPU 与 GPU 独立风道分区散热,支持多个热冗余风扇全速智能调速,保障 8 张高功耗 GPU 长期 7×24 小时稳定运行。
Product Specifications
| Chassis | 4U 机架式,模块化机箱,支持机柜上架 |
| Processor | 支持第 5/6 代 Intel Xeon Scalable 可扩展处理器,最大 2 路 |
| Memory | 32 条 DDR5 RDIMM 插槽,速率最高 5600MT/s,最大支持 4TB |
| GPU | 8× NVIDIA RTX 4090 24GB/48GB GDDR6X(16384 CUDA 核心,加速频率 2.52GHz,PCIe 4.0 x16,双槽,单卡约 450W) |
| Expansion Slot | 最多 12 个 PCIe Gen5 x16 标准扩展槽(向下兼容 PCIe 4.0),支持 1 个 OCP 3.0 网卡槽位 |
| Storage | 前置最大 8×3.5" SAS/SATA HDD 或 24×2.5" SAS/SATA/NVMe;内置 2×M.2 NVMe 2280 |
| Network | 板载 1 个千兆管理网口;可选配双万兆/25GbE OCP3.0 网卡(支持 NCSI) |
| Manage | 集成 BMC 管理芯片,支持 IPMI 2.0、Redfish、SOL、KVM、虚拟媒介;DC-SCM 管理模块 |
| Power | 4 个 CRPS 热插拔冗余电源,支持 1+1/3+1 冗余,可选 2000W/2200W/2700W/3000W 输出 |
| Cooling | 多个 6038/6056 热插拔冗余风扇,CPU/GPU 分区风道 |
| Security | 支持机箱入侵检测、Intel PFR/SGX 安全技术,支持 TCM/TPM 安全模块 |
| Operating System | 兼容 Ubuntu、CentOS、RedHat、SUSE 等主流 Linux 及 Windows Server |
| Work Environment | 工作温度 10℃~35℃,支持 CCC 等安全认证 |
Use Cases
- AI 推理服务
- AIGC 批量生成
- 深度学习训练
- 图形渲染与 HPC



