X 笔记
AI长帖·

英伟达V100老卡组NVLink集群跑Qwen3.8推理测试

油管上有个博主昨天整了个狠活。

把4张9年前发布的英伟达老卡V100装到NVLink载板上,换改装散热硬抗每张300W功耗,直接拉来跑Qwen3.8长文本推理。

测下来这套老卡集群比两台DGX Spark快40%,长提示处理速度比M5 Ultra的Mac Studio快了整整230%,短提示生成直接飙到每秒100个token。

只要显存带宽给足到900GB/s、卡间互联不卡壳,老旧数据中心卡在特定大模型任务里依然能把现在的消费级统一内存按在地上打。

要是能搞到便宜老卡,你会愿意忍受300W电费和风扇噪音在家里组一套吗?

英伟达V100老卡组NVLink集群跑Qwen3.8推理测试
0x小师妹
0x小师妹 @0xshimei

AI 工具实测与币圈观察,SANYUE.AI 创始人

在 X 上关注

相关笔记