目前 AI 主要用 qwen3:32b 想用到 qwen3:235b 请问 AI 服务器的品牌、规格建议 谢谢！
 |
1
tool2dx 8 天前
等 7 月份买全新的 intel 24G GPU ，一张 3600 元，买 4 张就能用了。
|
 |
2
xtreme1 8 天前
9355 双路, 64Gx24 ddr5, 5090, ktransformers
硬件大概 10w |
|
3
xtreme1 8 天前
大概 20t/s
|
 |
5
xytest 8 天前
后期如果涉及到微调这些 就要好好考虑显卡了
|
 |
9
coefuqin 8 天前
你目前资源的 20 倍就行了，只怕你搞不定分布式推理。
|
 |
10
terranboy 8 天前
100 人的并发有 20 个吗 请把 5090X20
|
 |
11
inorobot 8 天前 via iPhone
24G 八卡或 48G 四卡方案
|
 |
12
goodryb 7 天前
起码得说清楚是做什么用吧，推理还是要做模型微调，这两个对性能要求是完全不一样的
|
 |
13
littlemis OP 谢谢大佬们 我等下 intel 24g
|
Select Language