苹果刚刚推出了新款 Mac Studio

太贵了，能按月订阅 42 年的 cursor 了

7w5 可以五张 4090 了

@SkywalkerJi 你那五张 4090 有多少显存来着?

M3 Ultra 是最后一代胶水, 肯花这个钱不如等今年的 Mac Pro, 有 单独设计的 M4 Ultra, 估计带宽更大

32B 模型 4bit 量化在 M2 Ultra 可以跑到 42token/s （开启 KV Cache ），而 deepseek v3 和 r1 的激活参数量都是 37B ，总参数量 671B ，在 512GB 内存上跑 4bit 量化为主，大体上也是 40~45token/s 左右（对比 M2 Ultra 算力和带宽的提升和激活参数变化所得）。
对比 deepseek 现在的官网价格，v3 每百万 token 输出为 8 元，r1 是 16 元，用 Mac Studio M3 Ultra 512GB 拿来跑 deepseek v3 的话大概是 74249/8 * 1000000 / 45 / 86400 = 2387 天回本，跑 r1 回本速度快一倍，只需 1193 天。

@shuimugan 赞！你这样的人 销售都骗不到。。。。。

虽然但是，你买个 API 就只能聊天聊到死，但你买个 Mac 还能写代码跑渲染，还能剪视频🐶

这。。。。等于是 macstudio 不配上 m4ultra . 还是说 直接跳过了 m4ultra 来了个 m4extreme?

打算冲丐版

512 对 LLM 负载意义不大了，对于这个量级的 memory ，mac 的 memory bandwidth 和 gpu peak flops 都不太够看，用人话说就是跑更大的模型能跑但慢到没法用

@WuSiYu 上面说 40~45token/s ，Twitter 上有人预估 20token/s ，也算能用了

根据目前 M4 max 128GB 跑 R1 qwen 70b 就只有 18-20tk 来看，这玩意如果跑 R1 671b ，估摸也就是 9-10tks

@shuimugan #5 官方满血版是大部分 fp8 （还有一些 bp16 和 fp32 ），int4 效果肯定差一点，而且电也是要钱的

@alexcding 有道理，不过以后不用胶水技术了，studio 上也会上和 pro 一样的芯吗，这差距要怎么拉开

@alexcding M4 Ultra 有啥消息么？这次只出了 M3 Ultra 有点奇怪，藏着掖着

谢谢，我选择 revolut metal 免费送的 perplexity pro

似乎不支持 ECC ？

这个价格，鹤岗可以买 2 套房子了

不知道什么时候可以上国补

Apple M3 Ultra (32 核中央处理器、80 核图形处理器和 32 核神经网络引擎)
512GB 统一内存
16TB 固态硬盘
正面：两个雷雳 5 端口，一个 SDXC 卡插槽
背面：四个雷雳 5 端口，两个 USB-A 端口，一个 HDMI 端口，一个 10Gb 以太网端口，一个耳机插孔
顶配需要：RMB 4531/月 (24 期)或 RMB 108,749