苹果刚刚推出了新款 Mac Studio

71 天前
 Unclev21x

可选配 512GB 统一内存,有人冲吗?

5683 次点击
所在节点    Apple
46 条回复
shuimugan
70 天前
@dongfanga 但是两者的激活参数差不多,速度上差距不大,得具体实测所有题目才好说,我只测了代码能力。而且 qwq-32b 跑起来条件太简单了,搞两张 16-24g 显存的卡,2 张 a770 都可以没什么压力
shuimugan
70 天前
@mkdirmushroom
@jqknono
我的 Mac Studio 就是 192GB 的 M2 Ultra ,对于 M3 Ultra 跑 deepseek V3/R1 的速度我意见和 33 楼一致,最多是随着上下文越大速度不断衰减
dongfanga
70 天前
@shuimugan 主要是综合来看,本地跑非类似 r1 这种庞大的模型,mac studio 综合来看真的性价比高,省电噪音少,pc 平台真的感觉自己在开飞机
feikaras
70 天前
@dongfanga 为啥不是 eypc 量大管饱? mac 他啥时候性价比了。本地部署大模型应该和个人用户无关,个人只管用别人给你做好的入口。
mewking
65 天前
@shuimugan 请问这个 2*770 的玩法有没有部署例子?貌似是最便宜的 16G 卡。如果 PCIE 槽一个 X16 ,一个 X4 ,会降低很多性能吗
shuimugan
61 天前
@mewking pcie 通道速度不会降低多少性能,现阶段 ExoLabs 的方案是靠网络通信都能玩,推理模型交换数据挺少的,刚好新鲜出炉一个部署案例 https://www.bilibili.com/video/BV1FvQrYQEPc

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://yangjunhui.monster/t/1116184

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX