V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  Hookery  ›  全部回复第 9 页 / 共 15 页
回复总数  286
1  2  3  4  5  6  7  8  9  10 ... 15  
70B 就不可能低成本。。。
之前也想过低成本搞一套,P40 和 P100 都涨飞天了,而且还需要魔改散热,稳定性是堪忧的。多卡也需要电源,电源成本也跟着上来了。
最低成本直接搞两张 P102 ,单张 200 ,两张 400 ,一共 20G 显存,可以玩 32B 的 4bit 量化。整机成本不破千。

70B 显存需求大概在 40G 作用,最便宜就是两张 2080TI 22G ,两张卡都上 5K 了。
215 天前
回复了 Chenhe 创建的主题 Nintendo Switch Switch 就没有真·一线连的投屏线吗
大部分情况不是线的问题,是屏的问题。。。
215 天前
回复了 myleszzZ 创建的主题 Nintendo Switch NS 是买烧录卡还是做双系统,求建议
二手直接硬破也不心疼
218 天前
回复了 systemsettings 创建的主题 分享发现 开源 ios 软件分享,自签/巨魔使用
开源的只有有些人写的插件,开源软件比较少吧,编译了还要自签才能装进系统,社区不太活跃吧
218 天前
回复了 JuicyJ 创建的主题 Android 求推荐 1500 以内老人安卓机
@ScepterZ 苹果的计划报废。。电池拉了就会降频。换个新的大容量电池再越狱把无关的服务关了,装个脚本息屏自动断网+启动省电模式,亮屏 reverse 。还是很耐用的。
应该是 TCP 不处理吧,毕竟 TCP 的上层协议公用的太多了,无法处理。除 TCP 以外的纯看运营商个人意愿和政策。
请问我如何成为第 151 号用户
219 天前
回复了 wtj688 创建的主题 问与答 你有多久没看追剧和看电影了?
每天都在看啊
219 天前
回复了 babyedi31996 创建的主题 程序员 本地部署大语言模型哪家强?
@babyedi31996 比较新啊,开源模型有 RANK 的,可以搜一下
219 天前
回复了 wkj89 创建的主题 Apple 3580 拿下 Mac Mini M4
进来之前:妈的这人如何做到的?让老子看看(怒气冲冲)
进来之后:哈哈哈哈哈
219 天前
回复了 babyedi31996 创建的主题 程序员 本地部署大语言模型哪家强?
qwen2.5 72B, 4bt quant 估计 40G 显存吧.MAC 跑太慢了,直接双卡 2080TI 魔改 22G 的,一共 44G 够你随便折腾了,整机下来估计不到 6K ,电源买好点就行。
楼上正解
220 天前
回复了 csulyb 创建的主题 程序员 现在微创企业 ai 应用都是如何部署的
成本需要考虑到并发量,提取总结的智能程度要求,以及是否上云。
如果 ultra 普通人能买得起就好了
巨魔早就可以了。。。
B 站搜索:甲沟炎。
很多科普视频教你怎么处理,大致原则就是:指甲别剪太短。已经有甲沟炎的填棉花矫正。
jinja 是一个语法啊,语法有啥落后的,除非你有更好的替代?
221 天前
回复了 moudy 创建的主题 问与答 现在的小孩们看不进去金庸了么?
没看过射雕。。。但是初中的时候看过神雕侠侣,还有诛仙吧,感觉能读的进去啊
221 天前
回复了 malagebidi 创建的主题 罗技 罗技鼠标计划性报废,还有什么推荐的?
@pkxutao 之前试过换摇杆,但是焊接以后还是飘,就放弃了。。
1  2  3  4  5  6  7  8  9  10 ... 15  
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2505 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 35ms · UTC 10:56 · PVG 18:56 · LAX 03:56 · JFK 06:56
Developed with CodeLauncher
♥ Do have faith in what you're doing.