V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  tclm  ›  全部回复第 1 页 / 共 2 页
回复总数  26
1  2  
看的我目瞪口呆的,你真信了?!那祝你成功!
28 天前
回复了 heiya 创建的主题 程序员 对搭建 MinIO 对象存储的一些疑问
我以前采取的是 OSS+CDN 替换本地自建 MinIO ,主要带宽成本太高,而且容易成瓶颈,自己的运维硬件还要考虑容灾,多备,还不如全走云。
肉身出去了?
140 天前
回复了 DavidG 创建的主题 职场话题 失业半年,分享下人生低谷期
你这也没失业啊?!
229 天前
回复了 izzy27 创建的主题 程序员 独立开发好做吗?
@ruobingm 叫私域
293 天前
回复了 zzzyk 创建的主题 程序员 推荐个 mini 主机,开发用
正在用天钡 gem12 8845hs / 散热很好 / 家用场景下 WIFI 够用 / 正常使用没声音
主键是数值吗?确定只有两个线程吗?
如果都是的话,一个线程只处理单数,一个线程只处理双数。
我觉得吧,国内搞大模型除开那几家头部,可能是真下成本在搞。其他的都是套壳忽悠钱,他们不在乎你会做什么,在乎的是你的背景能不能帮他忽悠。
342 天前
回复了 wxd21020 创建的主题 Local LLM 配置小主机跑大模型
@mkdirmushroom

嗯,感谢,那纯 CPU + 内存 进行 70B 模型推理还是很勉强的事情.
346 天前
回复了 wxd21020 创建的主题 Local LLM 配置小主机跑大模型
@tclm
@mkdirmushroom

主要是推理效率,也不能太慢对吧,如果 CPU 跑不了 70B 的话,那内存的预算其实可以削减下来.
346 天前
回复了 wxd21020 创建的主题 Local LLM 配置小主机跑大模型
@tclm
@mkdirmushroom

内存是 96G ( 48G 5600Hz * 2 )

我主要担心的是 8845HS 在内存足够的情况下,处理器性能是否满足 70B 的推理要求。
346 天前
回复了 wxd21020 创建的主题 Local LLM 配置小主机跑大模型
@mkdirmushroom

老哥,配的多少内存,我准备搞一台 8845HS (或 Utral5 125H )+ 96G ( 48G 5800Hz * 2 ) 来跑 70B 的模型,只做本地推理,按你的经验,有搞头吗?
这个合同违法了,无效合同,建议 2N 。
2023-09-27 07:06:39 +08:00
回复了 yuyang1992test 创建的主题 程序员 高级程序员为什么喜欢建表的时候加个 ext 字段?
不是很好的实践。
2023-02-02 11:40:29 +08:00
回复了 Ritr 创建的主题 职场话题 被裁员了
去年 11 月 30 日被裁,拿了半个月赔偿,紧着又遇见十二月放开的事情,全家轮着阳了一遍,躺到现在。昨天有个面试,完全不适应,表现一塌糊涂。现在特别焦虑,感觉没信心了。
2022-12-27 16:54:46 +08:00
回复了 SonivelY 创建的主题 问与答 大家来晒一晒自己的年终奖吧
0.目前处于被裁一个月的状态。
2022-12-09 14:23:37 +08:00
回复了 likre 创建的主题 程序员 为什么你不用 Linux 当桌面?
实际上,我已经用 linux / manjaro / kde 做主力系统快两年了。实际办公体验上,除了大家都用 TX 系没有替代(但我也不常用),其他无差,甚至由于职业的原因,感觉比 windows 用起来会更加顺畅些。
1  2  
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   4763 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 30ms · UTC 03:55 · PVG 11:55 · LAX 20:55 · JFK 23:55
Developed with CodeLauncher
♥ Do have faith in what you're doing.