nomagick

V2EX 第 576012 号会员，加入于 2022-03-19 10:50:34 +08:00

今日活跃度排名 13453

nomagick 提问技术话题好玩工作信息交易信息城市相关

百度文心和其他模型的一个重大的不同点

分享发现 • nomagick • 2023-11-02 20:59:54 PM • 最后回复来自 nomagick

我把 ChatGLM2-6B 上传到了 Replicate 平台上，满血模型，在线试用

分享创造 • nomagick • 2023-09-05 12:12:01 PM • 最后回复来自 nomagick

分享一个能够帮你作出艰难决定的网站，还有解决国内 Firebase 可用性问题的姿势

分享发现 • nomagick • 2023-01-20 17:51:54 PM

» nomagick 创建的更多主题

nomagick 最近回复了

4 天前

回复了 cuteshell 创建的主题 › Local LLM › 学习大模型的显卡怎么选型

@cuteshell LoRA 微调和全参数训练还是不一样的

4 天前

回复了 cuteshell 创建的主题 › Local LLM › 学习大模型的显卡怎么选型

@lovestudykid 嗯？

20s PCIE3.0 x16 ~32GB/s
30s 40s PCIE4.0 x16 ~64GB/s
50s PCIE5.0 x16 ~128GB/s

Mac Mini M4 120GB/s
Mac Mini M4 Pro 273GB/s
Mac Studio M4 Max 410GB/s
Mac Studio M3 Ultra 819GB/s

4 天前

回复了 cuteshell 创建的主题 › Local LLM › 学习大模型的显卡怎么选型

16G 3B 4B 你也训不了，不过学习嘛，0.5B 还是可以的；
话说回来，LLM 这种应用，主要吃带宽，还不如买 mac 了，内存即显存

10 天前

回复了 zhh2271 创建的主题 › 问与答 › 有没有熟悉大模型开发的， help！

@zhh2271 一个 A100 那不是一二十万，离 100 万还差着，属于告别 GPU 的层次

单卡 A100 能运行 32B 的 Inference ，训练/微调没门，最多微调 2.5B ，运行到猴年马月，训练的时候你人还得一直盯着随时处理突发状况。

还是调 API 吧，也有人提供微调 API 的

10 天前

回复了 zhh2271 创建的主题 › 问与答 › 有没有熟悉大模型开发的， help！

没有一个亿拍出来的话还是别想训模型的事了，拍一千万能稍微微调一下，连一百万都拍不出来，基本告别使用 GPU 了，老老实实在家调 API 完事

22 天前

回复了 ttivan 创建的主题 › 职场话题 › 如何看待一家初创公司是否值得加入？

这两个比较靠谱

> 公司刚成立，老板自己就很有钱，愿意砸钱进去做，但不做任何执行
> 公司刚成立，老板是业内从业人员 10 年+，但之前一直没有大成，主要把控大方向，平时要去拉投资

这个也可以
> 公司刚成立，老板接了一些中型公司投资，股权稀释老板 70%，资方 30% 这样。

其他风险高

22 天前

回复了 cj323 创建的主题 › Node.js › 吐槽一下 bun

Node.js ES Module loader, 麻痹写了多少年了，还是个半成品，一身的 bug ，自己内部的人推不动，外部的人也改不动。随便啥乱糟功能打个 preview 标签就敢 release, 一副大限将至行将就木的样子。

Bun 对比下来就很有生机活力

23 天前

回复了 liuliren 创建的主题 › 生活 › 五一租车剐蹭求助：已购全险却被告知不赔，怎么维权？

@H97794
@andyskaura
🙄 难道没别的事做么，浪费的时间折算成钱是亏是赚呢

23 天前

回复了 liuliren 创建的主题 › 生活 › 五一租车剐蹭求助：已购全险却被告知不赔，怎么维权？

喷漆贵的 600 一块，便宜的 300 一块，供参考。

就这老头乐都不值得费这么多口舌。。

» nomagick 创建的更多回复