 ONLINE |
love060701反对中医，支持转基因。不反对LGBT，反对穆斯林。支持乌克兰。 🏢 产品 V2EX 第 68115 号会员，加入于 2014-07-16 14:06:09 +08:00今日活跃度排名 284 |
Gorden_Sun
北京
love060701 最近回复了
10 天前 回复了 zhh2271 创建的主题 › 问与答 › 有没有熟悉大模型开发的， help！ |
1 、如果上下文不长，直接把你们公司常用的文档当系统 prompt 写进去，需要使用上下文比较长的模型，DeepSeek 不行因为上下文太短，可以找 128K 上下文版本的 Qwen 。
2 、微调模型，基于某个版本的模型做额外的训练，推荐基于 70B 版本的模型做训练，微调好像只能基于密集模型，MoE 模型的微调比较困难。DeepSeek R1 也不行的，只能使用 DeepSeek 蒸馏出的模型。
3 、RAG ，就是外挂知识库，数据标准化->向量化，LLM 回答问题时把知识库作为上下文，可以使用 DeepSeek R1 作为 LLM ，有 Dify 、n8n 之类的开源实现，不过你们公司有那么多资源部署自己的 DeepSeek R1 么？
2 、微调模型，基于某个版本的模型做额外的训练，推荐基于 70B 版本的模型做训练，微调好像只能基于密集模型，MoE 模型的微调比较困难。DeepSeek R1 也不行的，只能使用 DeepSeek 蒸馏出的模型。
3 、RAG ，就是外挂知识库，数据标准化->向量化，LLM 回答问题时把知识库作为上下文，可以使用 DeepSeek R1 作为 LLM ，有 Dify 、n8n 之类的开源实现，不过你们公司有那么多资源部署自己的 DeepSeek R1 么？
14 天前 回复了 lawgine 创建的主题 › macOS › 开个帖子各位说说 MAC 上面比较实用的办公或实用性软件 |
AltTab 确实很好，有没有这么个软件，可以放在 Dock 栏，然后点击后出现现在开着的所有应用的列表，就相当于用点击 Dock 图标具备 Alt+tab 的效果。
15 天前 回复了 wangshuo6 创建的主题 › 程序员 › google io 的新 ai 产品无法使用，大伙能打开吗 |
@leeyuzhe 看我的推文，写了详细步骤： https://x.com/Gorden_Sun/status/1925026559616024672
25 天前 回复了 villivateur 创建的主题 › Local LLM › 本地部署视觉大模型，用于 OCR 中文文献+翻译，最好的模型是什么？ |
Gemma 已经是本地里性能比较好的了，Mistral 24B 和 Qwen VL 可以试试，不过最推荐的还是 Gemini ，Pro 消耗不起就 Flash
27 天前 回复了 wangyzj 创建的主题 › 程序员 › 5Ga 来了，来个速度测试吧 |
有什么用，我地铁里还是一点网速没有。下载东西百度限速、B 站限分辨率，除了测网速是真没使用场景。
30 天前 回复了 bingoup886 创建的主题 › macOS › Mac 上有什么软件可以实现单击 Dock 上的图标最小化该应用 |
supercharge ，而且支持设置快捷键，隐藏所有窗口
35 天前 回复了 tiRolin 创建的主题 › OpenAI › 这种 AI 语音是使用什么模型生成的？ |
这个语音听着很一般啊，感觉是剪映内置的那种，再调一下播放速度
48 天前 回复了 hellolinuxer 创建的主题 › 问与答 › 哪些大神愿意分享出自己的周报链接，有些好东西真的不好检索到 |
我的 AI 资讯日报，谷歌搜 AI 资讯排第 2： https://gorden-sun.notion.site/527689cd2b294e60912f040095e803c5?v=4f6cc12006c94f47aee4dc909511aeb5&pvs=4
华硕灵耀 Air 14 ，很轻薄，很漂亮，就是价格高一些。或者买普通的灵耀 14 ，CPU 更好，稍晚厚一点但是也很薄，国补后 6000 。
Select Language