首页 注册 登录
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  paranoiagu  ›  全部回复第 2 页 / 共 52 页
回复总数  1033
1  2  3  4  5  6  7  8  9  10 ... 52  
❮ ❯
65 天前
回复了 paranoiagu 创建的主题 › Local LLM › 本地 llama.cpp 和 ollama 跑 相同 模型，效果不一样
上面修正--------ollma ---> ollama
65 天前
回复了 paranoiagu 创建的主题 › Local LLM › 本地 llama.cpp 和 ollama 跑 相同 模型，效果不一样
发现 unsloth/QwQ-32B-GGUF 、unsloth/gemma-3-27b-it-GGUF 也都支持 ollma ，然后再拉下来跑了一次，还是 llama.cpp 完胜。

都是 Q4_K_M 量化版本。

@parad 温度调到 0 了。llama.cpp 是通过--n-gpu-layers 64 参数，全部加载到 GPU 了，ollama 自动的。看 GPU 占用，应该也是全 GPU 了。
66 天前
回复了 qazwsxkevin 创建的主题 › 硬件 › 似乎是没有 NVME（M key 接口)转 SATA 接口的产品
nvme 转 sata 是需要芯片的
67 天前
回复了 xtx 创建的主题 › 小米 › 不争吵，也不站队，理性且客观地讨论 su7 这件事。
这种改道对向车道的修路，应该是几公里外就开始放雪糕桶引导车流才对。不知道实际情况怎么样。
67 天前
回复了 2232588429 创建的主题 › Android › 安卓微信不支持点击关闭图片吗？
侧滑（返回）、点图片后向下拉。都可以关闭的。
72 天前
回复了 sunhanfl 创建的主题 › 计算机 › 笔记本选购求推荐
一定要带个显卡
76 天前
回复了 jinglian 创建的主题 › macOS › nrg 镜像文件怎么打开？
改成 ISO 就行了吧
82 天前
回复了 jiandan123 创建的主题 › 问与答 › 国外有类似“抖音极速版”和“快手极速版”这样看视频可以赚现金的软件吗？
为什么 iOS 的 抖音极速版没有赚钱功能？
82 天前
回复了 balabalaguguji 创建的主题 › Google Play › GooglePlay 大坑一个
谷歌那边签名后，下载到国内商店上架
94 天前
回复了 xboxv 创建的主题 › 问与答 › 很想试一下 claudeAi,没有手机号 有其他方案获取账号吗?
接码平台
96 天前
回复了 5boy 创建的主题 › 职场话题 › 提了离职一定要走吗
树挪死人挪活
96 天前
回复了 unidotnet 创建的主题 › 数据库 › 是不是我孤陋寡闻了，会有人真的在 MySql 里运行这样的查询吗？
以前经常这么干。
107 天前
回复了 paranoiagu 创建的主题 › 硬件 › N 卡又贵又断货，买块 AMD Radeon RX 7900 XTX 凑合一下怎么样？
@xunmiqun 我试过 780M ，确实可以
108 天前
回复了 paranoiagu 创建的主题 › 硬件 › N 卡又贵又断货，买块 AMD Radeon RX 7900 XTX 凑合一下怎么样？
@endsock 谢谢反馈，6K 性价比不错，可惜目前涨价了
109 天前
回复了 Emocat 创建的主题 › Android › 劫持 APP 点击？国产 ROM 还能更无底线吗？
正好问大家一下，你们的安卓机器打开百度地图，有广告吗？
112 天前
回复了 paranoiagu 创建的主题 › 硬件 › N 卡又贵又断货，买块 AMD Radeon RX 7900 XTX 凑合一下怎么样？
两张 7900xtx ，应该可以跑 deepseek-r1 70B 模型吧
112 天前
回复了 paranoiagu 创建的主题 › 硬件 › N 卡又贵又断货，买块 AMD Radeon RX 7900 XTX 凑合一下怎么样？
刚才草草在 7840HS 笔记本上试了一下 780M ，跑 deepseek-r1:7b ，13token/s ，速度可以。但是应该没法跑更大模型了。
113 天前
回复了 paranoiagu 创建的主题 › 硬件 › N 卡又贵又断货，买块 AMD Radeon RX 7900 XTX 凑合一下怎么样？
@txx 谢谢，掉驱动有点怕啊，支持多卡后跑 70B 模型吗？
113 天前
回复了 paranoiagu 创建的主题 › 硬件 › N 卡又贵又断货，买块 AMD Radeon RX 7900 XTX 凑合一下怎么样？
谢谢各位，别的网友继续继续
115 天前
回复了 mariljacksoa 创建的主题 › 问与答 › 安卓手机 256GB 够用吗
iPhone 转 mtk 8300 ，然后过段时间又得出结论，安卓卡。
1  2  3  4  5  6  7  8  9  10 ... 52  
❮ ❯
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2625 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 35ms · UTC 13:08 · PVG 21:08 · LAX 06:08 · JFK 09:08
Developed with CodeLauncher
♥ Do have faith in what you're doing.