neteroster 最近的时间轴更新
neteroster

neteroster

V2EX 第 191331 号会员,加入于 2016-09-11 21:01:55 +08:00
今日活跃度排名 4497
根据 neteroster 的设置,主题列表被隐藏
二手交易 相关的信息,包括已关闭的交易,不会被隐藏
neteroster 最近回复了
1 天前
回复了 jlak 创建的主题 问与答 想不起一个有大模型性价比图的网站
artificial analysis ?虽然这种看看就好,和实际体验可能有很大区别
1 天前
回复了 Need4more 创建的主题 问与答 大模型的 api 为什么设计成无状态的?
@neteroster 不过我不怎么喜欢 Responses API ,感觉整体还是无状态的设计比较好
1 天前
回复了 Need4more 创建的主题 问与答 大模型的 api 为什么设计成无状态的?
你是否在找:Responses API
2 天前
回复了 xmagicer 创建的主题 问与答 有没有小主机支持 128GB 内存的?
现在有 64G D5 单条了,我之前看有人小主机已经用上了
便宜的话 deepseek v3 (新), gemini 2.5 flash (不思考模式)

有钱就 Gemini 2.5 Pro 吧

另外翻译视频字幕的轮子已经不少了,工具有什么特有优势吗
18 天前
回复了 guoguobaba 创建的主题 Local LLM mac studio 跑大模型也就那样啊
本来就是玩具水平,你在期待些什么?

Mac 的优势只有一个,那就是能在 bs=1 和轻 prefill 负载下以相对好的性价比跑较大的模型,这是因为他的内存带宽高而计算能力相比起来非常非常低,因此就算 M3U 跑 r1 这种激活不到 40b 的 MoE 在真实工作负载下也就略高于 10tps ,上下文一长生成速度和 TTFT 更是难看。
----正经付费----

* chatgpt + 家宽:优点就是完善的用户体验,o3 满血版有很好的工具调用能力等。缺点很多,没得 api 用,上下文 32k 不是很高,即使家宽也有可能降智等。

* 付费如果不一定要 api ,仅仅对话,推荐 poe ,效果和 API 一样的。比用各个平台 API 便宜不少,前提是你得把一个月的点数花光。

* 中转的话也有不错的,主用 API 其实推荐中转。下面是我用了那么多站觉得不错的几个(没有任何利益相关,都是正价官转)

openrouter 大牌中转了,稳定性没问题,可以支付宝充值,模型全,手续费稍高,o3 不支持 API 使用。

ohmygpt.com, aihubmix, oaipro ,这三家是我用着觉得没什么问题的国内中转,和用官网 API 没区别。

----低成本----

* gcp 绑卡 300 刀赠金,3 个月期限,可用 Gemini 。也有人出售,可做结算转移。

* openai api 充值开数据分享计划,每天有不少免费额度,但是可以用的模型和账号等级以及账号验证情况有很大关系

* azure 学生(如果是学生),赠金 100 刀一年,能开 gpt4.1, o3-mini 等。
看起来这里的讨论还是有点意思的,我来抛几个砖:

> 原帖:就是 6500000 亿个连接。这要多少“参数”才能完整模拟。600B 的大模型的参数量也就这个数字的千分之一。所以...

这个论证并不明确。这些连接(条件)能达到某种效果不意味着达到某种效果需要这些条件。你当然大可以拿出所谓进化论去说一些道理,不过我仍然不认为这个论证是明确的。

> 所以说现在这种被称作 AI 的东西,根本没有智能

你可以说一下至少你自己对智能的定义吗?在没有共识的情况下讨论一个概念是没有任何建设性的。

进一步的,在明确了智能定义的情况下,你能比较严格的证明一个统计学模型(或者更准确地,一个由神经网络表示的语言模型( LM ))为什么永远不可能拥有“智能”吗?

---

个人观点:人类目前对意识、智能的概念了解甚少,以至于现阶段无法对大语言模型和类似人工智能系统的“本质”和“智能性”做任何形式的断言。
fc 我觉得 qwen 可能会比较好,因为他们最近几个系列模型都比较强调 agent 能力,看其他地方的不少实际测试也还可以(不过要注意聊天模板的配置)
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   950 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 12ms · UTC 20:37 · PVG 04:37 · LAX 13:37 · JFK 16:37
Developed with CodeLauncher
♥ Do have faith in what you're doing.