@feikaras 我现在没有对 AI 进程是否常驻有确定的结论,只是提出了一个如果不常驻会什么问题难以解决的疑问,我似乎都没有表达出一个明确的观点,不知道你在反驳什么。 所以你的观点是什么呢?是苹果的 Apple Intelligence 功能并不是通过加载一个 AI 模型来实现的? 说到这里,其实我又有一个猜测: 从设计角度来看,苹果的 AI 进程可以是常驻的,但是常驻进程只会预先加载一个微型的语言模型,不会提前加载特别大的模型文件,然后在接收到用户指令之后,通过一些微型语言模型的分析和判断,判断出问题涉及到的专业和领域之后,再去加载一些对应领域的专家模型来处理这个任务。等到任务处理完毕,这些用于加载专家模型的内存是可以被回收的。 这样一个流程的处理模式从表现上看,是能够及时的做出响应的,但是处理的过程实际上可能还是比较耗时的。 以上还是我的一些猜测,期待有大佬能够给出一些实锤性质的结论或者讨论内容。