麦克雷 Mavom.cn

标题: 精神分裂的苹果 [打印本页]

作者: StephenCok 时间: 2024-7-29 18:48
标题: 精神分裂的苹果
看了一下WWDC的AI视频,由于苹果内存限制大量精力在如何压缩模型到4bit或更低, 但问题是苹果的NPU限制,跑fp16和低精度算力一样能效也没太大区别.
所以最后苹果用16bit的npu顶着超低能效跑低准确度小模型,缺点全占了,优点一个都没有, 足以成为本年度最大笑话,我要是微软的市场部买一堆通告说Apple intelligence 4bit模型精度被CopilotPC吊打,能效被CopilotPC倍杀, 性能被CopilotPC秒杀, 就是骑脸库克

作者: e10698000 时间: 2024-7-29 18:49
你确定苹果跑fp16和低精度算力能效一样？

作者: StephenCok 时间: 2024-7-29 18:50
另外果然是Axlearn

(, 下载次数: 0)
等等苹果这个slm速度还可以,3B左右 30T/s这不是比xe跑phi silica 27T/s还快? 库克又逃过一劫
(, 下载次数: 0)
(, 下载次数: 0)

作者: jet 时间: 2024-7-29 18:50
有什么关系？买苹果的看这个？

作者: StephenCok 时间: 2024-7-29 18:50
果然是庞若鸣带头搞的,没说线上版多少参数,赶紧砸钱吧

(, 下载次数: 0)

作者: jaynetw3 时间: 2024-7-29 18:51
库克为了利润率的操作都很多
(, 下载次数: 0)

作者: Orgyamapsn 时间: 2024-7-29 18:51
苹果是这样的，消费者只需要无脑买买买就好了，而苹果阉割内存要考虑的就多了

作者: Georgenal 时间: 2024-7-29 18:52
我感觉很长一段时间苹果的iOSAI模型就这样的水平了，因为在接下来的很长时间之内苹果的手机都是8G ，至于AI PC就不太好说了，现在的苹果用LPDDR5内存相比别家用显存的还是有很大优势的，m4max如果有个超强npU加上128g内存的话，AIPC方面可以说是很有搞头的

欢迎光临麦克雷 Mavom.cn (http://www.mavom.cn/)