找回密码
 立即注册
  • QQ空间
  • 回复
  • 收藏
返回列表 发新帖

精神分裂的苹果

StephenCok 2024-7-29 18:48:47 显示全部楼层 阅读模式 打印 上一主题 下一主题
看了一下WWDC的AI视频,由于苹果内存限制大量精力在如何压缩模型到4bit或更低, 但问题是苹果的NPU限制,跑fp16和低精度算力一样能效也没太大区别.
所以最后苹果用16bit的npu顶着超低能效跑低准确度小模型,缺点全占了,优点一个都没有, 足以成为本年度最大笑话,我要是微软的市场部买一堆通告说Apple intelligence 4bit模型精度被CopilotPC吊打,能效被CopilotPC倍杀, 性能被CopilotPC秒杀, 就是骑脸库克
回复

使用道具 举报

大神点评（7）

e10698000 2024-7-29 18:49:23 显示全部楼层
你确定苹果跑fp16和低精度算力能效一样？
回复 支持 反对

使用道具 举报

StephenCok 楼主 2024-7-29 18:50:16 显示全部楼层
另外果然是Axlearn

精神分裂的苹果-1.jpg
等等苹果这个slm速度还可以,3B左右 30T/s这不是比xe跑phi silica 27T/s还快? 库克又逃过一劫
精神分裂的苹果-2.jpg
精神分裂的苹果-3.jpg
回复 支持 反对

使用道具 举报

jet 2024-7-29 18:50:40 显示全部楼层
有什么关系？买苹果的看这个？
回复 支持 反对

使用道具 举报

StephenCok 楼主 2024-7-29 18:50:59 显示全部楼层
果然是庞若鸣带头搞的,没说线上版多少参数,赶紧砸钱吧

精神分裂的苹果-1.jpg
回复 支持 反对

使用道具 举报

jaynetw3 2024-7-29 18:51:29 显示全部楼层
库克为了利润率的操作都很多
精神分裂的苹果-1.png
回复 支持 反对

使用道具 举报

Orgyamapsn 2024-7-29 18:51:36 显示全部楼层
苹果是这样的，消费者只需要无脑买买买就好了，而苹果阉割内存要考虑的就多了
回复 支持 反对

使用道具 举报

Georgenal 2024-7-29 18:52:02 显示全部楼层
我感觉很长一段时间苹果的iOSAI模型就这样的水平了，因为在接下来的很长时间之内苹果的手机都是8G ，至于AI PC就不太好说了，现在的苹果用LPDDR5内存相比别家用显存的还是有很大优势的，m4max如果有个超强npU加上128g内存的话，AIPC方面可以说是很有搞头的
回复 支持 反对

使用道具 举报

返回列表 发表新帖

说点什么

B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册
HOT • 推荐
StephenCok中级会员
广告招商 TEL : 13564712211
微信扫一扫