麦克雷 Mavom.cn

标题: 对苹果M4的期望 [打印本页]

作者: DiscountbabyLap    时间: 2024-10-26 09:33
标题: 对苹果M4的期望
如果苹果真要进入AI时代以下是必须做到的:
第一是内存!内存!内存!重要的事情说三遍,容量带宽缺一不可,8G 128bit lpddr5完全是垃圾,至少应该用lpddr5X 12G(最好16G),LLM完全是带宽瓶颈100G/s不够,8G更不够。甚至128bit lpddr5都无法发挥A16同款NPU的实力,m3 npu跑分8000,m3 pro跑分 10000,这就是差距。
第二就是提升GPU算力,应该每核翻倍,AI相当多应用其实跑的是GPU,M3算力太低完全不够至少提升到半精度6T以上
第三 npu要提升int8甚至int4的能力并赶紧开放文档方便开发者优化,最好直接集成到gpu或者支持Metal
剩下的cpu平常迭代就行
作者: DiscountbabyLap    时间: 2024-10-26 09:33
当然苹果能做到吗?至少我对库克有点怀疑
作者: VictorLony    时间: 2024-10-26 09:34
这次先发硬件,WWDC应该会着重介绍针对新硬件的讲解了
作者: n26504306    时间: 2024-10-26 09:35
cook:把我 s 了吧
(, 下载次数: 1)
作者: Ronaldprip    时间: 2024-10-26 09:35
真老设备不如狗了,要想发挥ios18能力看来得m4起步,也难怪苹果那么急着发m4
作者: DiscountbabyLap    时间: 2024-10-26 09:36
另外最近看到好几个rtx ai的软文,英伟达也开始吹aipc了,相比intel的搞笑,rtx可是要算力有算力要生态有生态
作者: xiayibox    时间: 2024-10-26 09:36
8g是卡价位的,不可能短时间内取消
作者: q53897902    时间: 2024-10-26 09:37
你们好像都很热衷于在低功耗设备上跑llm,功耗越低你们越喜欢
作者: DiscountbabyLap    时间: 2024-10-26 09:37
苹果风格类似黄晓明,“不要你觉得,我要我觉得。”苹果在他看重的地方堆料很暴力,所以到底苹果是不是真押注AI看内存就行
作者: yussuzkw49    时间: 2024-10-26 09:38
🍎的新专利就是在硬盘里跑模型
作者: avlnotgd13    时间: 2024-10-26 09:38
指望苹果升级硬件,怕是以为厨子是来做慈善的
(, 下载次数: 1)
作者: 艾的民    时间: 2024-10-26 09:38
主要是不知道苹果对本地 ai 的要求高不高,到时候本地只有极小一部分应用,那库克肯定不会堆硬件了




欢迎光临 麦克雷 Mavom.cn (http://www.mavom.cn/) Powered by Discuz! X3.5