找回密码
 立即注册
  • QQ空间
  • 回复
  • 收藏
返回列表 发新帖

看了一下Apple Intelligence

RichgovTauh 2024-7-27 15:23:04 显示全部楼层 阅读模式 打印 上一主题 下一主题
WWDC Day 1的Platforms State of the Union的Apple Intelligence部分，很有意思的一些东西，例如端测3B SLM，MoE（没听清是否有），4bit量化，再用ANE的FP16跑。估计得占个1.5-2GB，然后AI Cloud也用Apple Silicon（M2U）做推理。最主要的Mac用MLX做AI的训练，wow amazing。楼下附图吧。
回复

使用道具 举报

大神点评（14）

RichgovTauh 楼主 2024-7-27 15:24:01 显示全部楼层
首先就是关于4bit量化和云
看了一下Apple Intelligence-1.jpg
看了一下Apple Intelligence-2.jpg
看了一下Apple Intelligence-3.jpg
看了一下Apple Intelligence-4.jpg
回复 支持 反对

使用道具 举报

RichgovTauh 楼主 2024-7-27 15:24:17 显示全部楼层
关于Mac训练AI，看起来M2U训练也不是不行（ps：这印度人英语听的我头疼）
看了一下Apple Intelligence-1.jpg
看了一下Apple Intelligence-2.jpg
回复 支持 反对

使用道具 举报

RichgovTauh 楼主 2024-7-27 15:25:17 显示全部楼层
Github Copilot类似物
看了一下Apple Intelligence-1.jpg
回复 支持 反对

使用道具 举报

艾的民 2024-7-27 15:25:39 显示全部楼层
在哪看原视频啊
回复 支持 反对

使用道具 举报

tombeer 2024-7-27 15:26:14 显示全部楼层
这也就间接解释为啥m1和a14同样的npu但为啥iphone只有15pro支持，真这样内存直接废了，甚至我觉得8G都要杀不少后台
回复 支持 反对

使用道具 举报

a18508595 2024-7-27 15:27:06 显示全部楼层
浪费时间
回复 支持 反对

使用道具 举报

a18508595 2024-7-27 15:28:03 显示全部楼层
散热做好点比天天扯淡有用多了
回复 支持 反对

使用道具 举报

Robertw 2024-7-27 15:28:30 显示全部楼层
你说苹果幽默不，npu 低精度算力这么低
看了一下Apple Intelligence-1.png
回复 支持 反对

使用道具 举报

RichgovTauh 楼主 2024-7-27 15:29:02 显示全部楼层
还不错
看了一下Apple Intelligence-1.jpg
看了一下Apple Intelligence-2.jpg
看了一下Apple Intelligence-3.jpg
回复 支持 反对

使用道具 举报

KelvinPash 2024-7-27 15:29:10 显示全部楼层
用户数据做端侧AI
看了一下Apple Intelligence-1.png 有点期待
回复 支持 反对

使用道具 举报

RobertKl 2024-7-27 15:29:21 显示全部楼层
m2ultra终于有点吹点了，其实对于苹果来说m2ultra性价比还是很高的，毕竟5nm便宜货色，GPU算力还不错
回复 支持 反对

使用道具 举报

bunnyhocuh 2024-7-27 15:29:52 显示全部楼层
Gemini Nano
回复 支持 反对

使用道具 举报

艾的民 2024-7-27 15:30:13 显示全部楼层
Gemini Nano Mini
回复 支持 反对

使用道具 举报

sherwin_su 2024-7-27 15:30:51 显示全部楼层
国行iPhone15pro max会有这功能吗
回复 支持 反对

使用道具 举报

返回列表 发表新帖

说点什么

B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册
HOT • 推荐
RichgovTauh中级会员
广告招商 TEL : 13564712211
微信扫一扫