麦克雷 Mavom.cn

标题: 看了一下Apple Intelligence [打印本页]

作者: RichgovTauh 时间: 2024-7-27 15:23
标题: 看了一下Apple Intelligence
WWDC Day 1的Platforms State of the Union的Apple Intelligence部分，很有意思的一些东西，例如端测3B SLM，MoE（没听清是否有），4bit量化，再用ANE的FP16跑。估计得占个1.5-2GB，然后AI Cloud也用Apple Silicon（M2U）做推理。最主要的Mac用MLX做AI的训练，wow amazing。楼下附图吧。

作者: RichgovTauh 时间: 2024-7-27 15:24
首先就是关于4bit量化和云
(, 下载次数: 0)
(, 下载次数: 0)
(, 下载次数: 0)
(, 下载次数: 0)

作者: RichgovTauh 时间: 2024-7-27 15:24
关于Mac训练AI，看起来M2U训练也不是不行（ps：这印度人英语听的我头疼）
(, 下载次数: 0)
(, 下载次数: 0)

作者: RichgovTauh 时间: 2024-7-27 15:25
Github Copilot类似物
(, 下载次数: 0)

作者: 艾的民 时间: 2024-7-27 15:25
在哪看原视频啊

作者: tombeer 时间: 2024-7-27 15:26
这也就间接解释为啥m1和a14同样的npu但为啥iphone只有15pro支持，真这样内存直接废了，甚至我觉得8G都要杀不少后台

作者: a18508595 时间: 2024-7-27 15:27
浪费时间

作者: a18508595 时间: 2024-7-27 15:28
散热做好点比天天扯淡有用多了

作者: Robertw 时间: 2024-7-27 15:28
你说苹果幽默不，npu 低精度算力这么低
(, 下载次数: 0)

作者: RichgovTauh 时间: 2024-7-27 15:29
还不错
(, 下载次数: 0)
(, 下载次数: 0)
(, 下载次数: 0)

作者: KelvinPash 时间: 2024-7-27 15:29
用户数据做端侧AI
(, 下载次数: 0) 有点期待

作者: RobertKl 时间: 2024-7-27 15:29
m2ultra终于有点吹点了，其实对于苹果来说m2ultra性价比还是很高的，毕竟5nm便宜货色，GPU算力还不错

作者: bunnyhocuh 时间: 2024-7-27 15:29
Gemini Nano

作者: 艾的民 时间: 2024-7-27 15:30
Gemini Nano Mini

作者: sherwin_su 时间: 2024-7-27 15:30
国行iPhone15pro max会有这功能吗

欢迎光临麦克雷 Mavom.cn (http://www.mavom.cn/)