麦克雷 Mavom.cn

标题: 最近各种开源llm项目出现了,如果支持apple Silicon [打印本页]

作者: ssnhcom 时间: 2023-5-20 18:44
标题: 最近各种开源llm项目出现了,如果支持apple Silicon
最近各种开源llm项目出现了，如果支持apple Silicon，苹果岂不是起飞，目前有斯坦福大学开源的羊驼，清华的chatglm，还有最近一开源在github直接起飞的minigpt4，这些llm非常吃大显存，显存小的卡压根跑不起来，苹果的uma恰好是个大优势，m ultra系列64g，extreme可能是128g，用来跑llm也太香了

(, 下载次数: 8)

作者: 艾的民 时间: 2023-5-20 18:44
果子现在适配pytorch了吗？

作者: newdon 时间: 2023-5-20 18:45
主要是目前大部分ai模型都是以cuda为基础优化的，适配估计效率也是问题

作者: s00000000 时间: 2023-5-20 18:45
价格比老黄都夸张吧

作者: WYyjwYJlC 时间: 2023-5-20 18:45
(, 下载次数: 4)

作者: Timeflyki 时间: 2023-5-20 18:45
ultra系列就有128GB…

作者: o92015089 时间: 2023-5-20 18:46
64g的ultra价格同样远超nv消费卡

作者: AllisonNon 时间: 2023-5-20 18:46
冷知识是2w块可以搞一个4090

欢迎光临麦克雷 Mavom.cn (http://www.mavom.cn/)