找回密码
 立即注册
  • QQ空间
  • 回复
  • 收藏
返回列表 发新帖

最近各种开源llm项目出现了,如果支持apple Silicon

ssnhcom 2023-5-20 18:44:17 显示全部楼层 阅读模式 打印 上一主题 下一主题
最近各种开源llm项目出现了，如果支持apple Silicon，苹果岂不是起飞，目前有斯坦福大学开源的羊驼，清华的chatglm，还有最近一开源在github直接起飞的minigpt4，这些llm非常吃大显存，显存小的卡压根跑不起来，苹果的uma恰好是个大优势，m ultra系列64g，extreme可能是128g，用来跑llm也太香了

最近各种开源llm项目出现了,如果支持apple Silicon-1.jpg
回复

使用道具 举报

大神点评（7）

艾的民 2023-5-20 18:44:27 显示全部楼层
果子现在适配pytorch了吗？
回复 支持 反对

使用道具 举报

newdon 2023-5-20 18:45:08 显示全部楼层
主要是目前大部分ai模型都是以cuda为基础优化的，适配估计效率也是问题
回复 支持 反对

使用道具 举报

s00000000 2023-5-20 18:45:23 显示全部楼层
价格比老黄都夸张吧
回复 支持 反对

使用道具 举报

WYyjwYJlC 2023-5-20 18:45:36 显示全部楼层
最近各种开源llm项目出现了,如果支持apple Silicon-1.png
回复 支持 反对

使用道具 举报

Timeflyki 2023-5-20 18:45:44 显示全部楼层
ultra系列就有128GB…
回复 支持 反对

使用道具 举报

o92015089 2023-5-20 18:46:04 显示全部楼层
64g的ultra价格同样远超nv消费卡
回复 支持 反对

使用道具 举报

AllisonNon 2023-5-20 18:46:50 显示全部楼层
冷知识是2w块可以搞一个4090
回复 支持 反对

使用道具 举报

返回列表 发表新帖

说点什么

B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册
HOT • 推荐
ssnhcom中级会员
广告招商 TEL : 13564712211
微信扫一扫