发布于: 修改于:iPhone转发:0回复:0喜欢:0
回复@沈正2024: 如果苹果这种人才储备, 世界上唯一具有先进硬件+操作系统+生态的公司都无法搞定端侧AI和云端AI如何优秀混合使用这个问题,那么它也不用all in AI的口号喊了… 这个问题搞定只是需要持续进化优化的问题,不是技术可行性的问题…//@沈正2024:回复@Young_zi:技术问题攻克起来可能比你想象中困难,当然我非常赞同苹果在“移动端本地推理”上占据的优势。简单加内存是不足以解决数据吞吐问题的,x86平台已经有纯cpu+内存运行大模型本地推理把内存干废的案例了,通常意义上的内存就不是为大模型推理这种量级的数据吞吐设计的;不过目前还没有听说过在M系列芯片上跑本地大模型把统一内存干废这种事,这也是为什么说我赞同苹果在该方向上占据又是,但这改变不了短期内移动AI终端还是相当依赖云这一点,当然这反而更加强了苹果的优势。
引用:
2024-06-12 22:50
$苹果(AAPL)$ 是的,他又领先了。
苹果的上涨本质上还是手机芯片的算力优势。
原先的话,手机性能已经过剩了,所以大家体验都差不多。
但是他接入了大模型变成ai手机,对算力又有了很强的需求,他手机的3纳米的优势,又体现出来了。
而竞争对手还卡在7纳米,其实好几年前就设计出5...