Boda2333

讨论

回复@冷雨夜h58: 谢谢提醒，确实是疏忽了。以前没有发过帖不了解这个机制。//@冷雨夜h58:回复@迷人的存钱黑鹰:大道的每一条言论你都看了？大道在前几天就说过不喜欢别人随便@他以前也说过不喜欢和不认识的人讨论问题，在雪球他只是分享他的一些观点

讨论

回复@LSM-Tree: 需要quantization，或者用Mac Pro等上大内存。我认为目前除了CUDA之外，苹果的架构是第二受欢迎的，而且远远领先于第三名。//@LSM-Tree:回复@迷人的存钱黑鹰:llama3 13b，qwen 32b这些模型能在MacBook上跑吗？我这边4090都有些吃力，想知道MacBook上的推理生态真的有这么好吗？需要...

讨论

回复@PaulWu: 目前模型的基础还是Transformer和Diffusion两种模型架构的天下。但是在此基础以上，不同的公司发布的模型差异也不小，但一般都支持CUDA / 英伟达GPU。如果模型开源，基本上很快就可以在Apple Metal / MPS上面跑，AI社区里面经常会出现魔改的模型，比如本来是FP16的模型，很快就有8-bi...

讨论

@大道无形我有型 非常感谢大道的回复。想再向您请教一下为什么不操心呢？是否是因为这并不改变苹果的主要业务，或者是就算要实现这样的业务，市场的长期需求/竞争不确定因素也很大？

讨论

@大道无形我有型 大道您好！我居住在SF湾区，目前在这里做软件工程师。之前也看了《聪明的投资者》《滚雪球》，您的发言我每条都看（专门做了一个您专属的分组，但是原有的账号没办法绑定手机，这次注册了新的绑定账号来发言）。受益匪浅，非常感谢！我想请问一个关于苹果的问题：请问您怎么看目前...