回复@LSM-Tree: 需要quantization，或者用Mac Pro等上大内存。我认为目前除了CUDA之外，苹果的架构是第二受欢迎的，而且远远领先于第三名。//@LSM-Tree:回复@迷人的存钱黑鹰:llama3 13b，qwen 32b这些模型能在MacBook上跑吗？我这边4090都有些吃力，想知道MacBook上的推理生态真的有这么好吗？需要多大内存才能流畅推理呢？功耗30w的Apple silicon能打600w的gpu吗？