$寒武纪-U(SH688256)$ $谷歌C(GOOG)$ $英伟达(NVDA)$ 现在各种韭菜还说英伟达的护城河cuda吗？， Google 自研 TPU v4 和 TPU v5e 训练出来的大模型，也不需要cuda啊！谁最需要cuda,就是靠抄袭开源代码的这波人，他们嫌适配下都麻烦估计代码都看不懂，代码用开源的，训练工具如deepspeed用开源的，他们自己做啥？就是到处割韭菜，吹牛逼。英伟达的cuda从来都不是护城河，它的护城河主要是它的硬件架构，可能颠覆intel.有一天英伟达收购英特尔大家不要吃惊。
大模型核心训练三要素，算力，就是多少p,主要是f16-32-64的能力，这部分现在不是瓶颈，关键是hbm和内存架构，不仅仅靠hbm。再就是网络通信的nvlink.大模型训练说白了最核心就是allreduce这些卡或者设备之间的并行计算，主要是就是靠内存够不够大或者网络通信效率如何，单纯的矩阵计算不是瓶颈。
说白了cuda就是个鸡毛，还说cuda护城河的基本都是弱鸡。
英伟达的未来核心就是其硬件架构带来的生态护城河，可能颠覆了intel的cpu 为核心的pci生态，当然没几个人能听懂。