发布于: Android转发:0回复:16喜欢:2
回复@用户4568048618: 规模效应还是有吧,训练好了后,训练成本是固定的,使用量越多,单位使用分摊的训练成本越低。而推理成本相比训练成本低得多,可以算可变成本。//@用户4568048618:回复@forcode:互联网企业后来的爆发得益于带宽网速支付环境等基础设施的大幅提升,有规模效应,但AI大模型缺乏规模效应,成本并不能随着使用的增加而大幅下降,当然最重要的原因AI大模型缺乏像互联网一样成为每个人的刚需
引用:
2024-05-23 09:54
80%利润率,卖一个最后不太产生收入的东西,很多时候还有安慰剂效果(没错我说的是sovereignty AI),一般咱们把这个叫保健品吧?不懂半导体

全部讨论

期望大神科普:为何大模型通过训练,获得参数后;每次问不同的问题,都可以通过相同的模型参数来进行相应的推理?
例如问“画一幅小猫开车”的图片,与讲一个“关羽上太空”的故事,如果用“函数”去理解,按道理两者的参数不一样,为什么大模型可以用统一的训练好的参数去推理这两个问题?

05-23 17:32

用户每交互一次,比如和ChatGPT对话或生成图片,都会在云端运算一次,继而产生对应的成本,只能通过软件优化单次交互消耗的算力,但“用一次算一次”的拿货成本无法改变。

05-23 21:59

推理算力也是要的,访问越多,推理算力也同比上涨。

05-23 17:38

推理成本算边际成本。
软件的边际成本都是非常非常低的,近乎零了。扩大规模再生产,对软件来说,太容易实现了。