$昆仑万维(SZ300418)$ 【无问芯穹联合创始人&首席科学家戴国浩认为，虽然大模型需要持续增长的算力，但同时也需探索在特定领域应用落地和商业闭环，以降低算力成本。他强调了软硬件协同优化和生态建设的重要性，提出通过优化模型效率、专用芯片设计和生态打通来突破瓶颈，指出2024年可能是推理应用的元年。】
这段话指出，有三个途径来突破算力瓶颈，现在看昆仑万维都用到了：
1、优化模型效率——努力第一时间攻克了MoE架构；
2、专用芯片设计——控股艾捷科芯，并与中科院微电子研究所共建的实验室主要从事高性能计算领域的先进存储、封装技术的研发。此外，与高性能算力系统集成的系统技术研发和产业化工作也是合作的重点，艾捷科芯将在AI硬件平台上实现其技术和产品的应用；
3、闭环生态——产品矩阵不断充实，围绕基座大模型层层递进，彼此协同。应用场景落地日渐清晰。全力搭建Ai UGC平台。
最后戴认为2024年可能是推理应用元年。
原文网页链接