然而,科技的发展并不仅仅是关于技术本身,更是关于如何将技术应用到实际生活中,让科技变得更好用、更易用。这也许是大模型应用在同质化竞争中脱颖而出的关键因素。
在过去的一年里,长文本处理已经成为了国产大模型竞争的新焦点。然而,长文本处理对于大模型来说,面临着两个重要的问题。首先,如何处理海量文本的高效。面对上百万甚至上千万的文字,模型后台消耗的运算资源也会成倍增加。目前业界的一些大模型只能智能处理前20%或前50%的内容,之后的处理效率就会大大减慢。其次,如何保证大模型在科研、医疗、法律等行业专业场景的准确率,解决大模型在刚需场景的应用问题。
为了解决这些问题,春季上新的讯飞星火V3.5提升了对长文本的理解、学习、回答能力,并进行了重要的模型剪枝和蒸馏,推出了业界最优的130亿参数的大模型。这个模型在效果损失仅3%以内的情况下,使得星火在文档上传解析处理、知识问答的首响时间以及文字生成效率方面都获得了极大的提升。在对比测试中,使用讯飞星火对比国内可测最好的大模型,无论在10K、64K、128K token,还是更长的文本上,星火大模型的性能都是业界最优。
此次讯飞星火APP以其卓越的性能和前沿的技术,成为了国内工具类通用大模型APP的领军者,说明讯飞星火已获得越来越多用户的认可。据刘庆峰透露,科大讯飞将在6月27日发布讯飞星火大模型V4.0,进一步解放生产力、释放想象力。