李彦宏:闭源模型在能力上会持续领先,大模型创业公司应专注

发布于: 雪球转发:0回复:0喜欢:0

李彦宏再谈大模型。

本文为IPO早知道原创

作者|Stone Jin

据IPO早知道消息,一则李彦宏内部讲话日前流出。在内部讲话中,李彦宏对大模型开源与闭源的路线选择以及AI创业者应该专注模型还是应用等业界焦点话题,发表了自己的看法。

已有足够多的开源大模型闭源才有真正的商业模式

李彦宏坦言,在一年前文心刚刚发布的时候,百度内部对于“是否开源”有过非常激烈的讨论。而百度之所以决定不开源,当时的判断是,市场上一定会有开源的模型,而且是不止一家会开源。在这种情况下,多百度一家开源不多,少百度一家开源也不少。

“我们今天看主流的开源模型:像Llama,Mistral其实都是有相当影响力的,国内的智源、百川、阿里的通义也都是开源的,这个市场上不缺我们这一家开源的模型。我们要开源还得自己去维护一套开源的版本,这是不划算的。”李彦宏如是表示。

李彦宏进一步指出,闭源模型在能力上会持续地领先,而不是一时地领先。“为什么会有这个判断?因为我们觉得模型开源的意义其实不是很大,这些开源模型都是在外头零零散散小规模地去做各种各样的验证应用,它没有经过大算力的验证。而且模型开源也不是一个‘众人拾柴火焰高’的情况。这跟传统的软件开源一比如Linux、安卓等等很不一样,由于是模型带来的开源,我们也不知道参数为什么变成了那个样子,这种情况下很难实现‘众人拾柴火焰高’。虽然Llama也鼓励大家去贡献各种各样的数据、代码,但是实际上大家明白最主要的开发者就是Meta这些人,它并不是一个真正由大家一起来协同开发的产品。”

李彦宏认为,闭源是有真正的商业模式的,是能够赚到钱的,能够赚到钱才能聚集算力、聚集人才。同时,闭源在成本上反而是有优势的

“只要是同等能力,闭源模型的推理成本一定是更低的,响应速度一定是更快的。反过来,同等参数的情况下,闭源模型的能力也是更强的。今天不管是在中国也好、在美国也好,最强的基础模型都是闭源的,而各种各样的小模型、最好的小模型,都是通过大模型蒸馏来的。通过大模型降维做出来的模型就是更好的,这样也会导致闭源在成本上、在效率上也会有优势。”李彦宏补充道。

“双轮驱动”不是好模式基础模型不会通吃AI应用

此外,李彦宏在本次内部讲话中亦谈及,外界一些做模型的创业公司讲的所谓的“双轮驱动”不是一个好的模式。

既做模型又做应用,势必会分散精力。创业公司的精力和资源都是有限的,同时做两件事情和只做一件事情哪个成功率更高是不言自明的。在任何情况下我们都非常讲专注力,‘力出一孔’,当资源有限的时候更应该专注,而不是去搞所谓的‘双轮驱动’。”

李彦宏强调,对于AI创业者来说,核心竞争力本就不应该是模型本身,这太耗资源了,而且需要非常长时间的坚持才能跑出来。创业者真正的优势应该是在某一个领域的知识、数据。“假如说你今天想找一个“黄色的无兜的男士泳裤”,你在任何一个今天的电商平台上都找不到,这种需求目前的技术是解决不了的,大模型如果有领域知识就可以解决,这就是靠领域知识能够提供独特价值的例子。

市面上有这么多模型,大的、小的、开源的、闭源的,在特定应用当中怎么样使用这些模型的组合,是有技巧的,这是创业者可以干的事儿,是可以提供价值增益的。”

至于外界担心如果用了文心或者闭源模型,做得好了它就抄你,就把你的饭吃掉了,李彦宏觉得实际上这种担心也是没有任何道理的。“大家去看一看,在移动时代,微信没有去吃掉拼多多,滴滴也没有变成腾讯的一部分,它们都各自提供了自己独特的价值,有自己非常不一样的竞争力,它们的兴起都是依赖移动生态里的一个封闭平台——微信,但是它们并不怕微信去抢它的饭碗,所以没有必要担心基础模型通吃AI的应用。

“当然更根本的就是文心的功能是最强的,性价比是最好的,我们会持续不断地投入,有了这一点,所有其他的东西才能够成立。”