发布于: 雪球转发:0回复:0喜欢:0

关于人工智能,标志性事件是2023 年 1 月,美国OpenAI公司的ChatGPT 月活跃用户数仅一个多月已高达 1 亿,成为历史上用户增长最快的消费应用。相比之下,达到 1 亿月活跃用户数,TikTok 花了约 9 个月的时间,Instagram 则花了两年半。ChatGPT突破进展是人工智能生产高质量的内容。它是基于 Google 最早的 Transformer 架构的预训练语言模型。当模型规模较小时,模型的性能和参数大致符合比例定律。当 GPT-3/ChatGPT 这种千亿级别的大规模模型被提出后,人们发现其可以打破比例定律,实现模型能力质的飞跃。这些能力也被称为大模型的“智慧涌现能力”(如理解人类指令等)。另外,它创造性用了人工反馈的强化学习:一开始时让人写答案,但是成本太高,改成让人来选答案,这样对标注员的能力要求稍微低一点,可以迅速提升迭代和规模。基于打分再训练一个打分器,通过打分器自动评价模型的好坏,然后用强化学习开始迭代,这种方法可以大规模地把数据模型迭代给转起来,这是 OpenAI 做的 Instruct GPT 逻辑。