涌现能力
计算机 · 规模大到突然会了
术语解释
英文Emergence,模型参数量或训练数据超过某个阈值后,突然表现出小模型没有的能力。就像水到100度突然沸腾,量变引起质变。比如小模型不会做算术,大到一定规模突然就会了,这是大模型最让人兴奋的特性。
怎么理解
量变引起质变,规模到阈值突然出现新能力
计算机 · 规模大到突然会了
英文Emergence,模型参数量或训练数据超过某个阈值后,突然表现出小模型没有的能力。就像水到100度突然沸腾,量变引起质变。比如小模型不会做算术,大到一定规模突然就会了,这是大模型最让人兴奋的特性。
量变引起质变,规模到阈值突然出现新能力