知识蒸馏

计算机 · 大模型教小模型 / 传功

术语解释

用大模型的输出训练小模型。老师（大模型）教学生（小模型），把软知识传给小模型。

怎么理解

蒸馏=老师（大模型）教学生（小模型）。

在交互版里浏览「计算机」的全部词条 →