MoE

计算机 · 混合专家模型 / 按需调用专家

术语解释

Mixture of Experts。把大模型拆成多个专家子网络，输入决定激活哪些专家。提高容量而不增加推理成本。

怎么理解

MoE=按需调用专家，不是每次都用全部参数。

在交互版里浏览「计算机」的全部词条 →