Moe plate
专家混合模型
MoE (mixture of experts)
MoE (Mixture of Experts)(专家混合模型)
含义:一种 AI 体系结构,其中多个专家子模型(experts)协同工作,由一个门控网络选择最佳专家来完成特定任务。
例子:Google 的 Switch Transformer 使用 MoE 来提高效率。
MoE (mixture of experts)
MoE (Mixture of Experts)(专家混合模型)
含义:一种 AI 体系结构,其中多个专家子模型(experts)协同工作,由一个门控网络选择最佳专家来完成特定任务。
例子:Google 的 Switch Transformer 使用 MoE 来提高效率。
Moe plate