Microsoft推出了小语言侧模型Win11 MU，以帮助系统配

微软今天宣布了MU的推出，MU是Windows 11中集成的设备侧面的新型小语言模型。该模型旨在为用户提供智能的自然语言互动体验，并进一步优化系统配置的搜索能力。去年，Microsoft推出了个人Copilot+计算机，该计算机配备了一个专用的神经处理单元（NPU），具有40多个主计算机功能。这些计算机配备了Phi-Silica，Phi-Silica是本地SLM（小语言模型），可为Microsoft第一方应用程序和设备上的第三方开发人员应用提供语言智能功能。如今，微软提出了Windows 11的新本地语言模型MU。微软的目标是创建一个智能的AT AT基础代理，该代理可以理解NAT语言咨询用户，并在系统配置应用程序中的现有搜索表中集成而没有问题。为此，Microsoft USES MU模型在配置应用程序中允许新的代理功能。最近，它向Windows Insider开放了开发渠道的成员，仅限于使用Copilot + PC的用户。根据他们的家，MUS像Phi-Silica一样，旨在在NPU中有效发挥功能，这使它们可以以每秒100多个令牌的速度在本地运行。在官方博客出版物中，微软对MU语言模型的设计和培训过程进行了详细的介绍。这是MU语言模型的一般描述：MU是具有3.3亿参数的编码器的模型。与具有相同大小的解码器模型相比，编码器的架构体系结构将初始延迟降低了约47％，并且可以提高解码速度4.7倍。 MU在某些组件中使用重量交换技术来减少参数总数。 Microsoft使用A100 NVIDIA GPU用于Azure Machine in in the inG平台。 MU是PHI-3.5米尼大小的十分之一，但其性能几乎与PHI-3.5-MINI相似的调谐相当。此外，此模型适用于处理多个单词。对于简短或部分单词输入，系统配置应用程序将继续在搜索框中显示词汇和语义的搜索结果。对于有兴趣体验此新代理AI功能的人，您可以下载Windows 11 Build 26120.3964（KB5058496）或更高版本，以在Windows配置应用程序中体验此新功能。