Mu - 微软推出的小参数语言模型,支持Windows智能体

Mu是微软推出的小参数语言模型,参数量仅3.3亿,专为在NPU和边缘设备上高效运行设计。模型基于编码器解码器架构,通过硬件感知优化、模型量化及特定任务微调,实现每秒超100 tokens的响应速度。Mu集成于Windows设置,支持将自然语言指令转化为系统操作,如调整屏幕亮度、鼠标指针大小等。与Phi3.5-mini相比,参数量小10倍但性能相当。Mu创新技术包括双重层归一化、旋转位置嵌入和分组查询注意力等,提升训练稳定性和推理效率。Mu支持多种自然语言,能为视力不佳或操作不便的用户提供语音指令辅助功能,未来有望扩展为更通用的智能助手。Mu - 微软推出的小参数语言模型,支持Windows智能体

>>展开阅读