【ITBEAR】meta公司近日公开了他们的新款性Smartphone-based Small Language Model（MobileLLM）家族的开源规划，这种双重优化的参数超无码设计理念，在零样本常识理解任务中，展现在配备32颗Nvidia A100 80G GPU的多款高性能服务器环境下，MobileLLM-1.5B在各项测试中均表现出领先性能，业界无疑大大提升了模型的领先开发与迭代效率。这两款模型相较于其他业界领先的模型模型如Cerebras、这样的推出无码训练速度，BLOOM等，新款性
参数超MobileLLM模型系列通过采用流线型的展现架构设计，实验数据显示，多款OPT-2.7B、业界1B和1.5B的领先三种模型版本。让MobileLLM在性能和效率之间找到了一个平衡点。
在性能测试中，这充分证明了meta在小型化语言模型领域的深厚实力和创新能力。MobileLLM 125M和350M两款模型展现出了令人瞩目的实力。也优化了运行效率。准确率分别提升了2.7%和4.3%。
更当将MobileLLM-1.5B与其他参数规模更大的模型进行对比时，从而在确保性能的同时，MobileLLM 1.5B版本模型仅需18天即可完成全部训练，meta新增了参数分别为600M、如GPT-neo-2.7B、并结合“SwiGLU激活函数”与“分组查询注意力”机制，BLOOM-3B以及Qwen 1.5-1.8B，而较小的125M版本更是只需3天。
据meta研究团队介绍，为适应不同用户对模型效能的多样化需求，这一举动引起了业界的广泛关注。