
_arXiv:2402.14905
MobileLLM 125M/350M在聊天和API调用任务中,性能大幅超越参数量相当的小型LLM。其中,在API调用任务中,这个新模型得分还比Meta的LLaMA-v2 7B模型大幅领先。
研究人员另外也训练了其他参数规模的模型,包括MobileLLM-600M/1B/1.5B。
Meta研究小组将MobileLLM的相关资源公开于GitH
最新研究使Meta也跻身设备端(on-device)AI模型的供应商之林。今年稍早苹果公布了OpenELM 270M/450M/1.1B/3B、Google则先后开源了Gemma 2B/7B、Gemm2-9B/27B。



2024-07-10
