/arXiv:2406.11794
第二款DCLM-1B模型参数量为14亿。苹果宣称,在Alpaca bench测试中,性能优于Hugging Face上周公布的小模型SmolLM。
苹果最后将DCLM模型框架、高品质训练数据集DCLM-BASELINE以及预训练方法,都开源公布在https://datacomp.ai/dclm项目网站。
苹果再公布二款小模型DCLM
分享

2024-07-22
苹果发表规模分别为14亿及70亿参数的DCLM模型家族,号称性能与Llama 3、Gemma或Mistral不相上下,同时更节省训练运算资源
/arXiv:2406.11794
第二款DCLM-1B模型参数量为14亿。苹果宣称,在Alpaca bench测试中,性能优于Hugging Face上周公布的小模型SmolLM。
苹果最后将DCLM模型框架、高品质训练数据集DCLM-BASELINE以及预训练方法,都开源公布在https://datacomp.ai/dclm项目网站。

热门精选