ChatGPT开源

MOSS开源库

复旦大学研发的一个支持中英双语和多种插件的开源对话语言模型

MOSS开源库

开源地址:GitHub - OpenLMLab/MOSS: An open-source tool-augmented conversational language model from Fudan University

MOSS是一个支持中英双语和多种插件的开源对话语言模型,moss-moon系列模型具有160亿参数,在FP16精度下可在单张A100/A800或两张3090显卡运行,在INT4/8精度下可在单张3090显卡运行。MOSS基座语言模型在约七千亿中英文以及代码单词上预训练得到,后续经过对话指令微调、插件增强学习和人类偏好训练具备多轮对话能力及使用多种插件的能力。

相关导航