OpenBMB
让大模型飞入千家万户
GitHub
启智
最新
CPM-Bee启程!第二封大模型直播训练邀请函,请查收~
CPM-Live CPM-Live CPM-Live 第二期训练启动 上次还是初夏,我们发送第一封直播邀请函,埋下希望的种子,而今转眼就到了深秋—— 收获的季节 。 在这短短数月,Open
2022-10-14
查看详情
CPM-Ant模型介绍
CPM-Ant是一个开源的中文预训练语言模型,拥有10B参数。它是CPM-Live直播训练过程中的第一个里程碑。训练过程是低成本和环境友好的。基于增量微调(delta tuning)方法,CPM-An
2022-09-16
查看详情
突破显存墙,BMInf现已支持GLM-130B
8 月 4 日,清华大学联合智谱 AI 发布了千亿双语大模型 GLM-130B,其在 LAMBADA 数据集上性能超越了 GPT3、OP
2022-09-08
查看详情
BM 体系架构图
BM Data BM Data BM Train Open Prompt Delta Center Open Delta BM Train Open Prompt BM Inf BM Inf BM Inf BM Cook BM Cook
BMTrain
大模型训练“发动机”。BMTrain进行高效的大模型预训练与微调。与DeepSpeed等框架相比,BMTrain训练模型成本可节省90%
详情
对比流行框架,BMTrain表现惊人
BMCook
大模型“瘦身”工具库。BMCook进行大模型高效压缩,提高运行效率。通过量化、剪枝、蒸馏、专家化等算法组合,可保持原模型90%+效果,模型推理加速10倍
详情
任意组合压缩方法尽可能地加速模型
BMInf
千元级显卡玩转大模型推理。BMInf实现大模型低成本高效推理计算,使用单块千元级显卡(GTX 1060)即可进行百亿参数大模型推理。
详情
10B模型解码速度 (Tokens/s)
BMInf
PyTorch
OpenPrompt
大模型提示学习利器。OpenPrompt提供统一接口的提示学习模板语言, 它的组合性和模块化可以让你轻松部署提示学习方法以驱动大模型。
详情
工具结构
OpenDelta
“小”参数撬动“大”模型。OpenDelta进行参数高效的大模型微调,仅更新极少参数(小于5%)即可达到全参数微调的效果。
详情
OpenDelta可以和OpenPrompt协作运行
ModelCenter
大模型仓库。ModelCenter基于BMTrain工具实现了一系列预训练语言模型,支持高效、低成本、可扩展性强的模型微调及分布式训练
详情
支持模型
代表用户