OpenBMB
让大模型飞入千家万户
GitHub
启智
最新
祝贺!OpenBMB 核心成员入选 CCF 优博激励计划
1 月 4 日,中国计算机学会(CCF)公布了2022年“CCF优秀博士学位论文激励计划”入选名单,OpenBMB 核心成员韩旭的博士论文《开放域文本的结构化知识获取》入选。 2022年“CCF优秀
2023-01-19
查看详情
登顶 ZeroCLUE!CPM-Bee 凭什么这样强?
2022年10月13日,我们开启了CPM-Live第二期模型CPM-Bee的训练。在CPM-Ant的基础上,CPM-Bee考虑了任务模式增强、多语言融合、复杂结构处理等新特性。CPM-Bee训练即将完
2023-01-17
查看详情
小工具撬动大模型,『模力表格』惊喜问世
" CPM-Live CPM-Live CPM-Live 模力表格惊喜问世 🔔铛铛铛! CPM-Bee 训练即将圆满收官! 「模力表格」问世啦! 模力表格 是一款 大模型驱动的表格效
2023-01-13
查看详情
BM 体系架构图
BM Data BM Data BM Train Open Prompt Delta Center Open Delta BM Train Open Prompt BM Inf BM Inf BM Inf BM Cook BM Cook
BMTrain
大模型训练“发动机”。BMTrain进行高效的大模型预训练与微调。与DeepSpeed等框架相比,BMTrain训练模型成本可节省90%
详情
对比流行框架,BMTrain表现惊人
BMCook
大模型“瘦身”工具库。BMCook进行大模型高效压缩,提高运行效率。通过量化、剪枝、蒸馏、专家化等算法组合,可保持原模型90%+效果,模型推理加速10倍
详情
任意组合压缩方法尽可能地加速模型
BMInf
千元级显卡玩转大模型推理。BMInf实现大模型低成本高效推理计算,使用单块千元级显卡(GTX 1060)即可进行百亿参数大模型推理。
详情
10B模型解码速度 (Tokens/s)
BMInf
PyTorch
OpenPrompt
大模型提示学习利器。OpenPrompt提供统一接口的提示学习模板语言, 它的组合性和模块化可以让你轻松部署提示学习方法以驱动大模型。
详情
工具结构
OpenDelta
“小”参数撬动“大”模型。OpenDelta进行参数高效的大模型微调,仅更新极少参数(小于5%)即可达到全参数微调的效果。
详情
OpenDelta可以和OpenPrompt协作运行
ModelCenter
大模型仓库。ModelCenter基于BMTrain工具实现了一系列预训练语言模型,支持高效、低成本、可扩展性强的模型微调及分布式训练
详情
支持模型
代表用户