请检查您的电子邮件地址以获取确认链接
发送确认邮件
Open
BMB
让大模型飞入千家万户
GitHub
启智
最新
祝贺!OpenBMB 核心成员入选 CCF 优博激励计划
1 月 4 日,中国计算机学会(CCF)公布了2022年“CCF优秀博士学位论文激励计划”入选名单,OpenBMB 核心成员韩旭的博士论文《开放域文本的结构化知识获取》入选。 2022年“CCF优秀
2023-01-19
查看详情
登顶 ZeroCLUE!CPM-Bee 凭什么这样强?
2022年10月13日,我们开启了CPM-Live第二期模型CPM-Bee的训练。在CPM-Ant的基础上,CPM-Bee考虑了任务模式增强、多语言融合、复杂结构处理等新特性。CPM-Bee训练即将完
2023-01-17
查看详情
小工具撬动大模型,『模力表格』惊喜问世
" CPM-Live CPM-Live CPM-Live 模力表格惊喜问世 🔔铛铛铛! CPM-Bee 训练即将圆满收官! 「模力表格」问世啦! 模力表格 是一款 大模型驱动的表格效
2023-01-13
查看详情
BM
体系架构图
BM
Data
BM
Data
BM
Train
Open
Prompt
Delta
Center
Open
Delta
BM
Train
Open
Prompt
BM
Inf
BM
Inf
BM
Inf
BM
Cook
BM
Cook
BM
Train
大模型训练“发动机”。
BMTrain进行
高效的大模型预训练与微调。
与DeepSpeed等框架相比,BMTrain训练模型成本可节省
90%
。
详情
对比流行框架,BMTrain表现惊人
BM
Cook
大模型“瘦身”工具库
。BMCook进行
大模型高效压缩
,提高运行效率。通过量化、剪枝、蒸馏、专家化等算法组合,可保持原模型90%+效果,
模型推理加速10倍
。
详情
任意组合压缩方法尽可能地加速模型
BM
Inf
千元级显卡玩转大模型推理
。BMInf实现
大模型低成本高效推理计算
,使用单块千元级显卡(GTX 1060)即可进行百亿参数大模型推理。
详情
10B模型解码速度 (Tokens/s)
BMInf
PyTorch
Open
Prompt
大模型提示学习利器
。OpenPrompt提供
统一接口的提示学习模板语言
, 它的组合性和模块化可以让你轻松部署提示学习方法以驱动大模型。
详情
工具结构
Open
Delta
“小”参数撬动“大”模型
。OpenDelta进行
参数高效的大模型微调
,仅更新极少参数(小于5%)即可达到全参数微调的效果。
详情
OpenDelta可以和OpenPrompt协作运行
ModelCenter
大模型仓库。
ModelCenter基于BMTrain工具实现了一系列预训练语言模型,支持
高效、低成本、可扩展性强的模型微调及分布式训练
。
详情
支持模型
代表用户