OpenBMB
让大模型飞入千家万户
GitHub
启智 GitHub 启智
最新ChatDev：大模型AI Agent驱动的虚拟软件公司，荣登GitHub Trending榜首！
今年7月，清华大学 NLP 实验室联合面壁智能、北京邮电大学、布朗大学的研究人员共同发布了一个大模型驱动的全流程自动化软件开发框架 ChatDev (Chat-powered Software
2023-09-06
查看详情
GenAI黑客松·应用挑战赛火热来袭，构建有趣有料的AI应用！
生成式AI引发的科技浪潮，正在深刻影响着社会发展，也将引领全新的技术变革。AGI时代是人类历史进程的全新范式，将带来工业革命级的人类社会效率提高和底层逻辑重构。AGI革命将升级全场景生产效率，全新人工
2023-08-22
查看详情
面壁智能给大模型接入16000+真实API，效果直逼ChatGPT！
近些年，开源大语言模型（LLM）进步飞快，例如 LLaMA 和 Vicuna 等模型在各种语言理解、生成任务上展现了极佳的水平。但是，当它们面对更高级别的任务，例如根据用户指令使用外部工具（API）时
2023-08-08
查看详情
BM 体系架构图
BM Data BM Data BM Train Open Prompt Delta Center Open Delta BM Train Open Prompt BM Inf BM Inf BM Inf BM Cook BM Cook
BMTrain大模型训练“发动机”。BMTrain进行高效的大模型预训练与微调。与DeepSpeed等框架相比，BMTrain训练模型成本可节省90%。
详情
对比流行框架，BMTrain表现惊人
BMCook大模型“瘦身”工具库。BMCook进行大模型高效压缩，提高运行效率。通过量化、剪枝、蒸馏、专家化等算法组合，可保持原模型90%+效果，模型推理加速10倍。
详情
任意组合压缩方法尽可能地加速模型
BMInf千元级显卡玩转大模型推理。BMInf实现大模型低成本高效推理计算，使用单块千元级显卡（GTX 1060）即可进行百亿参数大模型推理。
详情
10B模型解码速度 (Tokens/s)
BMInf PyTorch
OpenPrompt大模型提示学习利器。OpenPrompt提供统一接口的提示学习模板语言， 它的组合性和模块化可以让你轻松部署提示学习方法以驱动大模型。
详情
工具结构
OpenDelta“小”参数撬动“大”模型。OpenDelta进行参数高效的大模型微调，仅更新极少参数（小于5%）即可达到全参数微调的效果。
详情
OpenDelta可以和OpenPrompt协作运行
ModelCenter大模型仓库。ModelCenter基于BMTrain工具实现了一系列预训练语言模型，支持高效、低成本、可扩展性强的模型微调及分布式训练。
详情
支持模型
代表用户
京公网安备 11010802039419号