请检查您的电子邮件地址以获取确认链接
发送确认邮件
Open
BMB
让大模型飞入千家万户
GitHub
启智
最新
ChatDev:大模型AI Agent驱动的虚拟软件公司,荣登GitHub Trending榜首!
今年7月,清华大学 NLP 实验室联合面壁智能、北京邮电大学、布朗大学的研究人员共同发布了一个大模型驱动的全流程自动化软件开发框架 ChatDev (Chat-powered Software
2023-09-06
查看详情
GenAI黑客松·应用挑战赛火热来袭,构建有趣有料的AI应用!
生成式AI引发的科技浪潮,正在深刻影响着社会发展,也将引领全新的技术变革。AGI时代是人类历史进程的全新范式,将带来工业革命级的人类社会效率提高和底层逻辑重构。AGI革命将升级全场景生产效率,全新人工
2023-08-22
查看详情
面壁智能给大模型接入16000+真实API,效果直逼ChatGPT!
近些年,开源大语言模型(LLM)进步飞快,例如 LLaMA 和 Vicuna 等模型在各种语言理解、生成任务上展现了极佳的水平。但是,当它们面对更高级别的任务,例如根据用户指令使用外部工具(API)时
2023-08-08
查看详情
BM
体系架构图
BM
Data
BM
Data
BM
Train
Open
Prompt
Delta
Center
Open
Delta
BM
Train
Open
Prompt
BM
Inf
BM
Inf
BM
Inf
BM
Cook
BM
Cook
BM
Train
大模型训练“发动机”。
BMTrain进行
高效的大模型预训练与微调。
与DeepSpeed等框架相比,BMTrain训练模型成本可节省
90%
。
详情
对比流行框架,BMTrain表现惊人
BM
Cook
大模型“瘦身”工具库
。BMCook进行
大模型高效压缩
,提高运行效率。通过量化、剪枝、蒸馏、专家化等算法组合,可保持原模型90%+效果,
模型推理加速10倍
。
详情
任意组合压缩方法尽可能地加速模型
BM
Inf
千元级显卡玩转大模型推理
。BMInf实现
大模型低成本高效推理计算
,使用单块千元级显卡(GTX 1060)即可进行百亿参数大模型推理。
详情
10B模型解码速度 (Tokens/s)
BMInf
PyTorch
Open
Prompt
大模型提示学习利器
。OpenPrompt提供
统一接口的提示学习模板语言
, 它的组合性和模块化可以让你轻松部署提示学习方法以驱动大模型。
详情
工具结构
Open
Delta
“小”参数撬动“大”模型
。OpenDelta进行
参数高效的大模型微调
,仅更新极少参数(小于5%)即可达到全参数微调的效果。
详情
OpenDelta可以和OpenPrompt协作运行
ModelCenter
大模型仓库。
ModelCenter基于BMTrain工具实现了一系列预训练语言模型,支持
高效、低成本、可扩展性强的模型微调及分布式训练
。
详情
支持模型
代表用户