首页 > 科技 >

vivo 自研蓝心大模型 7B 现已向全行业开源

发布时间:2023-11-09 16:20:19来源:
vivo 自研蓝心大模型 7B 现已向全行业开源 模型,开源

11 月 9 日消息,在近日的2023 vivo 开发者大会上,vivo 发布率先开源 70 亿参数级的蓝心大模型 7B 以及对应的微调框架。

依照许诺,vivo 现已在Hugging Face 上正式开源了BlueLM-7B, 小搭档可在 。

BlueLM-7B 开源大模型包含 7B 基本模型和 7B 对话模型,同时 vivo 开源了支撑32K的长文本基本模型和对话模型。

据介绍,BlueLM 采取高质量语料库进行训练,规模到达了2.6 万亿的 token 数,该语料库包括中文、英文以及少量日韩数据。其中 BlueLM-7B-Chat 在C-Eval和CMMLU上均取得领先成果。

BlueLM-7B-Base-32K 和 BlueLM-7B-Chat-32K 均支撑32K长文本,在坚持基本才能相当情形下,能够支撑更长上下文懂得。

(责编: admin)

免责声明:本文为转载,非本网原创内容,不代表本网观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。