跳到正文
事件追踪已归档

百度开源ERNIE-5.5-Flash-Base基座模型

首次报道 最新进展 4 篇报道,3 个来源

事件综述根据 4 篇报道整理,11月6日更新

百度文心发布并开源 ERNIE-5.5-Flash-Base 预训练终点权重,模型已上线 Hugging Face,以 ERNIE 5.5 Flash Base Model License Agreement v1.0 提供 FP8 与 BF16 两种 safetensors 权重。这是一个稀疏 MoE 语言模型,总参数 280B、每 token 激活 14B,在 33.5T tokens 上从零完成预训练,训练上下文逐步扩展至 128K,微调与推理支持 1M tokens 上下文。 百度文心称,本次开放的权重未经中训练与后训练,可作为领域适配、指令微调和强化学习研究的共同起点;经过后训练的 ERNIE 5.5 Flash 将随后推出。使用上,Base 模型要求每条输入以 BOS token 开头,分词时保持 add_special_tokens=True。

综述由模型根据报道生成,细节以各篇原文为准。

进展时间线

北京时间,最早在上
  1. 百度文心 ERNIE 官方博客百度开源发布ERNIE 5.5 Flash Base基座模型

    阅读这篇报道

全部报道

4 篇,点开看摘要
百度发布ERNIE 5.5 Flash Base开源模型Baidu Inc.可用产品未入选

百度发布ERNIE 5.5 Flash Base,拥有2800亿参数,作为开源基础模型 https://the-decoder.com/baidu-releases-ernie-5-5-flash-base-with-280-billion-parameters-as-an-open-source-foundation-model/

阅读这篇报道
ERNIE 5.5 Flash Base 发布Baidu Inc.可用产品未入选

在此探索 ERNIE 5.5 Flash Base 👇 ERNIE 博客:https://ernie.baidu.com/release/ernie-5-5-flash-base/ Hugging Face:https://huggingface.co/baidu/ERNIE-5.5-Flash-Base

阅读这篇报道
百度文心开源 ERNIE-5.5-Flash-Base 基座模型,总参数 280BIT之家厂商自述未入选

百度文心发布并开源 ERNIE-5.5-Flash-Base 预训练终点权重,这是一个稀疏 MoE 语言模型,总参数 280B、每 token 激活 14B,在 33.5T tokens 上从零完成预训练,微调与推理支持 1M tokens 上下文。

阅读这篇报道
百度发布 ERNIE-5.5-Flash-Base 预训练基座模型并开放权重百度文心 ERNIE 官方博客可用产品未入选

百度文心团队发布 ERNIE-5.5-Flash-Base,这是一个稀疏 MoE 语言模型,总参数 280B、每 token 激活 14B,在 33.5T tokens 上从零完成预训练,训练上下文逐步扩展至 128K,微调与推理支持 1M tokens。

阅读这篇报道