跳到正文

ITmedia AI+ さまに、Sakana AIがなぜ今、大規模言語モデルの事前学習に取り組むのかを取り上げていただきました。

摘要

ITmedia AI+ 报道了 Sakana AI 为何现在着手大语言模型的预训练。 我们回答了关于公司首席科学家秋叶拓哉在10月研讨会上发布的“Sakana Sawara(暂定名)”的背景与目标。 继 Sakana Namazu 开展的后训练、Sakana Fugu 的编排之后,我们认为如今正是挑战模型层面预训练的好时机。计划于12月开始 Sawara Small(暂定名)的预训练。 文章在这里🐟️ https://www.itmedia.co.jp/aiplus/article/2611/13/2000003141/

摘要由模型根据原文撰写,以原文为准。

正文 · 原文

ITmedia AI+ さまに、Sakana AIがなぜ今、大規模言語モデルの事前学習に取り組むのかを取り上げていただきました。

10月のシンポジウムで弊社Chief Scientistの秋葉拓哉が発表した「Sakana Sawara(仮称)」について、背景やねらいをお答えしました。

Sakana Namazuで取り組んできた事後学習、Sakana Fuguのオーケストレーションに引き続き、今、モデルの層で事前学習に挑む好機が来たと考えています。12月にSawara Small(仮称)の事前学習を開始 する予定です。

記事はこちら🐟️
https://www.itmedia.co.jp/aiplus/article/2611/13/2000003141/

来源:Sakana AI · x.com

引用原文

SakanaAILabs. ITmedia AI+ さまに、Sakana AIがなぜ今、大規模言語モデルの事前学習に取り組むのかを取り上げていただきました。[EB/OL]. (2026-11-13)[访问日期]. https://x.com/SakanaAILabs/status/2121109880098713622.