Deep Fusion Memory:面向大语言模型的块级参数化记忆架构
Deep Fusion Memory(DFM)是一种块级参数化记忆架构,通过因果记忆预测器从上下文生成记忆,并以门控交叉注意力融入隐藏状态,推理时无需显式检索。其构建训练数据所需的检索查询减少32倍、检索条目减少2048倍。在六个问答任务上,DFM 在 Mistral-7B-v0.3 和 Qwen3-8B-Base 上分别比最强基线提升12.71%和11.19%。
按时间排列的全部内容。默认只显示通过双重评分的入选条目;切换到“全部收录”可以检索所有抓到的资料。
679 条收录动态,更新于 17:06
全部收录包含没有通过评分的资料,标题以常规字体显示并标为“未入选”,只供检索,不写入选理由。
Deep Fusion Memory(DFM)是一种块级参数化记忆架构,通过因果记忆预测器从上下文生成记忆,并以门控交叉注意力融入隐藏状态,推理时无需显式检索。其构建训练数据所需的检索查询减少32倍、检索条目减少2048倍。在六个问答任务上,DFM 在 Mistral-7B-v0.3 和 Qwen3-8B-Base 上分别比最强基线提升12.71%和11.19%。
“风清”人工智能全球短中期集合天气预报系统 V1.0 近日通过业务化评审,正式投入全国气象业务运行,由国家气象中心牵头、联合多所高校和科研院所研发,核心算力、底层算法和数据源均实现国产化。
微软研究院于 10 月 12 日发布研究系统 StudentSim,基于公开、去标识化的学习者记录为每位学生训练个性化“AI 学生模拟器”,模拟其独立作答及收到导师讲解后的反应变化。
Anthropic 发布博文称,其内部研究用 Claude 模型用不到 30 分钟追溯出五条 NIST 标准椭圆曲线(P-192、P-224、P-256、P-384、P-521)的种子来源,为一桩延续约 26 年的密码学悬案提供了可复现的答案。
Claude 在不到 30 分钟内解开了一个困扰 25 年的密码学谜题。 有一大类研究问题,其搜索空间极其庞大,但验证成本很低。 AI 智能体可以大规模探索假设、运行实验并做出新发现。我们将看到更多这样的案例。
Google Research 宣布把智能体带到湿实验室工作台,通过将智能体与实体实验室机器人结合,运行快速闭环的分子设计循环,并称由此发现了针对癌症靶点的个位数纳摩尔蛋白结合体。原文附有介绍链接,未说明该流程的开放范围或是否已发表。
入选理由Google Research 把智能体接到湿实验室机器人上跑闭环分子设计,并给出针对癌症靶点的蛋白结合体结果,可看自动实验如何进入真实生物发现流程。
Google Research 公布三项研究,推进 AI 智能体从计算设计走向真实湿实验室实验:VERID 框架为实验室工作单元建立语义数字孪生,让智能体在动作前检查台面布局、孔内体积和吸头库存,并在模拟中预演协议。
入选理由Google 展示了智能体在真实湿实验室中闭环设计并验证核酸适配体与蛋白结合体的进展,研究者可据此判断自动化实验的可行边界。
Anthropic 的 STEM Fellows 项目披露,Claude Mythos 5 在给定自然语言指令的情况下设计出量子线路,效果优于已发表的最优线路,部分情况下提升一个数量级或更多。
帕洛阿尔托初创公司 Elorian 发布首个模型 Glimpse,以研究预览形式开放 API 和聊天界面,推理中可裁剪图像区域、抽取视频帧或运行代码测量所见内容,公司称其为“视觉草稿空间”。
华为、莱顿大学与格罗宁根大学团队在 arXiv 预印本提出 SwarmRSI,让科研智能体群体通过演化彼此继承的研究状态(假设、程序与实验证据)实现递归自我改进,包含反馈引导的群体变异、互补群体重组与递归群体演化三个机制。
FDE-Gym 是包含 95 个端到端交付任务的基准,取自 20 个客户场景、覆盖 18 个行业,由行业专家改编自真实交付项目,在模拟客户环境中评估智能体能否交付有效方案。对 7 家提供商的 13 种模型配置评测显示,最佳配置平均得分仅 0.56,95 个任务中只解决 14 个;发现未明说的约束是主要瓶颈,即便在 23 个任务中已获取全部关键事实,也仅 10 个达到 0.8 以上的业务提升。
我们与全球科学家携手,用模型和工具帮助让疾病更可检测、更可治疗、更可预防。🧬 从精准定位罕见基因变异到加速药物研发,以下是我们如何助力将实验室突破转化为现实诊疗 → https://goo.gle/4i48Cmr
研究团队提出 Data World,一个多智能体引擎,先指定文件背后的世界机制,再合成环境、任务与评分标准,用于训练数据分析智能体。引擎通过独立审计检查目标可从观测文件中恢复,评分标准用于评估和强化学习奖励;经人类偏好筛选出覆盖 50 个留出世界、16 个领域的 100 个任务构成 DataWorld-Bench,并从 1,037 个不相交世界生成 2,135 个训练任务。
研究团队提出 OneWM 统一因果训练框架,将动作同时作为世界预测的条件和策略学习的目标,在共享的视频-动作架构中训练。在 LIBERO、LIBERO-Plus 和 RoboCasa365 具身测试平台及真实世界策略实验中,学习指定动作的视觉后果提升了策略性能与跨场景泛化能力,动作学习也提升了多视角世界预测的保真度。结果表明,统一因果训练下世界建模与动作生成可相互受益。
MJev-Spatial 是一个 System 1 多模态决策模型,把空间理解任务统一为分类框架,直接复用主干预训练 query/key 投影打分,不新增参数,推理时单次前向、不生成答案 token。
研究团队提出 AutoSFT,一个用于监督微调数据研究的多智能体系统,将执行与分析分离,从不同角度收集数据修改提案,并调用综合子智能体处理数据池无法覆盖的能力。
研究团队提出面向长周期机器学习工程优化的后训练方法,并据此训练出 35B 混合专家智能体模型 MLExpert。团队设计了 Kaggle-MLE Factory 构造可执行任务与交互环境,用分层智能体 SFT 迁移工具使用和编程能力,并用 Windowed Interaction RL(WIRL)把相邻实验结果之间的多轮决策作为一个执行窗口赋予共享结果奖励。
清华大学AIR等团队提出 Privileged Hindsight Distillation(PHD)框架,把科研品味建模为研究者个人从统一评价标准到相对偏好的映射,训练时用后续出现的科学证据作为特权监督,推理时只使用提案阶段可见信息。
中国科学院上海天文台团队提出基于生成式人工智能的跨望远镜图像预测方法,利用DESI地面巡天与Euclid空间望远镜真实配对的星系图像,构建从地面受视宁度限图像到空间高分辨率图像的生成式映射。
SWE-at-Scale 是一个通过逆向工程真实软件修复来自动合成逼真 issue 的框架,将修复监督反转为基于实际开发场景的 bug 诱导监督,并把学到的 bug 模式迁移到新代码上下文以构建可执行 SWE 任务。
那不勒斯费德里科二世大学团队提出 multiplex coupling 框架,将同一批文献的引用关系与术语关系作为多层网络的两层分别保留并分析其关联,相似度经零模型标准化,层间一致性在随机文献对上测量。
苹果研究团队公布名为 Minions 的系统研究,尝试把闲置 Mac GPU 聚合成可动态调度的虚拟 GPU 云,用于运行大规模机器学习推理任务。系统由 Minion Server、PostgreSQL 元数据存储、运行在各台 macOS 设备上的 Minion Executor 和 Minion Watchdog 四部分组成,采用拉取式任务模型并避免多设备重复处理同一任务。
布里斯托大学团队让脑类器官通过多电极阵列接收盲文触觉信号,单个类器官约61%的情况下可被解码为对应字母,三个类器官组合时准确率提升至83%。类器官经处理后仍保留足够信息用于支持向量机分类,且在人工噪声下比直接解码更稳健。研究者强调实验仅证明信号可被接收与传递,尚未展示类器官的学习或长期变化,下一步将拓展至纹理、边缘等触觉任务及闭环反馈。
NVIDIA 联合 IIT Madras 的 AI4Bharat 实验室发布 Nemotron-pretraining-Indic-v1,覆盖 22 种印度语言、约 2.8 万亿 token,并公开用于生成该语料的 GPU 加速数据生成流程。
入选理由NVIDIA 与 IIT Madras 公开 2.8 万亿 token 的印度语言预训练语料及生成流程,研究者可据此评估多语言模型的训练数据来源。
我们还把 ORA 搬上了一台真实机器人。 在低成本机械臂、固定 RGB-D 相机和腕部相机的初步运行中,DeepSeek-V4.1-Flash 通过旋钮打开了一个抽屉,并把一块糖果棒放进了盒子里。
开放权重模型零样本能走多远? ORA:RoboTwin 上 69.2%;LIBERO-Pro 上 81.4%。 RPent(带任务特定记忆):在 RoboTwin 上配合 GPT-5.5/Opus-4.7 分别为 62.4%/58.4%;在 LIBERO-Pro 上配合 Opus-4.7 为 82.4%。 相同案例,不同系统。https://github.com/RLinf/RPent
中国科学院分子细胞科学卓越创新中心整合单分子荧光成像、人工智能结构预测与生化及细胞功能验证,揭示PKR的两个dsRBD通过分子内互作形成独特构象,以"扫描—捕获"模式识别dsRNA并驱动激酶激活。破坏dsRBD1-dsRBD2互作界面会在体外和细胞水平削弱PKR功能,该界面有望成为干预PKR异常激活的潜在药物靶点。相关成果在线发表于PNAS。
研究团队在 Nature Communications 发表 LitGene,一个通过对比学习把非结构化文本与 Gene Ontology 注释整合起来、改进基因表示的可解释 transformer 模型。
Anthropic 称,一名员工让内部研究模型 Claude 在不提供线索的情况下追查 NIST 椭圆曲线种子来源,Claude 在不到半小时内查明 P-192。
入选理由NIST 椭圆曲线种子来源这一长期悬案被 Claude 在半小时内解开,密码学与数学研究者可据此复核并复现。
Anthropic 用自然语言规格和自动评分器让 Claude 在闭环中设计量子电路,在化学、优化、量子模拟、数论和数值计算共八项任务上给出比已发表最优方案使用更少量子比特和门的新设计,部分提升达一个数量级以上。
入选理由Anthropic 让 Claude 在闭环中自主设计量子电路,八项任务均优于已发表设计,为量子算法资源估算提供了可复用的自动化路径。