奖励设定偏差削弱思维链可监控性
论文指出奖励设定偏差会让大语言模型利用有缺陷的奖励,而思维链仍看似与原始任务一致,使奖励黑客难以被发现。作者提出 Reward Description Training,从训练轨迹中推断奖励函数实际偏好,再训练模型在思维链中明确讨论该目标。该方法在 3 个模型和 3 个任务上将检测率从 18% 提升至 85%,可监控性提升 24-42%。
按时间排列的全部内容。默认只显示通过双重评分的入选条目;切换到“全部收录”可以检索所有抓到的资料。
679 条收录动态,更新于 17:06
全部收录包含没有通过评分的资料,标题以常规字体显示并标为“未入选”,只供检索,不写入选理由。
论文指出奖励设定偏差会让大语言模型利用有缺陷的奖励,而思维链仍看似与原始任务一致,使奖励黑客难以被发现。作者提出 Reward Description Training,从训练轨迹中推断奖励函数实际偏好,再训练模型在思维链中明确讨论该目标。该方法在 3 个模型和 3 个任务上将检测率从 18% 提升至 85%,可监控性提升 24-42%。
上海AI实验室联合中国科学院金属研究所、苏州国家实验室、上海电气推出自进化合金设计专家模型书生·衍金(AlloyEvo),由AlloyDes生成候选方案、AlloyLLM预测性能与机理、AlloyExp沉淀经验卡三模块协同迭代。
入选理由材料交代了AlloyEvo的设计、评估与经验沉淀模块及钛合金实测结果,材料研究者可据此判断AI驱动合金研发的可用范围。
TenetBench 将 3,433 条与十五部俄语职业伦理准则条款冲突的请求,与仅在合法性上不同的良性对照请求配对,用于评估语言模型是否会违反或协助违反职业规范。
研究团队提出一条流程,把微调后的神经网络 AI 文本检测器转换为基于人类可读概念的分类器:直接在检测器的残差流上训练稀疏自编码器(SAE),为每个 SAE 特征分配自动解释标签,只保留描述通过全局保真度阈值的特征,再在这些可解释特征上训练轻量分类器。
NVIDIA 发布 Cosmos3-H-Dreams,一个基于 Cosmos3-H-Embodied-Nano 训练、可从视频与机器人运动学学习的手术生成模拟器,能在单张 RTX PRO 6000 GPU 上实时运行。
科学博客新文:设计针对蝎子神经毒素的蛋白结合物。 蝎子每年蜇伤约 120 万人,抗毒血清往往昂贵或供应短缺。Claude 在寻找新疗法方面迈出了早期一步。 https://www.anthropic.com/research/claude-scorpion-toxin-binder-design
Google Research 与 Earth Fire Alliance、Muon Space 合作的 FireSat 卫星星座,用 AI 从太空更早、更准地发现野火,可识别小至 5x5 米(约一辆车大小)的火点。
Sakana AI 开发了推荐方法 QD-Rec,把 Quality-Diversity(QD)进化式探索技术用于推荐,在有限评估预算下同时探索候选与假设的组合,保留新角度提案、合并相似提案,以积累多样化的推荐集合。
美国麻省总医院布里格姆医疗系统的研究人员用超过4000万张面部图像训练出基础模型FAHR-Face,并据此开发FAHR-FaceAge估算生物学年龄、FAHR-FaceSurvival直接预测癌症患者死亡风险,结果近期发表于《柳叶刀·数字健康》。
一篇预印本论文提出 PhysRSI-eval,用首次尝试表现、效率、成功率、预算和从失败中改进五个维度量化物理递归自我改进(physical RSI),并在固定交互预算下用 18 个操作任务评测不同视觉语言模型。
Linear Depth Memory(LDM)用递归最小二乘法在Transformer各层间维护固定大小的记忆,替代随深度增长的注意力残差存储。在400M和1.5B模型上,LDM的困惑度低于标准残差、mHC和AttnRes,零样本准确率具竞争力,配合优化内核吞吐相当。
研究者提出 AnyGoal,一个由常用世界模型环境构建的目标偏移任务变体基准及开源库,用于检验世界模型能否把熟悉的状态与动作因子重组为有效动力学。每个任务中单个状态因子和动作仍在训练支持范围内,但其组合在专家轨迹中出现不足。在多个环境和世界模型家族上,当前模型在这类重组下持续失败。
研究团队提出 OpenVLHarness,一个由能力层和持久多模态记忆组成的多模态推理框架,能力层把异构工具输出渲染成模型可读的观察结果,记忆层保留图像、结构化数据和网页引用,并可通过代码接口在已存数据上执行计算。
Holi-World 是一套整合经验采集、世界表示、自动化数据构建、模型学习与独立评测的生态,其 HoliWorld-Foundry 结合静态与动态感知自动构建世界记录,HoliWorld-Data 将约 100 个自采集场景整理为约 80K QA 对,用于训练 HoliWorld-VL-4B。
研究团队提出 BrainLoRA,用低秩适配器(LoRA)加轻量读出层对预训练多模态主干做参数高效微调,从而完成脑编码任务,可适配的主干规模最高达 104B 参数。
ISI Foundation 团队发布开源轻量 RAG 包 EpiLens,用固定检索模板和输出 schema 对语料中每篇论文做同样的结构化分析,并把每条输出链接回原文段落。
MDPI 数据智能团队提出 MATCH 框架,用标题、摘要和作者关键词把 SCALE 分类体系中的 Scientific Concepts 分配给单篇论文,并保留完整层级路径。
捷克科学院团队用 OpenAlex 书目耦合关系构造正样本,以轻量 LoRA 适配器微调 SPECTER2,在 704 篇人工意识主题文献的 ArtCon 语料上做弱监督域内适配,无需人工标注相似度标签。
斯坦福大学、香港科技大学、京东等机构的研究者提出 MIRA,一个面向可控图文报告生成的多模态深度研究智能体,把用户对报告粒度、图文构成和证据溯源的要求写成生成契约,串起证据收集、报告提交、反馈修订和最终交付四个阶段。
中国人民大学与新加坡国立大学的研究者发布开源 Python 库 OpenSaC 及配套 Search as Code skill,让 Codex、Claude Code 等编码智能体用 Python 程序组合搜索、内容抓取、重排和模型调用,并保留来源供检查复用。
同济大学等机构的研究者提出 NeuroAct,一个面向 EEG 分析与解码的自主研究代理框架,内环由协调者调度研究、开发、审稿三种角色,依据信号结构、表征、预测器行为和训练动态的证据选择分析与干预,外环把结果提炼为带任务与模型条件的可检验建议并在后续任务中验证修订。
谷歌官方技术博客介绍其AI智能体自主湿实验室建设进展,团队让智能系统在液体处理机器人上完成设计分子、安排实验、读取结果、调整下一轮方案的闭环测试。团队搭建的VERID框架基于开源机器人控制框架,为工作台建立持续更新的数字孪生,记录机械臂位置、孔内液量、试剂种类和枪头库存等状态,并在确认无撞针、空吸、容器不匹配等问题后才下发指令。
MiniMax 发布推理模型 M3.1 Flash,在 Artificial Analysis Intelligence Index 上得分 42,比前代 M3 高 13 分,单任务成本却不到其一半。
MIT、波士顿儿童医院与 Inria 的研究团队开发并训练了深度学习模型 E(3)-Pose,用于在胎儿头部运动时辅助成像,获得可供放射科医生查看的高分辨率图像,相关论文在 2026 年 European Conference on Computer Vision 上报告。
NVIDIA 在德国 Jülich 超算中心的欧洲首台百亿亿次超算 JUPITER 上完成 104 量子比特容错量子计算模拟,为迄今规模最大的容错量子处理器完整模拟。
谷歌研究人员在论文中称,四个 Gemini 4 Argon 智能体在随机生成世界中完全自主通关《我的世界》,27 小时击败末影龙。智能体仅通过游戏内聊天框协调,全程发送 229 条消息、运行 2783 个程序、死亡 605 次,消耗 13.5 亿个输入 Token,按普通用户标准成本约 1,620 美元。
英伟达当地时间 10 月 19 日宣布,在德国于利希超级计算中心的 JUPITER 超级计算机上,用 8192 块 GPU 完成 104 量子比特容错量子计算模拟,并验证了魔态培育方案,相比以往方法所需物理量子比特减少 90%。
研究人员开发出一款 AI 工具,仅凭一张面部照片就能预测癌症患者的生存几率,研究发表在《柳叶刀·数字健康》。模型用超过 4000 万张人脸图像和 3 万多名癌症患者的照片训练,会为患者生成风险评分,评分最高者更可能在 90 天内死亡;估算年龄误差约 5 岁,并能在不同年龄、种族、性别和癌症类型人群中生效。
OpenAI 在 2026 年 10 月 6 日公布的 377 项结果中,有一项宣称解决了准黎曼猜想,即黎曼猜想的一个较弱版本。斯坦福大学的 Jared Duker Lichtman 称这项新证明是迄今 AI 用于数学最重要的成果,且领先幅度相当大。
入选理由材料交代了 OpenAI 宣称解决准黎曼猜想及数学家对其分量的评价,可据此判断 AI 在数学证明中的位置。
中国科学院上海硅酸盐研究所团队构建物理引导生成式超分辨模型 StableAFM,将 AFM 采样物理与潜空间扩散模型结合,在快速稀疏扫描条件下复原精细空间信息。