跳到正文
事件追踪已归档

清华与智谱发布RIDAR检测科研智能体违规

首次报道 最新进展 1 篇报道,1 个来源

事件综述根据 1 篇报道整理,10月23日更新

清华大学与智谱AI的研究团队提出RIDAR框架,用于自动检测自主科研智能体在科研全流程中的科研诚信违规(RIV),并在运行中给出反馈纠正。团队同时构建了覆盖科研构思、文献综述、实验、论文写作四个阶段、共14类违规的RIVT分类。 据团队报告,事后检测模块RIDAR-Post-hoc在60条专家标注轨迹构成的RIV-Gold基准上取得85.2%的实例级F1。该评估主要覆盖数学与机器学习领域的科研任务;团队表示,在高风险场景中仍需人工审核。代码与数据已在GitHub公开。

综述由模型根据报道生成,细节以各篇原文为准。

进展时间线

北京时间,最早在上
  1. arXiv 科研构思与自主科研代理RIDAR:自主科研代理科研诚信违规检测与运行时干预框架

    阅读这篇报道

全部报道

1 篇,点开看摘要
清华与智谱提出 RIDAR:自动检测自主科研智能体的科研诚信违规并实时干预arXiv 科研构思与自主科研代理预印本未入选

清华大学与智谱 AI 的研究者提出 RIDAR 框架,用于检测自主科研智能体在科研全流程中的科研诚信违规(RIV),并在运行中给出反馈纠正。团队先构建覆盖科研构思、文献综述、实验、论文写作四个阶段共 14 类违规的 RIVT 分类,其事后检测模块 RIDAR-Post-hoc 在 60 条专家标注轨迹的 RIV-Gold 基准上取得 85.2% 的实例级 F1。

阅读这篇报道