中国日报对南开大学在AI文本检测方面取得的新成果进行报道

中国日报对南开大学在AI文本检测方面取得的新成果进行报道

来源:中国日报网    2025-08-26 17:29
来源: 中国日报网
2025-08-26 17:29 
分享
分享到
分享到微信

2025年8月21日,中国日报对南开大学的科研团队在AI文本检测方面取得的最新研究成果进行了报道,该成果能更准确地辨别AI生成的文本,为论文等内容的检测提供了更好的方案。

报道内容:

天津南开大学的一个研究团队在检测由人工智能生成的文本方面取得了重大进展,他们开发出了一套系统,大大降低了误报和漏报的情况,而这些问题一直困扰着许多现有的工具。

该团队关于该系统的研究论文已被计算机多媒体领域国际顶级会议ACM MM2025接收。南开大学李重仪、郭春乐团队自主研发的AI科研助手系统 PaperMate 基于所提出的AI文本检测方法,已正式上线AI文本检测功能,并向用户免费开放。

“该系统月活跃用户已突破1000人,使用群体涵盖北京大学、浙江大学、中山大学等多所高校的教师与学生。多位用户反馈称,相较于市面上的同类检测工具,PaperMate在误报率和漏报率方面表现更为优异,检测结果更加准确、可信。”团队成员付嘉晨介绍道。

付嘉晨说:“现在的论文AI检测工具存在的问题主要是容易冤枉作者,我的学长在写毕业论文的时候,将自己的论文放到现有的AI论文检测工具上进行检测,一些原创内容也会被判定为AI创作内容。”对于AI文本检测出现误判的原因,付嘉晨解释:“如果把AI文本检测比作一场考试,检测器的训练数据等同于日常练习题,现有检测方法是机械刷题、死记硬背答题的固定套路,难以学会答题逻辑,一旦遇到全新难题,准确率就会显著下降。”

“要想实现通用检测,理论上需收集所有大模型的数据进行训练,但在大模型迭代飞速的今天几乎不可能。”付嘉晨说,“让检测器真正学会举一反三,即提升检测器的泛化性,是提升AI文本检测性能的关键。”南开大学计算机学院媒体计算实验室不仅从评估的角度揭示了现有AI检测方法的性能不足,并创新性地提出了“直接差异学习”(Direct Discrepancy Learning,DDL)优化策略,教会AI用“火眼金睛”辨别人机不同,实现AI检测性能的巨大突破。

其实就是通过提高检测算法的准确率,来降低误判率。”付嘉晨说。团队还提出了测试基准数据集MIRAGE:“我们收集人类创作的文本,再用AI大模型把这些人类创作文本润色一遍,就会得到一部分人类原创文本和一部分AI生成文本,然后使用现在已有的算法,和我们的算法分别检测这些文本,用MIRAGE记录检测准确率。”MIRAGE的测试结果显示,现有检测器的准确率从90%骤降至约60%;而使用DDL训练的检测器仍保持85%以上的准确率。与斯坦福大学提出的DetectGPT相比,性能相对提升70%。”

“这些问题揭示了当前许多检测系统存在的根本缺陷,并为未来的发展提供了一条切实可行的路径。AIGC发展日新月异,我们将持续迭代升级评估基准和技术,团队致力于实现更快、更准、更低成本的AI生成文本检测,以AI之力,让每一篇成果更出彩。”研究团队负责人、南开大学计算机学院教授李重仪说。

(中国日报天津记者站 闫东洁 | 张艺雯)

【责任编辑:陈秋静】
中国日报网版权说明:凡注明来源为“中国日报网:XXX(署名)”,除与中国日报网签署内容授权协议的网站外,其他任何网站或单位未经允许禁止转载、使用,违者必究。如需使用,请与010-84883777联系;凡本网注明“来源:XXX(非中国日报网)”的作品,均转载自其它媒体,目的在于传播更多信息,其他媒体如需转载,请与稿件来源方联系,如产生任何问题与本网无关。
版权保护:本网登载的内容(包括文字、图片、多媒体资讯等)版权属中国日报网(中报国际文化传媒(北京)有限公司)独家所有使用。 未经中国日报网事先协议授权,禁止转载使用。给中国日报网提意见:rx@chinadaily.com.cn