论文AI率检测如何避免“误伤”
创始人
2025-05-17 06:46:44
0

转自:中国青年报

  “论文疑似AI生成率82.54%。”

  5月初,中国人民大学新闻学院副教授董晨宇将刚刚完成的研究秀场直播产业的论文,提交至某学术论文检测平台,得到的结果令他哭笑不得。他发现,系统标红的“高度疑似AI生成”段落,是他们研究团队耗时3年扎根基层、追踪多个真实案例写成的内容。

  近期,西南交通大学、天津科技大学、湖北大学等多所高校提出,学生的毕业论文除了要通过查重、答辩外,还需检测AIGC(AI生成内容)工具使用情况。这意味着,若论文的AI生成率过高,学生可能面临重新修改、二次答辩甚至无法毕业的情况。

  有学生反映,自己辛苦撰写的论文被检测系统判定为“高AI率”。还有网友将《滕王阁序》《岳阳楼记》等名篇输入检测系统,发现AI率超过50%,由此引发公众对相关检测工具准确性和透明度的疑问。

AI检测论文是否会造成“误判”

  谈及近期论文被“误伤”,董晨宇直言,AI检测工具不应成为判定论文学术性的硬性标准。

  日前,中青报·中青网记者在社交平台上以“论文降AI率”为关键词进行搜索,发现有不少经验分享帖,还有一些应届毕业生在评论和留言中称,自己为了降低AI率花费达上百元。

  西南交通大学3月12日发布《本科毕业设计(论文)规范使用人工智能工具的规定(试行)》,表示学校将对全部本科毕业设计(论文)使用AI工具的情况进行AIGC检测,原则上本科毕业设计(论文)的AIGC检测结果不能超过30%。

  该校应届毕业生刘昱楷(化名)告诉中青报·中青网记者,学校的新规对他影响不大,“AI对我来说主要是启发思路,我不会照搬照抄”。不过,刘昱楷毕业论文的文献综述部分曾被判定AI率较高,“因为这段内容分点、分句较多,我把这部分修改成一些长句进行概括总结,检测情况就好了很多”。

  四川师范大学应届毕业生贾悦(化名)的论文同样被误判为AI生成。经过一段时间的修改,她总结出一些经验,“使用排比句、押韵的对偶、带冒号的并列句子,容易被判定为AI生成”。

  贾悦并不担心AI率检测,“论文主体内容是我自己撰写的,使用AI更多是为了获取灵感或求证观点,学院老师会协助我们解决被误判的问题”。

  四川师范大学发布文件称,如有学生及指导教师反馈论文确实未使用任何AI工具,但“疑似AIGC生成比例”较高,需填写《四川师范大学学士学位论文(设计)生成式人工智能使用情况说明表》,交学院存档,并由学院研判处理。

  同济大学法学院互联网与人工智能法律研究中心主任张韬略认为,当前AI生成内容检测工具的技术成熟度存疑,若直接用于判定学生学术诚信,可能存在误判风险。他强调,学术能力培养需回归教育本质,技术检测应作为辅助手段,而非唯一评判标准。

  张韬略表示,现有工具主要通过文本特征模型比对、概率阈值判定等方式识别AI生成内容,但其技术逻辑存在局限性。“AI本身学习的是人类表达,当人类模仿AI写作风格时,双方文本特征会逐渐趋同。”他举例,如果检测系统将工整对仗视为AI特征,可能会把《滕王阁序》等古文误判为AI生成内容。

“AI率”判定标准存争议

  2024年秋季学期,中国传媒大学新闻学院教授詹新惠在为本科生开设《传播学概论》课时,发现了一些异常现象:一些大一学生提交的作业看起来十分专业,与平时教学中学生水平存在明显差异。

  “这会让人怀疑这篇作业可能有AI的影子。”在詹新惠开设的课程中,期末基本以论文形式结课,“文科类课程论文使用AI撰写的可能性相对较高”。

  2023年上半年,中国传媒大学引入AI辅助批改系统。詹新惠说,借助系统可以识别出一些可疑内容,但她并不会完全依靠该系统。

  董晨宇查阅了近年来国内外有关AI检测工具实效性的论文,发现绝大多数研究表明,这些工具的检测结果并不理想,原因多种多样,但学界已形成广泛共识:判定论文是否由AI生成,不能将检测工具作为唯一标准。

  董晨宇反对为降低AI率而刻意修改文章的表述。他说,检测工具常以语言是否工整、句式是否僵化作为判断依据,而论文写作本身就要求句式严谨,这导致检测工具容易出现误判,“但评价论文并不能单看形式,内容的创新才是关键”。同时AI模型在不断进化,其生成的文本越来越接近人类写作水平,使得检测工具难以准确区分。

  “检测工具的训练样本可能无法跟上AI进化的速度,不同AI模型的输出结果也存在差异,这些都造成检测结果具有不可靠性。”董晨宇表示,OpenAI在2023年因难以准确检测AI生成内容而暂停相关检测工具服务,而国内一些商业公司仍在开发相关检测工具。

  一些高校对学生使用AI工具持审慎态度。

  2024年4月,中国传媒大学发布《关于加强2024年毕业论文(设计)中规范使用人工智能管理的通知》,规定学生须明确披露是否使用生成式人工智能。如使用,须详述使用方式、细节,包括模型/软件/工具名称、版本及使用时间。

  2024年12月,《复旦大学关于在本科毕业论文(设计)中使用AI工具的规定(试行)》发布,允许学生在征得指导教师同意的前提下,在文献检索与整理、二次创作图表类型推荐与辅助制图、参考文献格式整理等方面使用AI工具。

  对于部分高校设定AI率阈值的做法,詹新惠的疑问是:“如何界定‘AI率’?若学生借鉴AI思路后自行改写,是否应计入‘AI率’?”她表示,文献综述、框架结构、观点提炼均可能涉及AI,无法简单规定“可用”与“禁用”,“是否要采纳AI提出的观点,取决于使用者的判断,这本身就是学术能力的体现”。

学术研究如何驾驭AI“双刃剑”

  “有检测平台一边收费检测AI率,一边兜售‘降AI率’服务。”董晨宇认为,当前检测AI率的做法并不能有效解决问题,因为学术不端行为远不止让AI写论文这么简单。

  张韬略表示,同济大学目前并未出台检测论文AI率的相关规定,学校在制定相关政策时应持审慎态度。一方面,AIGC检测技术尚处于不稳定且快速迭代的阶段,不宜以其结论作为判定学生学术诚信的依据;另一方面,与查重系统相比,AIGC检测缺乏明确且稳定的比对基础,容易导致误判。

  他建议,在技术成熟之前,高校应避免将AIGC检测作为强制性毕业环节,而应更多关注如何引导学生合理使用AI工具,将其融入学习和研究过程中,培养学生与AI建立协同的智慧生态,注重培养学生的创新思维与能力。

  张韬略在法学课程中取消了期末论文作业,改为现场开卷考试,要求学生脱离电子设备完成作答。他认为,法学教育仍应强化基础能力培养,“扎实掌握专业知识才能评估AI生成内容正确与否,这是人机共存时代的核心竞争力”。

  詹新惠注重引导学生正确使用AI,培养其逻辑思维能力,“如果学生上交的课程论文缺乏个人思考,无论是否使用AI,都可能拿不到高分;如果借鉴AI后产生了自己的思考,也有可能获得高分”。

  “堵不如疏。”詹新惠说,“中国传媒大学鼓励学生探索AI应用,关键在于建立使用规范。”她建议借鉴国际期刊经验,允许学生合理使用AI辅助文献整理、数据处理。对于直接生成核心内容的情况,要明确标注工具及使用范围,对于具体问题具体分析。

  董晨宇明确反对学生用AI直接撰写论文,“这违背学术规范”。他认为,应当认识到AI在学术研究中的辅助作用,教会学生合理使用AI,如使用AI搜索工具和专业文献阅读工具,帮助检索相关研究、提炼论文核心内容等。同时要让学生清楚AI的局限性,避免过度神化技术。他建议高校将考核从结果导向转向过程导向,关注学生在论文写作过程中阅读、思考以及与AI深层次互动的表现,有利于培养学生的综合思考和协同思维能力。

  中青报·中青网见习记者 邹竣麒 刘胤衡 记者 陈晓

相关内容

热门资讯

5.5G来了,5G是不是要退场... 原标题:5G从普惠性连接走向精准化赋能最近,一些北京用户发现手机上出现了5G-A信号。5G-A可以理...
受强降雨影响 京广高铁清远至英... 央视网消息:据@广州南车站 微博消息,5月17日9时50分许,受京广高铁清远至英德西站间强降雨影响,...
聊城茌平:防灾减灾进广场 安全...   5月12日,山东省聊城市茌平区气象局联合区应急管理局、蓝天救援队等部门开展防灾减灾宣传活动,通过...
新民体育丨海港和穆斯卡特稳了? 转自:上观新闻今晚8时,中超第13轮将迎来一场重头戏:上海海港主场对阵山东泰山。两支传统强队如今分列...
委内瑞拉副总统:美方已实施超千... 当地时间5月16日,委内瑞拉副总统罗德里格斯表示,美国政府主导的对委封锁已累计实施1039项单边强制...
卿晨璟靓等用服刑经历“引流”,... “如果你们还想听我讲在‘里面’的故事,还有我当‘酒托’的经历,记得进粉丝群,给我卡个灯牌……”近日,...
中美互降关税后,外贸一线情况如... 《中美日内瓦经贸会谈联合声明》发布后,外贸一线情况如何?记者采访了浙江部分外贸企业、货代平台及港口。...
2399元起!当贝X5S Ma... 快科技5月17日消息,今年618已经开幕,当贝投影趁着电商节发布了2025年的三款新品,分别是当贝D...
点赞!蔡磊获评全国自强模范,他... 来源:@华夏时报微博 #残疾人事业#【点赞!蔡磊获评全国...
州委书记暗访,发现个别干部不假... 转自:北京日报客户端据“微阿坝”消息,5月16日下午,四川省阿坝州委书记徐芝文采取“四不两直”方式,...
金正恩指导朝鲜空军防空战斗及空... 转自:央视新闻客户端据朝中社5月17日报道,朝鲜劳动党总书记、国务委员长金正恩15日视察朝鲜人民军近...
中国证监会批准华电新能上市发行... 转自:新华网  5月16日,中国华电所属华电新能源集团股份有限公司首次公开发行股票注册申请获得中国证...
俄罗斯与乌克兰直接谈判结束 双... 中新社北京5月16日电 综合消息:当地时间16日,俄罗斯和乌克兰两国代表团在土耳其伊斯坦布尔结束关于...
晕了晕了!股指冲高回落,逾30... 每经记者|叶峰    每经编辑|肖芮冬     本周股指冲高回落涨跌互现,沪深两市...
俄乌直接谈判结束 乌方官员表示... 转自:央视新闻客户端总台记者当地时间16日获悉,土耳其外交部表示,土耳其、俄罗斯、乌克兰的三方会谈已...
哈洽时间|外资企业聚龙江 共话... 转自:黑龙江新闻网□本报记者 付宇5月的哈尔滨,丁香盛放,生机盎然。16日,“外资企业龙江行”活动在...
香港新冠病毒活跃程度处于高水平... 据香港电台网站5月17日消息,香港新冠病毒活跃程度处于高水平,儿童及成人严重个案的数字亦录得升幅。香...
41℃!河南部分地区将出现高温... 转自:河南发布黄淮等地区有高温天气发展据中央气象台消息,17日至22日,黄淮中西部、河北南部、关中盆...
文物日历 | 5月17日:耀州... 责任编辑:杨晨雨
美国提议对非公民汇款征收5%的... 格隆汇5月17日|据印度CNBC18电视台,对许多印度家庭来说,他们的孩子从美国寄钱回来是一种生计。...