编译 | 张晴丹
一位美国高中生Irfan Biswas去年于《医学伦理学杂志》(Journal of Medical Ethics)作为独一作者,发表了一篇切磋人工智能于制药行业运用的论文。然而,这篇论文近日被正式撤回。查询拜访发明,Biswas利用天生式AI“检索并解读参考文献来历”,却从未核验这些文献是否真实存于,文中援用了多篇闭门造车的文献。
Biswas的举动并不是个例。另外一本伦理学期刊《学术伦理学杂志》上,一篇关在内部举报举动的论文被读者发明,29条参考文献中至少19条纯属虚构。嘲讽的是,这篇论文的主题偏偏是“举报”。
据《撤稿不雅察》报导,最近几年来,虚伪参考文献正于各个层面无声伸张。而这一切指向统一个源头:以ChatGPT为代表的天生式AI。学术界正于面临的,不单单是几篇撤稿论文,而是一整套成立于“文献援用”之上的常识验证系统正于松动。
2025年9月,《医学伦理学杂志》刊发了一篇切磋AI于制药行业运用的论文。文章不雅点光鲜,认为有成见的算法会加重医疗系统的不公允。论文的独一作者是美国马萨诸塞州什鲁斯伯里黉舍的一位高中生Biswas。
然而,这篇看似平凡的论文却潜伏玄机。查询拜访发明,Biswas利用了天生式AI来“检索并解读参考文献来历”,但投稿前并未对于这些文献举行核验。成果就是,论文援用了多篇底子不存于的文献。
2026年5月28日,期刊正式发布撤稿声明。声明写道:“本刊针对于该论文内容质量与参考文献正确性开展查询拜访,此中多项疑点指向多篇参考文献为虚构。”
换句话说,论文中那些看似学术严谨的援用,彻底是年夜语言模子平空编造出的“学术幻觉”。更糟糕糕的是,查询拜访还有发明了“存于把持偕行评审的相干证据”——这象征着,这篇论文发表的暗地里,可能还有存于更多鲜为人知的运作。
近似的工作,很快于另外一本伦理学期刊上重演。《学术伦理学杂志》本年也做出了近似撤稿处置惩罚。一位读者发明,一篇主题为“埃塞俄比亚公立教诲机构残障人士的内部举报履历”的论文中,存于年夜量伪造参考文献。芬兰自力研究者Erja Moore于浏览这篇论文时,本想查找几篇看起来有价值的参考文献,却不测发明“这些文献底子不存于”。
在是,Moore一一核查了该论文全数29条参考文献,发明此中至少19条疑似报酬编造。这些虚伪文献存于多种环境:作者确凿发表过该主题的其他论文,但此处标注的文章标题不存于;标题相近,但刊发期刊、作者彻底差别;期刊卷、期、页码指向的文献与参考文献标注的内容彻底不符。于所有虚构参考文献中,有11条虚构援用了施普林格 天然集团旗下的《贸易伦理学杂志》。
更使人震动的是,这类征象已经经渗入进国际权势巨子机构。2025年3月,世界银行发布了一份题为《滋养将来:依托食粮系统解决南亚肥胖问题》的陈诉。这份由世界银行于职事情职员介入撰写的陈诉,被巴基斯坦学者Muha妹妹ad Azam发明此中包罗虚伪参考文献。
Azam持久研究打劫性期刊问题。他于一个运动科学研究交流群里收到群友提示,随后细心核查,发明多处“有问题的文献条款”。更使人担心的是,于218份陈诉、政策文件、新闻类参考文献中,至少14份没法检索、没法核验真伪。
面临《撤稿不雅察》的问询,世界银即将这份陈诉从官网下架并启动核查,称“从头发布时会附上申明,清楚列明所有修改内容”。但此时,陈诉已经被下载133次。
数据惊心动魄:每一277篇论文就有1篇伪造参考文献这些看似伶仃的案例,暗地里是一个体系性问题。
本年5月,《柳叶刀》刊发了一篇通信文章,给出了使人震动的数据:经由过程对于PubMed收录的近250万篇论文举行核查,研究团队发明,2026年前7周刊发的论文中,约每一277篇就有一篇援用了不存于的文献。生物医学文献中的伪造援用文献数目两年内增加至本来的12倍。
这一比例相较2023年的每一2828篇呈现一篇、2025年的每一458篇呈现一篇,出现出指数级爬升态势。研究团队由美国哥伦比亚年夜学数据科学研究所的Maxim Topaz牵头,他们使用人工智能技能,从9710万条参考文献中辨认出4406条伪造文献,漫衍于2810篇论文中。
更值患上存眷的是时间节点。Topaz团队发明,AI造假的参考文献数目于2024年年中呈现激增,这与各种AI写作东西年夜范围普和的时间彻底吻合。而按照《天然》杂志此前的报导,2025年刊发的数万篇出书物“可能包罗人工智能天生的无效参考文献”。
然而,面临云云严重的数据,学术出书界的反映却显患上缓慢。核查数据显示,跨越98%被检出存于虚伪参考文献的论文,于查询拜访时“未遭到出书方任那边理”。
对于此,差别出书机构的处置惩罚立场也存于差异。
例如,泰勒 弗朗西斯出书集团的一位讲话人暗示,正投入资源研发相干技能、增设专职职员并完美流程,用以筛查存于问题的援用文献。这名讲话人称,若参考文献存于疑点,稿件会退回作者修改,并增补申明:“若虚伪援用占比太高,或者严峻侵害稿件总体科研可托度,稿件凡是会直接拒稿。”
大众科学藏书楼出书伦理卖力人Renee Hoch吐露,出书社正于“摸索笼罩全体系的参考文献完备性筛查方案”。Hoch同时暗示,大众科学藏书楼不会直接将伪造参考文献定性为学术不端:“学术不端有明确界定,必需包罗主不雅存心要素;某一问题是否组成学术不端,由作者所属机构判断,而非期刊或者出书方。”
但《美国医学会杂志》前主编Howard Bauchner及《美国医学会小儿科杂志》前主编Frederick Rivara态度很是光鲜。二人主意,一旦论文呈现AI天生的虚伪参考文献,该当直接撤稿,由于“研究职员一旦签名成为论文作者,就要对于整篇文章的全数内容负担责任”。
16岁少年的撤稿成为正面模范于这场由AI激发的学术诚信危机中,并不是所有高中生作者的撤稿故事都使人欷歔。2012年,一个名叫Nathan Georgette的哈佛医学院年夜四学生自动撤回了本身16岁时撰写的一篇论文。他发明本身第一篇论文中的一处过错假定,直接致使第二篇发表于《大众科学藏书楼 综合》(PLoS ONE)的论文结论掉效。
工作颠末以下:2007年,年仅16岁的Georgette发表了本身第一篇学术论文,一篇免疫学相干文章登载于《互联网风行病学杂志》。这篇论文还有帮忙他拿下一项知名高中奖学金。2009年,Georgette基在此前的研究结果,于PLoS ONE发表第二篇论文。
厥后,Georgette进入哈佛年夜学读本科。2012年,他发明本身第一篇论文中存于一处过错假定。该假定对于2007年那篇文章尚不组成致命问题,却直接导致PLoS ONE的这篇论文结论掉效。
Georgette本可以对于此秘而不宣、不明晰之。但他没有逃避自身掉误,而是自动向PLoS ONE申请撤回该论文。其时《撤稿不雅察》奖饰他“治学严谨、坦诚公然”,《波士顿举世报》也发表社论暗示承认。
十几年后,当Georgette行将完成哈佛医学院学业、正于申请住院医师岗亭时,这段履历不单没有拖累他,反而成为加分项。“当初决议撤稿时,我本以为这件事会倒霉在求职。”Georgette坦言,“但所有口试官都十分承认这份坦诚。”他于简历中自动标注这篇论文为“作者自立申请撤回文章”,并乐在向口试官完备讲述工作原委。这段履历让他“深决心识到,不管临床事情还有是科研事情,于所有阶段都必需开展批判性自我复盘”。
与Georgette形成光鲜对于比的,是那些因AI伪造参考文献而被撤稿的作者。2025年,施普林格 天然旗下一本期刊《达鲁制药科学期刊》登载的一篇论文,17条参考文献中有5条经核查不存于,此中一条虚构文献竟标注了《撤稿不雅察》结合开创人Ivan Oransky的名字——声称他撰写过一篇名为《新型监视气力正于重塑科研行业》的文章,2019年刊发在《天然》,但此文从未问世。
该期刊主编Moha妹妹ad Abdollahi,同时也是这篇论文的末位通信作者,名下已经有11篇论文遭撤稿。面临质疑,他暗示,身为主编,本身“没能把控投稿审核流程”,期刊今朝正于彻查事务前因后果。“稿件通例处置惩罚流程中呈现多处疏漏,咱们正于清查问题孕育发生的历程与泉源。”
Abdollahi还有称,期刊配备两套自力软件,别离用在查重及检测人工智能天生内容,两套东西对于这篇稿件的检测成果均为阴性。介入稿件终稿修改的两名作者“专门用ChatGPT复核过参考文献,本想排查过错,可如今看来,此次复核毫无作用,反而催生了一系列问题”。
AI正于重塑学术研究的每个环节,而“幻觉参考文献”只是冰山一角。当虚伪信息以参考文献的情势嵌入学法术据库,当临床大夫依据不存于的证据制订医治方案,当体系综述援用的基础文献自己就是虚构——这场信托危机的影响,远比撤稿数字所显示的更为深远。
正如Topaz所说:“不管将来年夜语言模子可否完全消弭天生虚伪内容的问题,侵害已经经造成。”他团队发明的4000多条伪造参考文献带来的“信息污染”,其实不会跟着AI技能优化而消散。对于在学术界而言,真实的挑战也许不仅于在怎样辨认AI天生的内容,更于在怎样重修读者对于“参考文献”这一学术基石的基本信托。
参考链接:
https://retractionwatch.com/2026/07/06/ethics-journal-retracts-paper-by-high-school-student-for-ai-peer-review-manipulation/#more-135257
https://retractionwatch.com/2025/12/02/fake-references-chatgpt-journal-academic-ethics-springer-nature-whistleblowing/
https://retractionwatch.com/2026/05/07/one-in-277-pubmed-indexed-papers-in-2026-shows-fabricated-references-says-analysis/
尤其声明:本文转载仅仅是出在流传信息的需要,其实不象征着代表本网站不雅点或者证明其内容的真实性;如其他媒体、网站或者小我私家从本网站转载利用,须保留本网站注明的“来历”,并自大版权等法令责任;作者假如不但愿被转载或者者接洽转载稿费等事宜,请与咱们联系。-PA集团官网