AI技术在学术界引发争议:从虚假论文到质量标准的挑战|TodayAI

人工智能新闻4个月前更新 TodayAI
2,356 0 0
PonderAI-智能助手

AI技术在学术界引发争议:从虚假论文到质量标准的挑战|TodayAI

近来,随着AI技术的不断进步,学术界发现自身正面临前所未有的挑战。一方面,AI的强大能力为研究和创新提供了无限可能,另一方面,AI生成的内容也带来了诸多问题,尤其是在学术论文的撰写和发表方面。

据404 Media报道,越来越多的AI生成论文开始在学术期刊中出现,这不仅涉及一些质量较低的期刊,甚至一些有声望的学术刊物也不例外。这一现象不仅突显了AI技术的普及,更暴露了学术界现有的诸多问题,包括质量控制、录取标准以及基于付费的出版模式等。

近几周,研究人员在X平台(前身为Twitter)上展示了这一问题,他们通过在谷歌学术——谷歌的学术期刊数据库中搜索如“就我最后一次知识更新所知”和“我无法访问实时数据”等AI特有的短语,揭示了AI生成论文的踪迹。

在“博士后的生活”博客中,出现了大量使用这些短语的论文。通过检查这些论文所发表的期刊,我们发现其中一些期刊存在掠夺性行为,即出于经济利益发表任何内容,而另一些则不那么明显。

404 Media的报道指出,至少有一篇论文似乎是直接从聊天机器人中复制粘贴的,以至于作者在提交给著名的化学期刊《表面与界面》并通过同行评审后发表时,甚至没有删除聊天机器人的介绍部分。

Bellingcat研究员Kolina Koltai发布的一篇论文截图显示,该论文在引言中包含了“当然,这里是您主题的可能引言”的短语,这听起来很像对AI指令的礼貌回应。

AI技术在学术界引发争议:从虚假论文到质量标准的挑战|TodayAI

《表面与界面》的期刊编辑和波士顿学院物理学教授Michael J. Naughton在接受404 Media采访时表示,该期刊正在对这篇论文采取行动,尽管截至发稿时,这篇论文仍然出现在医学期刊数据库ScienceDirect上。

通过在谷歌学术上进行搜索,我们发现一些论文明显是使用OpenAI聊天机器人撰写的,或者以其他方式显示了其作为研究和写作工具的局限性。还有很多其他内容,几乎可以确定是学者们借助AI懒散地创作了内容。

这些论文,尤其是在声誉良好的期刊中出现的论文,似乎表明AI技术已经比我们之前认为的更深入地渗透到学术界中。除非期刊开始执行它们自己的标准,否则AI将继续模糊那些本应是我们文化智慧堡垒的界限。

© 版权声明

相关文章