用 AI 援手阅读文件、润色抒发乃止论文撰写伊人网，可能照旧成为好多东谈主商讨责任中的一部分了，便捷天然便捷，但 AI 的大齐使用也激励了好多乱象。最近 Nature 专栏的一篇报谈就揭浮现，数百篇发表在巨擘学术期刊上的论文被发现含有赫然的 AI 生成印迹，而作家却未按司法败露 AI 的使用。更令东谈主担忧的是，这些未败露 AI 使用的论文不仅出刻下袖珍期刊，还出刻下由 ElsevierSpringer NatureIEEE 等顶级学术出书商刊行的期刊中。
"算作一个 AI 话语模子 ... "
问题首先通过一些洒落在论文文本中的、极具辨识度的 AI 印迹暴浮现来。一些科学诚信的监督者们难获得，一些学术论文中竟出现了诸如" regenerate response "（再行生成复兴）这么的短语，委果是作家在复制粘贴 AI 生成试验时"手滑"的径直凭证。
雷同的"露馅"短语还有不少。举例，" as an AI language model "（算作一个 AI 话语模子）、" Certainly， here are …"（天然，这里是……）以及" As of my last knowledge update …"（为止我终末的学问更新……）等。这些通常是 AI 在回答问题时自带的规矩性开场白、组织性领导语，或是对其自身信息局限性的免责声明。这种赫然的 AI 用语，的确大齐堂金冠冕地出刻下了致密的学术论文中。
（来源：Learned Publishing）
肯塔基大学路易斯维尔分校的商讨素养与传播讲师 Alex Glynn 是系统跟踪这一征象的学者之一。他创建了一个名为" Academ-AI "的在线数据库，挑升收录那些包含赫然 AI 生成印迹但未声明的学术文件案例。为止刻下，该数据库已记载了跨越 700 篇此类论文。Glynn 在一项对数据库中前 500 个案例的初步分析中发现，这个问题的影响范围远超预期。数据自满，这些存在问题的论文并非只是出刻下影响力较低或边际性的出书物中，其中高达 13% 的论文发表在由ElsevierSpringer NatureMDPI等海外大型、知名学术出书商出书的期刊上。
图丨按出书商分类的著述 / 论文数目（来源：arXiv）
波兰卡托维兹经济大学的商讨员 Artur Strzelecki 对一些知名期刊进行了商讨，也不异发现了这一征象。他在学术期刊 Learned Publishing 上发表的商讨，识别了 89 篇发表在被 Web of Science 或 Scopus 数据库收录、领有影响因子或 CiteScore 标的的期刊上的论文，这些论文均带有明确的 ChatGPT 生成试验的"钤记"。令东谈主战栗的是，其中 64 篇论文（占比跨越 70%）地方的期刊在其各自学科边界内位于 Scopus 数据库排行的前 25%（即 Q1 区），更有 28 篇论文地方的期刊排行在前 10%（即 90th percentile 以上）。举例，影响因子极高的顶级期刊如Trends in Analytical ChemistryTrends in Food Science & Technology也未能避免，其发表的著述中也出现了此类 AI 印迹。
这些商讨还揭示了问题的学科区分。Strzelecki 的分析自满，在识别出的 89 篇论文中，医学（19 篇）、绸缪机科学（17 篇）和工程学（16 篇）是重灾地伊人网，但环境科学（10 篇）、社会学、老练学、措置学（各 7 篇）以及经济学（6 篇）等边界也均有波及。这标明 AI 的未败露使用已无为浸透到多个学科边界。
图丨不同学科的区分情况（来源：Learned Publishing）
更令东谈主担忧的是，这些可能包含未教学证试验的论文照旧运转投入普通的科学相易轮回中。斯特泽莱茨基的商讨指出，为止 2024 年 9 月 30 日，他所分析的 89 篇论文中，已有 60 篇被后续的其他学术文件援用，总援用次数达到 528 次。这意味着，潜在的、由 AI 引入的空幻或不准折服息，可能正在通过援用链被放大和传播，对科学学问的蕴蓄形成潜在混浊。
大香蕉
出书界的轻率与难受
对于那些照旧被发现 AI 未败露使用的论文，基本上齐照旧被作念了撤稿处理。举例，知名学术监督网站"撤稿不雅察"（Retraction Watch）最近就公布了多起干系案例。举例，一位谷歌工程师的预印本手稿因包含 AI 生成的奇怪短语（如" squared blunder "和" info picture "）而被撤离；另一篇全齐由 ChatGPT 撰写的对于千足虫的预印本，因包含空幻参考文件，在斯须上线后即被撤下。
（来源：Retraction Watch）
但除了公开的撤稿，还有一种更为隐敝的处理情势——"隐形修正"（stealth corrections）也引起了学界警惕。Glynn 与法国图卢兹大学的绸缪机科学家 Guillaume Cabanac 等东谈主的商讨发现，一些出书商在发现已发表论文中存在 AI "指纹"短语后，并未发布致密的勘误或撤稿声明，而是悄无声气地在后台修改了在线版块，将这些显露性的短语删除。
举例，Toxicology 此前就有一篇论文中的" regenerate response "短语在莫得任何公开阐扬的情况下散失了。Glynn 和 Cabanac 的商讨跟踪到了跨越 100 篇经验了此类"千里默的"发表后修改的著述，其中部分修改就与未败露的 AI 使用议论。"这种作念法威迫到科学诚信，" Cabanac 默示，"透明的记载保存对确保已发表试验的信得过度至关垂死。"
在那些确乎发布了致密蜕变的案例中，后果不异令东谈主失望。在 11 篇致密修正的论文中，仅有 1 篇最终妥当干系期刊的 AI 败露计谋。大多数情况下，AI 生成的文本被移除或用括号绮丽，但并未按条目在正文中添加 AI 使用声明。
面对 AI 技艺带来的冲击，如今群众主要的学术出书商和期刊组织大齐照旧制定或更新了对于在学术出书中使用 AI 的计谋指南，可是，就上述这些处理情况来看，这些计谋似乎莫得获得灵验的实施。
就刻下而言，学术界对 AI 使用的照旧形成两大基本共鸣：
其一，东谈主工智能不可被列为作家。这是委果总共主流机构和期刊（包括海外医学期刊剪辑委员会 ICMJE、出书伦理委员会 COPE、NatureScienceCellThe LancetJAMA 等）的共同态度。情理很明确：AI 无法承担作家所必须承担的职守，即对商讨责任的原创性、准确性和完满性负责。
其二，使用东谈主工智能援手必须进行败露。大多数出书商条目，淌若作家在商讨或写稿过程中使用了 AI 用具（尤其是用于生成文本、图像或代码），必须在稿件的特定部分（如步调、致谢、或投稿信中）明确声明，阐扬使用了何种用具以及具体用途。
可是，在具体履行层面，各家计谋存在各别。Nature 杂志条目，若使用大型话语模子，必须在"步调"部分详备阐扬，并圮绝使用 AI 生成的图像（仅有小数数例外）。Science 杂志的计谋则允许在论文的"步调"章节说光芒，正派地继承 AI 制作插图、撰写论文试验，但 AI 自身不可算作作家或合著者。Cell 杂志也圮绝将 AI 列为作家，条目作家在使用 AI 援手技艺时需在投稿信和声明部分注明，并对作品的准确性和原创性负全责，未获剪辑明确许可不得使用 AI 生成图像。
图丨主要期刊的 AI 使用计谋（来源：互联网整理）
与此同期，一些出书商的计谋也在顺应 AI 用具日益提高的现实。举例，英国物理学会出书社（IOP Publishing）起首条目作家声明 AI 使用，但后续修改了计谋，不再强制条目败露，转而更侧重于通过自动化和东谈主工检查来确保试验的准确性和平安性（但其计谋依然圮绝使用 AI "创建、编削或掌握"商讨数据或后果）。Springer Nature 也指出，用于改善可读性、作风、语法或拼写空幻的" AI 援手文稿剪辑"无需十分声明。IEEE 则提出在"致谢"部分败露 AI 生成的总共试验（文本、图表、图像、代码），但对于常见的剪辑和语法增强用途，败露则为"提出"而非强制。
尽管计谋框架日渐明晰，但大齐未败露 AI 使用案例的曝光碰巧阐扬，现存计谋的履行和同业评审经由在灵验识别和措置 AI 生成试验方面仍濒临弘远挑战。正如 Glynn 所指出的，Radiology Case Reports 上一篇论文中出现" I am an AI language model "这么直白到不可再直白的句子，竟然能总共绿灯通过作家、剪辑、审稿东谈主、排版东谈主员等总共法子的审查，这自身就显露了现存体系的脆弱性。
排版：溪树伊人网