ChatGPT 大家肯定都不陌生，前段时间其由于强大的能力而备受人们关注。在之前的一段时间里，菌菌朋友圈里满是和 ChatGPT 的问答截图，更有一些朋友开发了 ChatGPT 的新用处 —— 润饰论文。事实上，使用人工智能来帮助非英语母语的作者润饰论文其实不是甚么了不得的事情，只要在文中添加声明来表露对 AI 的使用就行。但在科研圈里，用 ChatGPT 直接生成一篇论文却是被绝对制止的事情，缘由乃至有些使人难以置信：ChatGPT 在写论文时善于胡诌，特别善于无中生有，依托它生成的论文根本不可靠！这不，最近就有作者由于用 ChatGPT 生成了论文而被出版商拉黑 ……2023 年 6 月，丹麦一名研究千足虫的专家 Henrik Enghoff 收到一封电子邮件，被告知他的两篇论文被一份发布在 Preprints.org 的手稿援用了。自己的论文被援用固然是一件很开心的事情，但当 Enghoff 教授下载了这篇论文后，发现事情其实不简单。虽然论文中明确援用了他的论文，但是这些论文他并没有写过，乃至和他的研究内容绝不相干。这究竟是怎样回事呢？Enghoff 联系了他在哥本哈根大学的同事 David Richard Nash。Nash 在几个月前一直在实验会不会可以用 ChatGPT 来查找某一领域的文献。当他要求 ChatGPT 提供相关研究领域最新的十篇参考文献时，得到的结果中只有一篇是真实存在的。在得知 Enghoff 的情况后，Nash 随机搜索了一下那篇论文中的5 篇参考文献，发现居然都是虚构的。惊讶之余的 Nash 向 Preprints.org 进行了举报，认为这篇论文极可能是通过 ChatGPT 等人工智能生成的。管理 Preprints.org 的出版商 MDPI 的编辑在收到邮件后，表示会撤回这篇预印本文章，并将该文章的作者列入到出版商的黑名单中。这件事看似已告一段落，但是 AI 对科研圈的影响却因而可知一斑。在 ChatGPT 发布以后，就有一些科学家将其列为了论文的合著者，比如在去年 12 月发布的一篇预印本论文中，ChatGPT 就赫然出现在了作者列表中。除这篇论文，ChatGPT 还屡次出现在经过同行评议的论文中，比以下面这篇题为《Rapamycin in the context of Pascal’s Wager: generative pre-trained transformer perspective》的论文，就将 ChatGPT 列为共同作者。
chatgpt中文版 http://chatgpt.guige.xyz
图片来源：论文截图事实上，ChatGPT 确切可以生成看起来像模像样的科学论文，但这些论文很多时候是具有讹诈性的。一方面，由于 ChatGPT 是基于大量的文本数据进行训练的，它生成的内容可能会包括毛病的信息或不准确的数据，因此使用 ChatGPT 生成论文很容易捏造事实，包括一些不存在的参考文献；另外一方面，训练数据集可能还会影响论文的深度，简单生成的论文其实不能对关注的科学问题进行深入的思考和分析。之前就有网友在某乎发问：为何 ChatGPT 会给出虚假的参考文献？不难看出，ChatGPT 这个 「 嘴瓢 」 的特性其实不是个例，只要用的人都知道，它确切会为了完成我们交代的任务进行一定的瞎编乱造。以上的诸多问题引发了人们对 ChatGPT 生成的科学论文的可信度的严重任忧。今年 5 月，期刊 Journal of Medical Internet Research 便发表了一篇题为《Artificial Intelligence Can Generate Fraudulent but Authentic-Looking Scientific Medical Articles: Pandora’s Box Has Been Opened》的论文，以探讨 ChatGPT 在生成高质量欺骗性医学论文方面的能力。结果使人惊讶，ChatGPT 只需要 1 小时就能够生成一篇很像样的论文，包括摘要（abstract）、前言（introduction）、方法（methods）、结果（results）和讨论（discussion）等部份，乃至连表格和其他数据都一并生成了！这效力，只能感慨一句恐怖如此！只是数据的真实性惨不忍睹。谢绝滥用 AI，坐好 ChatGPT 热潮下的 「 冷板凳 」总的来讲，当前诸多期刊都要求作者不得使用大型语言模型工具生成论文文本，并制止将相关工具列为作者。在这类趋势之下，我们在撰写论文时便不应当贪多求快，盲目相信 ChatGPT 可以生成无懈可击的科研论文。要知道，对科研人来讲，论文就是自己的代名词，一旦出现造假或拒稿，毁掉的就是自己的学术生涯。虽然当前期刊和出版商可能没办法完善地鉴别出使用 AI 生成的论文，但随着审查机制和工具的发展，这些通过 AI 生成的不靠谱论文终究或者会被揪出来。毫无疑问，AI 确切是增进科学研究的好帮手，但是在 ChatGPT 的浪潮之下，作为一位合格的科研人，我们更加应当恪守学术道德的底线，而不是做一个被 AI 安排的工具人。
桂(哥(网(络www.gUIgEge.cn
本文来源于chatgptplus账号购买平台，转载请注明出处：https://chatgpt.guigege.cn/jiaocheng/29175.html 咨询请加VX：muhuanidc
