Nature|AI让科学家发更多论文，却未必做出更好的科学
模型研究预测，使用LLM的科学家将“ 工作更多，但质量更低 ”
研究表明，发表论文的激励措施和大型语言模型的使用相结合，将导致论文数量增加，但论文的质量会降低。
一个人举着一部智能手机，屏幕上显示着一个人工智能聊天机器人应用程序，背景是色彩鲜艳、未来感十足的模糊画面。
科学家越来越多地使用人工智能工具，这可能会提高他们的工作效率，但同时也可能以牺牲质量为代价。
一项建模研究1表明，使用大型语言模型来帮助他们进行研究的科学家将减少改进工作的时间，并迅速投入到新的项目中。
作者写道，采用低级逻辑模型会导致科学家“工作量增加，但质量下降，而不是工作量不变，但质量提高”。但他们也表示，造成这种结果并非完全应归咎于人工智能工具。
该研究的共同作者、西雅图华盛顿大学的生物学家卡尔·伯格斯特罗姆表示，研究结果反映了科学界激励机制的缺陷，即重数量轻质量。他说，科学家们被激励去大量发表论文，而LLM则帮助他们达到不断增长的论文数量目标。“LLM本身很少是问题所在，”伯格斯特罗姆说，“LLM就像一面镜子，映照出我们已经存在的问题。”该研究于7月19日发布在arXiv预印本库中，尚未经过同行评审。
为了预测LLM将如何改变科研生产力，作者将研究过程分解为若干独立阶段。首先是发现阶段，科学家们在此阶段集思广益，提出假设并进行初步实验，以确定项目的价值。接下来是分为两部分的开发阶段，包括必要的工作（例如制作图表和撰写论文初稿）和可选的开发工作（例如进行后续实验和润色论文）。
作者借鉴了最优觅食理论的方法——该理论分析动物如何在资源节约的同时最大化能量获取——来分析科学家在将LLM纳入研究后将如何重新分配精力。作者的模型假设低层模型处于最佳运行状态——成本低、速度快、精度高。
模型预测，LLM可以加速科学流程的各个阶段，但这种加速并不会带来更高质量的论文。更快的发现和必要工作阶段意味着研究人员可以比没有LLM帮助时更快地发表论文，而发表的压力使得他们几乎没有动力花额外的时间来润色这些论文。
芝加哥大学（位于伊利诺伊州）的数据科学家兼社会学家詹姆斯·埃文斯表示，该模型准确地反映了当前科学领域的激励机制。埃文斯并未参与这篇预印本的撰写，但他曾与伯格斯特罗姆合著论文，并协助指导了预印本合著者埃蒙·杜德的博士论文研究。埃文斯指出，预印本中描述的情况已有证据支持：作为两份期刊的编辑，他发现投稿数量增长了九倍，其中超过90%都是他所谓的“人工智能生成的垃圾”。
但埃文斯也认为，法学硕士对科学并非完全有害；他说，法学硕士可以促进不同领域之间的对话，并为科学发现开辟可能性。
其他研究人员也看到了LLM的益处。加拿大多伦多大学研究人工智能的经济学家约书亚·甘斯表示，这些工具能“提高人们的工作效率”。LLM只是一种工具，研究人员“可以选择使用或不使用”。他指出，尽管面临着快速发表论文的压力，但研究人员仍然可以对项目进行改进，并补充说，为了提高科研产出，减少对工作的精雕细琢或许也是值得的。
伯格斯特罗姆认为，随着LLM的出现，科学界的激励机制需要改变。他建议，衡量科学家的成功标准应该放在他们最优秀的作品上，而不是他们发表的论文数量或论文的引用次数。“当有人申请终身教职时，我不在乎他们的简历有多长。我只想看他们最重要的五篇论文，”伯格斯特罗姆说。“如果我们用这种方式来评价科学家，那么他们就没有动力去大量发表论文了。”