AI当“科研搭子”，你真的放心吗？

“我一周至少看5篇跟我学术方向相关的论文，了解最前沿的指标。电力电子领域技术性特别强，效率能做到99%还是99.1%，这些我心里都有数。”在伍群芳看来，这种对领域核心指标的持续敏感，构成了判断AI输出可信度的基准线。

阳平坚举了一个例子：AI在一次内容梳理中输出“中国的碳市场即将启动”，课题组成员没有发现问题。“中国碳市场2021年就已经启动了。AI调取的资料库版本比较旧，没有收录最新的数据。”在他看来，如果研究者对自己领域的常识和前沿缺乏专业敏感，AI输出的错误就会悄无声息地进入正式文本。

前不久，学术预印本平台arXiv发布了一项对250万篇论文、1.11亿条参考文献的系统性审核，结果显示：仅2025年，arXiv、bioRxiv、SSRN和PubMed Central四大平台中就存在近15万条由AI编造的虚假参考文献。

专家分析，其根源在于生成式AI的运作方式——它倾向于生成“看起来像文献”的内容，而非检索真实存在的数据。

“很多专业领域的数据库不对通用式AI开放，DeepSeek或者豆包查不到最新的前沿文献。而且它生成的参考文献，有些实际上根本就不存在。”阳平坚忍不住叹息，“这类利用AI写成的文献综述能有什么意义呢？”

伍群芳以自身领域为例佐证了阳平坚的观点：“电力电子学科高度依赖IEEE、IET等专业数据库，但这些数据库‘有权限、要版权’，很多内容没有接入通用大模型。好的东西AI够不着，所以生成的内容也流于大众，没有真正创新可言。”

这也提示，解决AI虚假输出的关键或许不在模型本身，而在数据源的可控性——如果科研人员能够将经过审核的专业文献和自有数据“喂”给AI，而非任由它从开放网络随意抓取，虚假引文的风险将大为降低。

北京大学副校长初晓波的一段话，或许是对这场讨论最恰当的收束：“人类使用AI辅助论文写作，绝非让渡主体性，而是探索一种全新的科研分工——让AI去处理数据的广度，让人类来守住思想的深度与价值的温度。”

《光明日报》（2026年09月16日 07版）

编辑：HN008