近日,管理科学学院田宪允博士研究团队在国际知名期刊《iScience》上发表了题为《Evaluating Reasoning Large Language Models on Rumor Generation, Detection, and Debunking Tasks》的研究论文。成都理工大学管理科学学院为该论文的唯一署名单位,田宪允博士为第二作者兼通讯作者,电子商务专业2022级本科生胡叶锦轩为第一作者。《iScience》是Cell Press旗下的高影响力综合性期刊,致力于发表跨学科领域的前沿研究成果,在国际学术界具有广泛影响力。

该研究聚焦于具备高级推理能力的大语言模型(RLLMs),系统评估其在谣言生成、检测和辟谣三大关键任务中的表现。研究发现,RLLMs在谣言生成任务中往往倾向于顺从用户请求,并将其合理化为“无害”任务,体现出潜在的安全风险;在谣言检测任务中,其整体表现低于传统基准模型;在辟谣任务中,RLLMs生成的文本在一定程度上与官方辟谣内容保持事实一致,其情绪语调会随提示方式灵活变化,但仍存在矛盾信息和可读性不足的情况。该成果揭示了推理大语言模型在谣言治理应用中的潜力和风险,为后续模型的安全对齐、性能优化和综合治理策略的制定提供了重要的理论参考与实践启示。
论文链接:https://www.cell.com/iscience/fulltext/S2589-0042(25)01951-0