MIT团队刚刚出来的这篇论文《使用ChatGPT时的大脑状态：在写作任务中使用AI助手导致的认知债务积累》的研究结果让我这个语言教师非常担忧。摘要：研究设计包括三个组别(LLM组、搜索引擎组和纯大脑组)，通过四个会话观察不同工具对写作的影响。
[鄙视R]他们的研究设计如下；
研究设计包括三个组别(LLM组、搜索引擎组和纯大脑组)，通过四个会话观察不同工具对写作的影响。
研究使用脑电图(EEG)记录脑活动，结合自然语言处理分析、参与者访谈和人类教师与AI评判的评分。
数据显示每个组内的命名实体识别(NER)、n-gram和主题本体论存在一致的同质性。
研究结果是大脑连接强度随外部支持的增加而系统性降低：纯大脑组最强，搜索引擎组次之，LLM辅助组最弱。LLM的使用可能导致学习技能下降，LLM组参与者在神经、语言和评分等所有层面的表现都比纯大脑组差。
具体来说差在哪里？
[石化R]用AI帮忙写作会导致"认知债务"：
也就是一种由于反复依赖ChatGPT等大型语言模型(LLMs)而替代独立思考过程的状况。
[石化R]使用LLMs导致批判性思考参与度降低，思考更加肤浅。
论文141页："也许更令人担忧的发现之一是，LLM到大脑组的参与者反复关注更狭窄的一组想法...这种重复表明许多参与者可能没有深入参与主题或批判性地检查LLM提供的材料。"
[石化R]长期认知成本增加
研究人员发现，虽然LLMs减少了即时认知努力，但它们导致"长期成本，如批判性探究能力下降、对操纵的脆弱性增加、创造力降低"。不经评估就复制LLM建议的用户有"内化肤浅或有偏见观点"的风险。
[石化R]满意度低，而且对作品“所有权”受损
使用LLMs的参与者报告对他们的文章满意度较低，并表现出对自己作品的"所有权受损"。他们花在写作上的时间更少，甚至在被问及时无法引用自己文章中的内容。
[石化R]神经证据显示认知处理减少！
脑电图(EEG)分析显示，LLM用户表现出"一种更多依赖外部支持的写作过程，极少依赖内源性语义或情感调节"，这表明他们的大脑在写作过程中参与度较低。
[石化R]文章输出同质化倾向，创造性受损
使用LLM辅助产生的文章在主题内具有统计学上的同质性，与其他组相比显示出明显较小的偏差。这表明LLMs可能限制创造性多样性和独立思考。
最重要的是，这些影响可能随着时间累积，潜在导致对AI工具的依赖，牺牲批判性思维技能和智力独立性的发展。
[蹲后续H]研究对教育者的启示：
作者们建议教育模式应该推迟AI整合，
直到学习者已经进行了足够的自主认知努力，
以促进"即时工具效率和持久认知自主性"。
对于我的启示：
看来在课堂上必须让学生用纸和笔来写点文章[萌萌哒R]
来源：木子渊