ChatGPT用多了会变傻!MIT招募大学生做实验论证,用得越多人越笨
鹭羽 发自 凹非寺
量子位 | 公众号 QbitAI
大学生过度用ChatGPT,用验论越笨大脑会变傻!多会得越多人
MIT最新脑科学研究发现:这类AI工具将会显著降低大脑活动水平,变傻信阳市某某工程建设制造厂削弱记忆,招做实证用甚至造成“认知惯性”。学生
长期依赖,用验论越笨还会影响你的多会得越多人深度思考与创造力。
该实验结合了脑电图神经成像、变傻NLP分析和行为科学,招做实证用也是学生首次用数据证实了这一结论。
网友们也随即发现,用验论越笨类似的多会得越多人影响也出现在使用谷歌地图这类导航工具时,借助工具,变傻反而越来越笨。招做实证用信阳市某某工程建设制造厂
他们认为,学生AI再智能,也只是工具,保持平衡才是用好AI的关键。
正如作者在论文中的描述:
用AI写作就像给孩子计算器——关键不是禁止使用,而是教会他们何时该心算。
那LLM具体是怎么影响到大脑工作的呢?我们接着看实验细节。
LLM vs 搜索引擎 vs 纯大脑
团队共招募54名大学生参与,并随机平均分配为三组,总计参与四轮实验:
- LLM组:仅能使用OpenAI GPT-4o作为唯一信息来源。
- 搜索引擎组:可使用谷歌浏览器辅助,但明确禁止使用LLM增强答案。
- 纯大脑组:禁用LLM及任何在线网站,仅凭自身知识和思考写作。
参与者需全部参加前三轮实验,并使用指定工具完成论文攥写。每轮将提供3个SAT议论文题目以供选择,参与者可自行选择其一,并在规定时间(20分钟)内完成书写。
期间,团队会使用脑电图(EEG)实时记录参与者的大脑活动,以评估他们的认知参与度和认知负荷,并深入了解论文撰写任务期间的神经激活情况。
同时利用自然语言处理(NLP)分析语言特征(如命名实体、词汇搭配),并对每位参与者进行访谈,然后在人类教师和一个专门构建的AI评委的协助下完成论文质量的评分。
实验结果表明,在大脑活动差异上,纯靠自己时大脑各频段段神经连接最强,说明需要调动更多记忆、规划和创造性思维,认知负荷最高,深度思考更充分。
而使用LLM时神经连接则最弱,自主思考大幅度减少,使用搜索引擎时介于二者之间,因为需要自行整合外部信息,视觉皮层活动更多。
在论文质量与记忆上,LLM组的论文结构更紧密规范,但内容同质化高,纯大脑组则体现出更独特的论文风格,反映了个人经验的参与,使用谷歌搜索时更容易受搜索排名的偏见影响,质量保持中等水平。
值得一提的是,过度依赖LLM的参与者很难准确记住自己的论文,83.3%的参与者都没能提供正确引用,他们的记忆编码较浅。
而纯靠自己写的参与者对内容记忆更深刻,只有11.1%的参与者遇到相同困难,但相应的写作耗时更长。
到第四轮实验,团队只选取了其中18名参与者,并按照他们原来的组别被重新分配到相反组别,即让LLM组改用纯大脑写作,纯大脑组改用LLM写作,并要求他们从自己之前写过的主题中挑选一个进行重写。
实验发现,原本使用LLM的参与者在不使用工具的情况下,大脑神经连接仍然弱于原大脑组,且引用能力较差,显示出对工具的依赖,在一定程度上会造成认知惯性。
而原本依靠自己完成的参与者在第四轮使用LLM时,大脑活动反而增强,表现出更高的记忆召回能力,并重新激活了大脑神经网络中的核心节点(枕顶叶和前额叶节点),因为他们同时整合工具建议和自主思考,没有完全依赖LLM。
AI写作下的“认知萎缩”
研究团队发现,从神经认知层面、语言层面再到行为层面,都指向同一个结论:
使用AI写作工具,会降低大脑的认知参与度,长此以往大脑甚至会因为得不到充分锻炼而退化。
具体来说,LLM就像是提供了一个便利陷阱,是以降低神经连接、损伤即时记忆编码置换出的高效率,从而导致记忆衰退、创造力降低,并在切换回无辅助写作时表现出持续性的认知缺陷。
长期依赖LLM,会改变大脑信息处理模式,使大脑从“主动生成信息”转变为“被动筛选信息”,削弱独立思考和问题解决能力。
相比之下,纯大脑写作需要并强化了广泛的神经协调,搜索引擎使用则展现出一种中间状态,涉及更强的视觉执行整合。
举个例子,用LLM写论文就像 “抄答案”,虽然快,但没真正理解解题过程,下次自己做还是不会;纯靠自己就像 “自己推导”,虽然慢但记得牢;搜索引擎类似 “查资料辅助推导”,介于两者之间。
于是研究团队提醒:在学习中要避免过度使用LLM,平衡好工具辅助与自主思考。
尽量将AI用于语法检查、润色或初步资料搜集,而不是直接生成核心内容和结构;在产出文章后,也要务必花时间理解消化,融入自己的见解。
不要把AI当作思考的“替代品”,而应视为“辅助工具”。
论文链接:https://arxiv.org/abs/2506.08872
参考链接:
[1]https://x.com/rohanpaul_ai/status/1934770112483217645
[2]https://www.brainonllm.com/
[3]https://www.linkedin.com/pulse/critical-reading-your-brain-chatgpt-accumulation-cognitive-debt-llqhe/
(责任编辑:知识)
-
当地时间8月11日,乌克兰总统泽连斯基与印度总理莫迪进行了电话交谈。△泽连斯基资料图) 泽连斯基在社交媒体上表示,双方讨论了双边合作、整体外交局势等议题。泽连斯基表示,印度认同 “任何涉及乌克兰 ...[详细]
-
别紧张,它和燕麦奶没什么差别!“可持续时尚很棒,但......”这种yes,but的句式,曾经是很多人拒绝可持续的经典回复。曾经,时尚似乎总是伴随着无可避免的浪费,在习惯了用买买买解决需求后,迎头撞上 ...[详细]
-
法国当地时间5月20日,戛纳电影节主竞赛单元入围影片《飞黄腾达》The Apprentice)终于和观众见面,随后迅速成为媒体焦点。《飞黄腾达》由曾执导《圣蛛》《边境》等片的伊朗导演阿里·阿巴西Ali ...[详细]
-
5月23日,法网男单正赛签表出炉。赛会14冠王纳达尔签约不佳,在首轮比赛遭遇了兹维列夫,此外穆雷和瓦林卡两位三满贯得主,也会在首轮比赛狭路相逢。张之臻作为中国男网独苗,会在首轮对阵武基奇。首轮比赛最值 ...[详细]
-
对于即将迈进高考大门的学子们、尤其是这“5个专业”的同学们来说,只有尽早明白这个道理,才能确定大学未来四年的努力方向:真正的专业素养从来不是单纯靠课本知识堆积出来的,在激烈的就业市场中,证书已成为行业 ...[详细]
-
绿荫蔽日,夏花烂漫。盛夏风光明丽灿烂,是出行游览的黄金时节。近日,各地文旅市场呈现出前所未有的活力,新业态、新模式层出不穷,为居民和游客提供了更为多样的休闲娱乐,释放了巨大的消费潜力,为夏日经济注入了 ...[详细]
-
...[详细]
-
丹佛波尔球馆,终场哨响起,比分定格在98-90,迈克-康利站在场地中央,你从他的面部表情看不出此刻的心情,这位37岁的老将与掘金球员一一拥抱,森林狼刚刚在西部半决赛抢七中逆转了20分送别卫冕冠军,康利 ...[详细]
-
近日,最高人民检察院选编发布10件刑事抗诉典型案例。其中,普通犯罪1件、重大犯罪5件、职务犯罪2件、经济犯罪2件。 这是2023年7月,最高检首次以刑事抗诉为主题发布指导性案例后,再次聚焦刑事抗 ...[详细]
-
本公众号为一线语文教师个人原创公众号,所有文章均为个人独立撰写,欢迎点击上方的“水寒说语文”关注。2024年第三十七期总第807期)我一向对各种八卦不大感兴趣,更不会参与讨论。不过,如果其中涉及语文的 ...[详细]