LLM Wiki的反面

LLM Wiki的反面
DiffDayLLM Wiki开始火了,在从业者又多了一个炒作概念,Claude又可以推动Token销售的时候,我反倒觉得这不仅是一个新瓶装旧酒的东西,甚至对人脑的能力习得有误导的负面结果,起码不适合大规模推给走入社会前的普通学习者(认知爬坡阶段)。
LLM Wiki像一个Skill/模型自动 分片型的RAG数据库。
新瓶装旧酒:新的形式/包装,但内容/本质不变
旧瓶装新酒:旧的形式/包装,但内容/本质是新的
不加批判地将深度思考外包给LLM,会让大脑的“慢思考“系统发生功能性的”废用性萎缩“。这不会让我们”更智能“,反而会削弱我们理解复杂世界、构建稳定自我及进行真正创新活动的能力。
慢思考不可外包
当你真正”慢思考“时,你的大脑会执行以下关键功能:
- 冲突监测与控制:直觉答案(快思考)与逻辑之间的冲突,并抑制直觉冲动
- 工作记忆的操纵:依赖顶叶和额叶的协同,同时维持多个假设,进行”心智演练“
- 认知卸载后的再加工:当你找LLM得到一个初稿,这只是开始,真正的思考发生在你的审视、批判、重组、连接自己独特经验和目标的过程中,这个过程会触发
海马体(记忆巩固)和默认模式网络(自传体记忆与未来想象)的深度参与。
当你把产生草案/提供答案 这一步交给LLM后,你往往跳过了/极大缩短了 慢思考系统2 进行主动构建和批判性评估的过程,你得到的是一个 外部的结论,而非一次 内部的认知锻炼。
认知能力的多维退化风险
长期依赖”大脑外包“,一整套高级认知素质的前进会停步,甚至退步。
- 批判性思维和”论证耐力“的丧失:真正的思考需要忍受不确定性,在矛盾的证据中费力梳理。当我们的大脑期待”即时,确定的答案“,从而会丧失对 模糊性,复杂性和悖论的容忍度,当我们不再追问:它为什么这么说?还有什么其它可能?它的前提成立吗?也会丢失批判性思维的起点。
- 元认知能力的萎缩:元认知,即”思考自己的思考“,是智能的核心,它要求我们监控自己的理解状态(我懂了吗?)、评估自己的知识边界(我哪里不知道)。外包思维整理你就失去了通过艰难构建去发现”自己真正不懂之处“的机会,你会产生一种”知识幻觉“-- 以为”检索得到“就等于”真正理解“,然而非也
- 创造力的扼杀:创造力并非天马行空的联想,而是联想后的聚焦、约束和独特整合。创造力来源于你大脑
默认模式网络(产生新奇联想)于执行控制网络(评估、筛选、精炼)之间的动态拉锯,知识学习的外包将压制那个需要付出痛苦努力才能生成的、真正属于你的、反直觉的洞见。 - 长期记忆与知识结构的空心化:记忆是思考的残留物,没有经过主动编码、深度加工(慢思考)的信息,很难形成稳固的长期记忆。用完即忘的模式,你的大脑没有建立起丰富的,相互连接的知识图谱。而正是这个内在的知识图谱,决定了你理解新问题的速度和深度,失去了它,你就失去了独立认知的脚手架。
使用模式的认知
LLM是强大的工具,如同计算器、搜索引擎一样,无关对错,问题在于使用模式。
- 危险的模式:先问LLM不要成为面对任何问题的第一反应,此会系统性地剥夺自己进行”初始思考“的机会,哪怕只做5分钟主动思考,再对照求助LLM,认知效果也远胜直接获取答案。这5分钟的认知热身,激活了你的相关神经网络
- 认知不平等的加剧:有强大内在知识图谱和批判性思维能力的专家,能用LLM作为副驾驶,加速创新。而认知能力本就处在发展中(如学生)或较弱的人群,过度依赖LLM,会导致本可锻炼的思维能力萎缩,这会形成新的,更隐蔽的认知阶级鸿沟。
后记
大脑不是等待填满的容器,更不是可随意卸载给外部的硬盘,它是一个需要通过主动、费力、有时甚至痛苦的”慢思考“去不断重塑自身连接的网络。
LLM时代提醒我们,真正不可替代的是如何艰难地提出更好的问题,及再不确定性中做出独立判断的那份勇气和智慧。所以,在你感兴趣的领域,尽可能不要走向LLM-Wiki的模式,要将LLM作为苏格拉底式的对手,问”我这样想对么?请从5个角度反驳我“。定期进行深度阅读、写作/复杂计算,就像身体需要力量训练,大脑也需要。
评论
匿名评论隐私政策













