愚昧之巅: 达克(Dunning)游乐场中的顶级玩家

引一座没有出口的游乐场1999年心理学家大卫·达宁David Dunning和贾斯汀·克鲁格Justin Kruger发表了一篇论文揭示了一个令人不安的认知规律能力最差的人往往对自己的能力评价最高。这个规律后来被称为达克效应Dunning-Kruger Effect其认知曲线的第一个峰值被戏称为愚昧之巅Mount Stupid。但如果我们把这个模型从一条静态的曲线扩展为一个动态的空间它更像是一座游乐场——一座被精心设计的、有高墙、有玩具、有积分排行榜的游乐场。在这里那些按按钮按得最熟练的人被冠以顶级玩家的称号。他们不知道的是这座游乐场就是牢笼本身。第一章 围墙你看不见的不是不存在每一座游乐场都有边界。但这座游乐场的边界设计极为精妙——它不是一道让你感到压迫的铁丝网而是一道让你根本意识不到它存在的墙。1.1 墙的本质认知的编译边界在编程中有一个概念叫作用域Scope。一个变量在函数内部声明函数外部就无法访问它。对于函数内部的代码来说函数外部的变量不是被禁止访问而是根本不存在。defplayground():skill调用APIconfidencefloat(inf)# 在这个作用域里skill 就是全部# 变量 底层原理 从未被声明因此不存在# playground 外面的世界# 操作系统调度、内存分页、CPU指令流水线、# 编译器优化、硬件中断、量子隧穿效应……# 这些变量在 playground() 的作用域里连名字都没有。游乐场的围墙就是这个作用域的边界。不是你被禁止去想墙外的世界而是你的认知作用域里压根没有声明过那些变量。你无法思考一个你连名字都不知道的东西。这比无知更可怕。无知是我知道有些东西我不知道。而围墙制造的是元无知——“我不知道有些东西我不知道”。用集合论的语言无知A∖B≠∅A \setminus B \neq \emptysetA∖B∅即我知道存在我不了解的领域。元无知UperceivedBU_{perceived} BUperceived​B即我所感知到的全集就等于我已知的集合。全集之外nothing。1.2 墙的维护机制回音室与正反馈围墙不是一次性建成的它需要持续维护。游乐场提供了两种高效的维护机制第一回音室。游乐场内的玩家彼此确认。当所有人的作用域都一样小时没有人能指出谁的作用域小。这就像一群只学过牛顿力学的人讨论物理学——在他们的世界里牛顿力学就是物理学的全部。没有人会突然提到等等光速附近牛顿力学会失效因为没有人的认知中存在光速这个变量。第二正反馈。游乐场的奖励系统只奖励按对按钮不奖励理解按钮为什么能工作。你调用model.fit()训练了一个模型准确率92%排行榜给你加分。没有人问你反向传播的链式法则是什么梯度消失为什么会发生你的损失函数的凸性如何这些问题不在评分标准里因此不在认知作用域里。第二章 按钮熟练不等于理解2.1 调库的本质符号操作 vs 语义理解约翰·塞尔John Searle在1980年提出了著名的中文房间思想实验一个不懂中文的人通过查阅一本巨大的规则手册可以对中文输入给出正确的中文输出。从外部看他懂中文从内部看他只是在做符号操作。调库式编程就是一间中文房间。# 顶级玩家的深度学习importtorch modeltorch.nn.Sequential(torch.nn.Linear(784,128),torch.nn.ReLU(),torch.nn.Linear(128,10))optimizertorch.optim.Adam(model.parameters())loss_fntorch.nn.CrossEntropyLoss()# 训练循环——按按钮forepochinrange(100):outputmodel(data)lossloss_fn(output,labels)loss.backward()optimizer.step()optimizer.zero_grad()# 我精通深度学习。这段代码能跑。能出结果。能上排行榜。但写这段代码的人可能完全不知道以下任何一件事ReLU()为什么比Sigmoid()在深层网络中更不容易导致梯度消失微积分链式法则中导数的连乘衰减Adam优化器的自适应学习率是如何通过一阶矩和二阶矩估计实现的概率论指数移动平均CrossEntropyLoss的信息论含义是什么它度量的到底是两个分布之间的什么距离信息论KL散度的变体为什么784 → 128 → 10的结构能工作万能近似定理Universal Approximation Theorem的前提条件是什么泛函分析他们按下了按钮玩具动了。他们按了一万次每次都动了。于是他们得出结论我掌握了让玩具运动的原理。不你只是掌握了让按钮被按下的手势。2.2 熟练度的陷阱过拟合于工具在机器学习中有一个概念叫过拟合Overfitting模型在训练数据上表现完美但在从未见过的新数据上一塌糊涂。因为它记住的是训练数据的噪声和特殊模式而非底层的一般规律。调库式顶级玩家就是过拟合于特定工具和特定环境的人。他们的能力函数可以这样描述Cplayer(environment){极高if environment游乐场熟悉的库、框架、流程 趋近于零if environment≠游乐场C_{player}(\text{environment}) \begin{cases} \text{极高} \text{if environment} \text{游乐场熟悉的库、框架、流程} \ \text{趋近于零} \text{if environment} \neq \text{游乐场} \end{cases}Cplayer​(environment){极高​if environment游乐场熟悉的库、框架、流程趋近于零​if environment游乐场​这是一个阶跃函数不是一个平滑的能力曲线。他们没有泛化能力。换一个框架换一种语言甚至同一个库升级了一个大版本他们的整套技能树就可能瞬间报废。而真正理解底层原理的人其能力函数是连续且平滑的——因为数学不会升级换代物理定律不会发布breaking change逻辑推理不会被deprecate。第三章 精致牢笼三面墙的合围围墙划定了边界按钮提供了虚假的掌控感。两者合力构成了一座精致牢笼。之所以称之为精致是因为这座牢笼不粗糙、不丑陋、不令人不适。恰恰相反它舒适、高效、令人愉悦——这才是它最危险的地方。粗糙的牢笼囚犯会想逃精致的牢笼囚犯会感谢它。这座牢笼有三面墙。3.1 第一面墙编程抽象泄漏的消音器Joel Spolsky 在2002年提出了抽象泄漏定律Law of Leaky Abstractions所有非平凡的抽象都在某种程度上是有泄漏的。意思是无论你的库封装得多好总有某些场景会泄漏出底层的复杂性。TCP协议在大多数时候让你以为网络是可靠的但丢包、乱序、拥塞窗口的问题终究会浮现。garbage collector在大多数时候让你以为内存是无限的但stop-the-world暂停终究会出现。在正常的工程实践中这些泄漏是程序员成长的契机——它迫使你往下看一层理解抽象之下的机制。但游乐场的精妙之处在于它把泄漏也封装了。当底层出了问题游乐场不会暴露原始的错误和复杂性它会弹出一个友好的提示框“请升级到最新版本或请使用推荐配置”。玩家不需要理解问题只需要按另一个按钮。# 真实世界的泄漏 SegmentationFault (core dumped) # 你需要理解虚拟内存、页表、指针算术、栈帧布局…… # 游乐场的修复 pip install --upgrade tensorflow # 问题消失了。你什么都没学到。这面墙把所有可能唤醒你的信号都消音了。3.2 第二面墙数学局部线性的蜜糖在微积分中有一个基础概念泰勒展开。任何足够光滑的函数在某一点的邻域内都可以用一个多项式来近似。特别地在极小的邻域内任何曲线都看起来像一条直线。f(x)≈f(a)f′(a)(x−a)一阶近似即线性近似f(x) \approx f(a) f(a)(x-a) \quad \text{一阶近似即线性近似}f(x)≈f(a)f′(a)(x−a)一阶近似即线性近似游乐场就是一个被人为限制在极小邻域内的世界。在这个邻域里一切都是线性的、可预测的、符合直觉的。你多学一点就多会一点。你多按一个按钮就多一个功能。输入和输出之间是简单的正比关系。但真实世界的知识曲线在脱离这个微小邻域之后充满了拐点你以为自己在上升实际上曲线已经改变了凹凸性你正在加速接近一个你看不见的极大值。奇点某些问题在某些点上根本没有解析解。不是你不够聪明是问题本身在那个点上爆炸了想想1/x1/x1/x在x0x0x0处。混沌初始条件的微小差异导致结果的巨大不同。你上次按按钮成功了这次用几乎一样的方式按结果完全不同。游乐场通过限制你的活动范围让你永远待在泰勒展开有效的那个微小邻域里。你因此得出结论世界是线性的。不是你的世界太小了。3.3 第三面墙物理低熵幻觉热力学第二定律告诉我们孤立系统的熵无序度永远不会自发减少。但游乐场不是孤立系统。它是一个被持续注入负熵即秩序的开放子系统。那些库的开发者、框架的维护者、文档的编写者——他们在墙外做着大量的熵减工作调试、优化、修复、重构然后把成果以一键安装的形式注入游乐场。对墙内的玩家来说世界看起来永远是井井有条的。安装一个库一行命令。调用一个函数两行代码。输出结果完美格式化。他们没有意识到这种秩序不是自然状态而是墙外的人用巨大的智力劳动强行维持的。就像一个恒温房间里的人以为温度恒定是宇宙的默认设置浑然不知墙外有一台巨大的空调在日夜不停地运转而那台空调随时可能坏掉。当空调坏掉的那一天——当核心库突然停止维护、当API发生不兼容的breaking change、当某个底层依赖被发现有安全漏洞——低熵幻觉将瞬间破碎。而那些从未学过如何应对熵增即混乱、不确定性、底层复杂性的玩家将发现自己赤身裸体地站在暴风雪中。第四章 顶级玩家的肖像综合以上三面墙我们可以画出一幅顶级玩家的完整肖像维度顶级玩家的自我认知实际情况能力来源“我的技术很强”工具很强你只是会用知识边界“我知道的就是全部”你的全集 你的作用域 ⊂ 真实全集应对变化“出了问题就换个库”库没了你就没了学习曲线“学习就是学新API”你在同一个平面上平移从未上升过一个维度自信来源“我做出了结果”结果是别人的代码做出的你只是按了按钮最后一行尤其致命。做出了结果和理解了原理之间的鸿沟恰恰是达克效应最肥沃的温床。因为结果是可见的、可展示的、可获得社会奖励的而理解是内隐的、难以量化的、无法在排行榜上体现的。游乐场的奖励机制天然地筛选出重结果、轻理解的玩家并把他们推上愚昧之巅。第五章 如何发现自己在笼中如果你读到这里产生了一丝不安那恭喜你——不安感本身就是墙上出现的第一道裂缝。以下是几个自我检测的信号它就是这样工作的终结符。当你解释某个技术时如果你的解释链条在因为库/框架就是这样设计的处终止而非在数学定理或物理原理处终止你可能在笼中。恐惧感的缺失。真正深入过某个领域的人会对该领域保有一种持久的敬畏甚至恐惧因为他见过那些奇点和混沌。如果你对自己所在的技术领域只有自信没有敬畏你可能在笼中。无法向下追问两层。试着对你最熟悉的工具问三次为什么。如果在第二个为什么时你已经答不上来你可能在笼中。model.fit()为什么能训练模型→ 因为反向传播。反向传播为什么能工作→ 因为链式法则。链式法则的前提条件是什么在什么情况下它会失效→ ……工具更替时的焦虑程度。当一个你熟悉的框架被淘汰时你的焦虑程度直接反映了你对底层原理的掌握程度。理解原理的人换框架只是换了一层皮只会调库的人换框架等于从头开始。结语你想出去看看吗?这座精致牢笼没有锁。它从来不需要锁。舒适感就是最好的锁。走出牢笼的方式不是寻找钥匙而是主动选择不舒适去读一次源码而不是只读文档。去推导一次公式而不是只调用函数。去经历一次从零构建的痛苦而不是只享受pip install的快感。去承认一次我不知道而不是用另一个API调用来掩盖无知。达克游乐场的顶级玩家不是因为愚蠢而被困。他们被困是因为游乐场太精致按钮太好用围墙太隐蔽而排行榜上的数字太诱人。真正的顶级玩家是那些翻过墙去的人。他们翻过去之后发现墙外没有排行榜没有积分没有欢呼声——只有沉默的、广袤的、充满未知的真实世界。而他们在那里从学徒重新开始。