AI时代，为什么还要学习？
关于判断力、摩擦力，以及AI唯一无法为你做到的事。
微信 ezpoda免费咨询：AI编程 | AI模型微调| AI私有化部署
AI模型价格对比 | AI工具导航 | ONNX模型库 | Tripo 3D | Meshy AI | ElevenLabs | KlingAI | ArtSpace | Phot.AI | InVideo
2023年秋天，宾夕法尼亚大学的研究人员在一所土耳其高中进行了一项实验。近千名九到十一年级的学生被分成三组。一组以传统方式做数学练习，另一组可以使用ChatGPT，第三组使用的是一个经过微调的ChatGPT版本，它像导师一样工作，引导学生找到答案而不是直接给出答案。
使用ChatGPT的小组多解决了48%的练习题。辅导组多解决了127%。从每个可见指标来看，AI都在发挥作用。学生完成了更多题目，正确率更高，进度更快。
然后他们参加了考试。
ChatGPT小组的成绩比完全没有帮助的学生差17%。辅导组，那些多解决了127%问题的学生，和什么都没用的组没有区别。那些独自挣扎、卡住后继续努力、先错后对的学生，他们赢了。
想想看。那项研究是在2023年进行的，当时的AI以今天的标准来看还相对原始。而我们甚至还没有到终局。
在他最近的文章中，Anthropic CEO Dario Amodei描述了他对强大AI的愿景——一个在大多数相关领域比诺贝尔奖获得者更聪明的系统——生物学、数学、工程、写作——并且能够以大约十到一百倍于人类的速度吸收信息和生成行动。
所以值得问的问题是，如果AI将变得如此强大，它是否消除了学习的需求？
1、获得答案不等于学会了它
认知科学中有一个概念叫做"理想难度"。这个想法是反直觉的：学习在更困难时记忆更牢固。犯错然后纠正它，是我们拥有的最强大的学习机制之一。换句话说，挣扎本身就是学习的过程。
这正是AI制造了一个它从未被设计来制造的问题的地方。AI被构建为有用的、快速的，并在它发现的任何地方消除摩擦。它在这方面非常出色。但摩擦是学习的机制。当AI消除它时，它在做它被设计来做的事，却在悄悄地让你付出你不知道自己在花费的代价。
使用ChatGPT的土耳其学生在练习中答对了更多问题。但他们从未真正学会数学。他们在没有理解的情况下完成了任务。当工具被拿走时，下面什么都没有。
表演和学习之间的区别，是值得深思的事情。因为它不仅仅适用于做数学题的高中生。它适用于任何一个在做理解工作之前就求助于AI的人。
2、你无法评估你不理解的东西
这项研究中还有一个令人警醒的部分。ChatGPT只有一半的时间答对了数学题。它有42%的时间是错的。
他们从未建立起那种内部模型，让他们能够看着一个解答，感觉到有什么不对。所以他们接受了机器给他们的东西。继续前进。带着错误的基础走进考场，毫不知情。
这就是跳过挣扎的真正代价。你失去了知道工具何时在辜负你的能力。这是一个完全不同的问题。你可以绕过不知道某件事，但你无法绕过不知道自己不知道。
在一个AI越来越多地做工作的世界里，无法评估机器产出的人，只是那只点击发送按钮的手。
因为有两件事是AI真正无法为你做到的。
第一件是知道什么时候出错了。这需要一个内部模型，那种只有通过自己处理材料、犯错并纠正它们才能获得的模型。接受错误方法的土耳其学生没有这些。机器辜负了他们，而他们从未知道。
第二件是知道该问什么问题。AI会回答你放在它面前的任何问题，比任何活着的人都快。但它不知道什么对你来说是重要的。什么问题值得解决，什么方向值得走。那种判断力完全在于人类。
当你停止锻炼它们时，两者都会萎缩。而它们正是通过AI所消除的那种挣扎建立起来的。
3、所以，不。
AI并没有消除学习的需求，它澄清了学习一直以来是为了什么。
不过，事情是这样的。
学习从来都不是真正关于存储信息。我们只是以为它是，因为在人类历史的大部分时间里，存储信息和建立判断力是捆绑在一起的。你不可能不经过一个就拥有另一个。如果你想知道什么，你必须坐在那里，与之搏斗，自己理解它。理解和信息一起到来。
AI第一次将它们解绑了。
它可以立即给你信息。理解仍然需要你自己去建立。而这种分离，感觉像是捷径，实际上正是澄清学习一直以来为了什么的东西。它是关于处理信息的过程对你的头脑做了什么，而不是信息输出本身。
Dario Amodei期望强大的AI以十到一百倍于人类的速度运行。这是非凡的。但朝着错误方向的速度只是更快迷路的方式。决定方向的人、评估返回结果的人、知道如何处理输出的人——那个人仍然需要理解一些东西。深入地理解。作为前提。
所以，不，AI并没有消除学习的需求。在一个每个人都有权使用同样强大机器的世界里，判断力是唯一不能均匀分配的东西。而判断力正是通过AI如此擅长消除的那种挣扎建立起来的。
问题从来不是AI是否足够智能来取代学习。问题是你是否在构建使AI有用而非危险的东西。
那一部分一直是你自己的。
原文链接: If AI Can Do Everything, Why Learn Anything?
汇智网翻译整理，转载请标明出处
