ChatGPT的“学习”模式

像ChatGPT这样的AI模型在“迎合用户”和保持思考性、诚实性以及说实话的帮助之间存在严重困难，如果我们把“帮助性”理解为不验证用户说的每一句话，无论其多么荒谬。

验证种族主义、仇恨言论或愚蠢的建议，仅仅因为这会让用户更频繁地使用产品，这是一个令人担忧的趋势。

但今天，我们在积极的方向上迈出了重要的一步。ChatGPT的最新功能“学习和研究”，不仅是一个非常优秀的产品，而且是我认为AI最重要的用途之一的先驱：AI辅导。

1、一种新的对话形式

在低调发布中，OpenAI在ChatGPT应用程序中添加了一个新功能。

当与该应用互动时（你仍然可以选择你喜欢的模型），你可以选择“学习和研究”的选项，将模型置于教学模式中。

但这究竟是什么？

从内部来看，这是与“教师、科学家和教育专家”合作创建的一组新的“自定义系统指令”，旨在将模型的行为转变为鼓励学生批判性地思考他们的学习。

通俗地说，这不是一个新的模型。相反，他们设计了一组特定的指令（称为“系统提示”），修改了模型的行为，使其不再专注于确认我们的偏见，而是专注于辅导我们。

这样，OpenAI就有了一个完美的方式来“消除奉承”，由用户主动选择将模型置于“教我掌握”的形式中。

但什么是奉承？

奉承，或者总是同意用户所说的一切的倾向，是大多数AI模型都难以处理的问题，因为显然存在着“是否提供帮助或假装提供帮助，只要能激励你更多地使用我”的矛盾，因为这些产品本质上是盈利驱动的。

为什么？ 简单来说，大多数人不喜欢听到他们不同意的真相。

但这次有什么真正不同之处？

当用户点击这个新模式时，模型的行为会急剧变化。

不再是仅仅与你交谈，它将成为你的老师，但这个老师不太爱提问，而更专注于识别“你知识中的漏洞”并使用即时测试、测验和澄清来解决这些问题。

简单来说，它将ChatGPT变成了一个AI导师。其中许多功能，OpenAI提到（原话）：

通俗地说，准备好让ChatGPT问你很多问题吧，真的很多。

在我的经验中，最好提供一个双方都可以深入探索的信息源。

好吧，但为什么这是必要的？为什么不能使用默认模式来学习？

当然可以。

但正如我之前所说，标准形式的AI模型（即没有进入“教师模式”）倾向于同意你而不是审视你说的话。

为了不使用过于拟人化的术语，它们“渴望”同意你，因为它们已经被优化以吸引你继续使用，而US Labs已经意识到做一个奉承者是实现这一点的一个好方法。

然而，在“学习和研究”模式下，即使你没有明确提供指令（OpenAI为你做了），你愿意允许模型在你的知识有限的领域与你意见不合或施加压力。

再次强调，这打破了满足用户需求（通常是验证，即使我们没有完全意识到）与满足用户真正需要（有时意味着模型应该告诉你你很无知，这如果目的是学习是可以接受的）之间的紧张关系。

因此，在这种模式下，模型摆脱了必须平衡这两者的负担，现在被优化为真正重要的东西：你的学习。

但这会产生更大的影响。

我非常支持AI在教育领域的应用。不是作为作业作弊产品——学校仍然迫切需要改变他们的学习方法——而是一个无尽耐心的个人导师。

虽然我们还没有完全达到那个阶段，而且这是第一个真正的大规模AI辅导版本，未来这些模型将随着时间的推移了解你，并越来越“贴合”你的专业水平、偏好的学习方法等。

随着不同国家师生比例的差距越来越大，教育不平等现象加剧，AI导师将成为教师的重要辅助工具，这些教师没有足够的时间关注每个学生。

在不久的将来，教师将被这些工具增强，使他们能够调整和适应每个孩子的AI导师，以加强需要改进的方面，适应教学速度等等。

这不仅有助于同一班级的学生之间实现学习公平，还能减轻一些教学负担给人类教师，使他们可以将工作的一部分分配给促进孩子们在日益数字化的世界中的社交互动，更加关注有困难的孩子，以免他们被落下，以及更多目前可能被忽视的需求。

简而言之，AI导师，应被所有有兴趣学习的人使用，是一个非常好的产品改进。

当然，学生并不傻，他们会利用这些模型来做作业（欺骗AI让他们以为他们在寻找学习而不是答案），但让我明确一点，这里的问题不是AI，而是迫切需要将教育适应AI时代的需求。

在一个每个人口袋里都有一个“无所不知”的对话者，甚至在眼镜里的世界中，评估人类知道什么是没有意义的。相反，我们应该评估人类如何运用他们的知识。

教育需要从主要关于知识转向更多关于行动。

我们教孩子记住事情，而我们应该教他们采取行动的偏见，去运用他们的知识。接受过这些软技能训练的孩子将比慢动作者具有巨大的优势。

我希望这样的工具能让监管者和教授们认识到学习的新现实。如果问我，这是一种更令人兴奋的学习方式。

汇智网翻译整理，转载请标明出处