UC Berkeley 研究：使用 AI 仅 10 分钟就会削弱对困难任务的坚持能力
Using AI for Just 10 Minutes Erodes Your Ability to Persist at Hard Things
UC Berkeley 等机构的研究者在 Conference on Language Modeling 上发表经同行评审的研究，基于 1,222 名参与者参与的 3 项随机对照实验发现，仅使用 AI 工具 10 分钟就会显著削弱后续在无 AI 帮助下坚持完成困难任务的能力。
这项研究用 1,222 人参与的随机对照实验量化了 AI 使用对人类坚持力的影响，为相关讨论提供了受控实验证据。
一位加州大学伯克利分校的研究员参与撰写了一项研究，提出了关于我们如何在教育及日常生活中与人工智能交互这一深刻的问题。
Brian Christian已经花了20年时间思考人工智能将如何改变我们的心智和世界。他的2020年著作The Alignment Problem被誉为最佳人工智能书籍之一，和许多科学家一样，他有时会对这项技术的进步感到振奋。毕竟，当每个人手边都有一批自主代理待命以加速研究时，很难不让人感到改变人生的发现似乎仅在几次提示之间。
他还在桌上放着一个笔记本，每天都在上面书写。这个习惯让他保持脚踏实地，并抑制了一种隐隐的担忧：与人工智能合作过多可能会让他丧失自己的学术优势。
他完全有理由担忧——只需看看他最新的研究便可得到证明。
Christian是一项里程碑式研究团队的成员，该研究发现，仅使用人工智能工具10分钟就会显著削弱我们专注于困难任务并坚持下去的能力。今年早些时候，初步草案引起了广泛关注，本周该团队在语言建模会议上展示了经过同行评审的更新版论文。
"这是一个引人注目的发现，但在某种程度上，它为我们许多人内心深处隐约感受到的那个故事提供了佐证，"Christian说，他是加州大学伯克利分校人类兼容人工智能中心的研究员。"我也有同感。"
为了测试人们注意力和坚持力的下降速度，研究人员设计了一系列随机对照试验，并在线招募了1,222名参与者。
在第一个实验中，354名参与者中，一组被要求在没有帮助的情况下解答15道基础分数题，而另一组则可以在旁边打开ChatGPT以寻求协助，甚至可以直接询问答案。最初可以使用AI的那组比不能使用AI的那组更为准确。然而，在完成12道题后，研究人员撤走了AI工具。几乎立刻，那组的参与者解答问题的准确率就下降了。
当他们在第二个更大的667人参与者的群体上重复实验时，类似的情况再次发生。当AI辅助被撤走后，使用AI的用户答错了题目或彻底放弃，而没有AI的组则坚持完成任务，并最终取得了更高的成功率。
研究人员随后在201名参与者中进行了第三个实验，使用了一道SAT阅读理解题。结果与分数题实验的结果相呼应：当AI工具被移除后，坚持度和准确率都下降了。
"你几乎找不到比这更清晰的故事了，"Christian说。
这些发现印证了近年来各种轶事和调查越来越多揭示出的情况：过度依赖 AI 来获取答案会侵蚀我们的认知能力。当 AI 在几秒钟内就能给出答案时，我们会习惯那种速度；任何更慢的事情都会显得低效。而依赖 AI 也消除了研究团队所说的"有成效的挣扎"，而这种挣扎本可以帮助人们发现自己的研究优势和热情所在。
Christian 说："我们构建这些系统是为了提供帮助，但它们是否以一种真正对我们有益的方式来帮助我们呢？"他接着说："颇具讽刺意味的是，我们的研究表明，它们经常以一种并不那么有帮助的方式来帮助我们。"
研究团队成员来自卡内基梅隆大学、麻省理工学院、牛津大学和加州大学洛杉矶分校。从WIRED到Psychology Today在内的多家媒体在今年春季该研究早期结果公布时进行了报道。《纽约时报》上周也刊发了一篇报道，介绍这篇论文及类似研究。
Christian 说，前沿 AI 公司已经承认，将任务卸载给聊天机器人会削弱人们对某个学科的基础理解和掌握。AI 的回答不必默认为快速给出答案，而是可以默认采取更具指导性的方式，像导师一样。
他说："我们需要朝着这样的未来努力——在那个未来中，人类的能力能够尽可能地得到增强，而非被取代。"
Christian 表示，在学术研究领域这种情况尤为突出。他担忧科学界过度依赖 AI 工具会危及一名优秀科学家本应具备的根本素质：贴近数据、沉浸于材料之中，以及作为团队的一员协同工作。当原本由十个人共同孕育出突破性构想的团队，被缩减为两三名研究人员再加上一个聊天机器人时，某些重要的东西可能会就此丧失。
Christian 说："这并不是一个关于分数和 SAT 试题的故事。这是一种正从方方面面、从中小学生到全球顶尖专家，对人类知识与人类专业能力产生影响的趋势。"
相关信息
- 论文："AI Assistance Reduces Persistence and Hurts Independent Performance"
- Brian Christian 的个人网站
- 加州大学伯克利分校人类兼容人工智能中心（Center for Human-Compatible AI）
相关报道
为破解地方法规，研究人员利用 AI 构建了包含数百万条法规的数据库
来源：Hacker News · vcresearch.berkeley.edu