半扩散工作室 #23 Andrej Karpathy: 以自动驾驶为例，谈谈AGI

Andrej Karpathy: “Self-driving as a case study for AGI”

核心观点总结

• Copilot 和 GPT-4 就是“二级”编程自动化；

• AGI 会受到“需求超过供应”的限制，原因在于，开发者的自我限制、监管限制，以及简单直接的资源短缺（如需要建设更多的 GPU 数据中心）；

• 在更广泛的工作领域中，许多工作将发生变化，一些工作会消失，但也会出现许多新的工作机会，这更多的是工作的重构而不是直接删除；

• AGI 更像是自动驾驶这样的技术，它的进展是逐步的，社会既是观察者也是参与者，其扩展受到多种因素的限制，包括监管和受过教育的劳动力资源、信息、材料和能源；

• 世界不会因此崩溃，而是会适应、改变和重构。以自动驾驶为例，交通的自动化将使其更加安全，城市将变得更加清洁、通畅，停车场和路边停放的汽车将逐渐消失，为人们腾出更多空间。

作者介绍

Andrej Karpathy，曾任特斯拉人工智能和自动驾驶部门（Autopilot）负责人。 2022年7月，Andrej Karpathy宣布，他将从特斯拉离职。 2023年2月9日，特斯拉前AI高级总监Andrej Karpathy在社交平台表示，自己将再次加入OpenAI。

2005-2009 年， 本科就读于加拿大多伦多大学，主修计算机科学与物理，辅修数学。 2009 -2011 年，硕士就读于加拿大不列颠哥伦比亚大学，其导师为计算机科学系教授 Michiel van de Panne，主要研究物理模拟中用于敏捷机器人的机器学习。 2011-2016 年，博士就读于斯坦福大学，师从著名 AI 学者李飞飞，专注于研究卷积 / 循环神经网络以及它们在计算机视觉、自然语言处理和交叉领域的应用。期间，他设计并担任斯坦福首个深度学习课程《CS231n：卷积神经网络与视觉识别》的主要讲师。 2011 年，进入发展初期的谷歌大脑实习，致力于视频领域的大规模无监督学习。2013 年，再次在谷歌研究院实习，从事 YouTube 视频的大规模监督学习。2015 年，在 DeepMind 实习，参与深度强化学习团队的工作。

全文

近期，随着大型语言模型（LLMs）的发展，围绕着通用人工智能（AGI）、其发展时间表以及可能的形态等话题，社会上出现了许多讨论。这些讨论有的充满希望和乐观，但也不乏对未来的忧虑和悲观。不幸的是，很多讨论都相当抽象，导致人们在这个话题上绕圈子，无法达成共识。因此，我一直在寻找具体的类比和历史先例，从而以更实际的方式探讨这个话题。特别是当被问及我个人对 AGI 未来形态的看法时，我倾向于以自动驾驶为例进行说明。在这篇文章中，我将解释这一点。