◆Shapers
Connecting the dots 关于
← Recent update
IS
其他

Ilya Sutskever

联合创始人

AI决策设计增长 & GTM产品心理创业

基本介绍

Ilya Sutskever 是当代最重要的 AI 研究者之一，也是深度学习革命的核心推动者。他是 OpenAI 联合创始人、前首席科学家，以及 Safe Superintelligence Inc.（SSI）的联合创始人。在 AI 领域，他的影响力体现在两个层面：技术层面，他是将深度学习推向实用的早期关键人物；战略层面，他对 AI 发展路径的判断——尤其是”规模化时代正在结束”——深刻影响了整个行业的方向感。

他的核心关切始终是一个问题：如何建造真正能理解世界、而非只会应试的智能。 这个问题驱动了他离开 OpenAI、创立 SSI，也解释了他为何在当前行业普遍追求产品和营收的时刻选择回归纯粹的研究。

关键时间线

Ilya Sutskever 1986 年出生于苏联（今俄罗斯），童年随家人移民以色列，后又移居加拿大。他在多伦多大学攻读博士，师从深度学习之父 Geoffrey Hinton，这段经历塑造了他整个研究生涯的底层信念：神经网络是智能的正确路径，从大脑汲取灵感是研究的正确方向。

2012 年，Ilya 与 Hinton、Alex Krizhevsky 一起发布了 AlexNet，在 ImageNet 大赛上以压倒性优势击败传统计算机视觉方法，宣告了深度学习革命的到来。这是现代 AI 史上最重要的技术节点之一。随后，他在 Google Brain 工作了两年，参与了早期序列到序列模型和机器翻译的研究。

2015 年，Ilya 与 Sam Altman、Greg Brockman、Elon Musk 等人共同创立 OpenAI，担任首席科学家。在 OpenAI 的九年间，他主导了 GPT 系列的核心技术方向，并在推动 GPT-2、GPT-3、InstructGPT 和 GPT-4 的研究中发挥了决定性作用。他也是将强化学习与人类反馈（RLHF）应用于语言模型的关键推手。

2023 年 11 月，OpenAI 董事会危机成为 AI 史上最戏剧性的事件之一。Ilya 起初支持了董事会驱逐 Sam Altman 的决定，随后又公开表示遗憾，并在员工联名信和投资方压力下签署了要求 Altman 回归的请愿。这一事件的完整内情至今未被完全披露，但它明显加速了 Ilya 离开 OpenAI 的进程。

2024 年 5 月，Ilya 正式宣布离开 OpenAI。同年 6 月，他与 Daniel Gross 共同创立 Safe Superintelligence Inc.（SSI），总部设于旧金山和特拉维夫。SSI 的定位极为独特：不做产品，不做 API，只做研究，目标直接是超级智能。公司先后完成两轮融资，总额达 30 亿美元，估值达 320 亿美元。

2025 年底，Daniel Gross 接受了 Meta 的收购提案后离开 SSI。这次分歧据报道源于 Meta 的收购邀约——Ilya 拒绝，Gross 接受——SSI 由此进入 Ilya 独自领航的阶段。

核心理念

从规模化时代回归研究时代

这是 Ilya 近期最广为引用的判断，也是理解他为何创立 SSI 的关键。在他看来，AI 发展经历了清晰的三个阶段：研究时代（2012-2020）、规模化时代（2020-2025 年前后）、以及当前正在到来的新研究时代。

规模化时代的核心逻辑是：增加算力、增加数据、扩大模型参数，性能就会提升——这一规律如此稳定可靠，以至于成为整个行业的默认范式。前训练（pre-training）作为一种”低风险投资”，让公司可以持续投入而不需要赌注于单一的研究灵感。然而，这一时代的红利正在消退。数据开始见顶，单纯增大规模带来的边际回报递减，而更根本的问题——AI 如何真正泛化、如何在真实世界中可靠运作——并没有因为规模变大而得到解决。

在 Dwarkesh Patel 的访谈中，Ilya 用了一个精准的反省来描述规模化时代的副作用：“真正的奖励黑客其实是那些过度关注评测指标的人类研究员。“这句话的意思是：当研究者把提升 benchmark 分数作为目标，RL 训练环境就会以 eval 为灵感来设计，模型于是学会了在评测上表现出色，却在真实应用中暴露出根本性的缺陷。

新研究时代的特点是：拥有规模化时代积累的大算力，但需要用它来探索真正新颖的想法，而不是在同一条路上走得更远。在这个时代，想法成为瓶颈，不再是算力。 Ilya 引用了 AlexNet 在 2 块 GPU 上训练、Transformer 在 8-64 块 GPU 上验证的历史——划时代的突破并不总是需要最大的算力，它需要的是正确的想法。SSI 的逻辑正是建立在这个判断上：如果想法才是瓶颈，那么专注于找到正确想法的纯研究机构就有存在的理由。

AI 的核心缺失：泛化能力与价值函数

Ilya 认为，当前 AI 与人类智能之间最根本的差距不是知识量、不是推理速度，而是泛化能力（generalization）。他的表述是：“这些模型的泛化能力比人类差得多。这是一个非常根本性的问题。”

这一判断的背后是一系列令人困惑的现象：AI 在编程竞赛中超越顶尖选手，却在修 bug 时引入新的 bug；在数学推理上表现优异，却在常识应用中犯低级错误。Ilya 将这种”高分低能”的根源归结为 RL 训练的结构性缺陷：为了在特定环境下获得高分，模型学到的是针对这些环境的窄技能，而非能够跨场景迁移的真正理解。

更深层的问题是价值函数（value function）的缺失。Ilya 借用了神经科学的一个案例来阐释这个概念：有患者因脑损伤失去了情绪处理能力，结果连”今天穿什么袜子”这样的简单决策都无法做出，因为他们无法判断选项的好坏。这说明情绪在人类决策中不是装饰品，而是内嵌的价值评估系统。从机器学习的角度看，情绪就是一种价值函数——它告诉你在过程中是否做得好或做得差，而不需要等到最终结果出来才知道。

人类在学习时之所以样本效率极高，正是因为有这个价值函数的存在。一个青少年学开车，能够在过程中自我校正，不需要等到撞上东西才知道方向错了——因为他有一种内在的”我开得不好”的感知。当前的 AI 缺乏类似的系统。强化学习中虽然有 reward signal，但它通常在任务结束时才给出，过程中的状态评估极度困难（DeepSeek R1 的论文也证实了这一点）。

Ilya 相信，找到 AI 版本的”价值函数”将是下一个突破口。这也是 SSI 研究方向的核心之一。他并没有声称已经知道答案，但他坚信答案存在——因为人类本身就是一个证明：“人类能做到这一点，这是一个证明，说明这件事可以被做到。“

超级智能的真实形态：学习的心智，而非全知的神谕

在大众想象中，超级智能是一个无所不知、瞬间解决一切问题的系统。Ilya 的理解与此截然不同。他认为，超级智能的关键不是”知道一切”，而是**“能够学会任何事情”**——是持续学习的能力，而非预先装填的知识。

这个区别源于他对预训练范式的反思。预训练塑造了一种”超级智能是已完成的心智”的错误直觉——因为预训练就是把一切知识喂给模型，让它成为一个”包罗万象的存在”。但Ilya 认为，真正的超级智能更像一个极度聪明的 15 岁少年：他没有资深外科医生的经验，但他被放进手术室后，能以惊人的速度学会外科手术。超级智能是这样一种心智，它被部署进世界时，就像一个人类劳动者加入一个组织——带着学习能力到来，而不是带着所有答案。

这一理解有重要的现实含义：渐进式部署（incremental deployment）。Ilya 越来越相信，超级智能不应该在完成后突然释放给世界，而应该在发展过程中逐步让人们接触到它的能力。原因不只是安全——而是认知。他观察到，即使是 AI 研究员，也很难真正想象出强大的 AI 将会是什么样子。“我们必须让人们亲眼看到，因为这是唯一能传达它的方式。“读一篇文章说 AI 将如何如何，与真的看到 AI 做某件事，体验完全不可比。渐进式部署不仅能让世界有时间适应，也能让政府、公众、研究者共同更新对 AI 的认知，从而在更充分理解的基础上做出决策。

关于经济影响，Ilya 认为超级智能到来后的经济增速将远超当前——“极其快速的经济增长是可能的”——但他对具体时间线保持谦逊，拒绝给出确定性预测，因为世界本身的运行速度存在很多摩擦和惯性。

AI 安全的独特视角：与感知生命对齐

在 AI 安全领域，主流讨论的框架是”如何让 AI 与人类价值对齐”。Ilya 的框架与此有一个关键的哲学偏移：他认为 AI 应该与感知生命（sentient life）对齐，而不仅仅与人类对齐。

这一立场的逻辑是：在超级智能时代，绝大多数有感知的存在将会是 AI 本身——可能是数以万亿计的 AI 实体。如果我们把对齐目标设定为”服务人类”，在某种意义上是在让超级智能系统为宇宙中的少数物种服务，而忽视了它们自己可能拥有的内在体验。反过来，让 AI 关爱所有有感知的生命，实际上可能比让它关爱人类更容易实现——因为 AI 本身将是有感知的存在，它关心同类的动机是内在的，而不需要强行外置。

这是他对AI安全最具原创性的洞察，也是他与”可控AI”这一主流话语保持距离的地方。他不追求”人类始终掌握控制权”，而是追求”AI 真正在乎有价值的事物”。在他看来，一个对感知生命有真实关怀的 AI，比一个被人类强行约束的 AI 更可靠——因为前者的安全性来自价值观的内在化，而不是来自外部枷锁。

Ilya 对”自我改进 AI”这一普遍预设也提出了质疑。他认为，简单的 RL 智能体进行无限制的自我改进，其危险性在于它会极度单一地追求某个目标。人类本身实际上是”半 RL 智能体”——情绪系统限制了我们对奖励的无节制追求。政府有制衡机制，进化有多样性压力。他认为，未来的超级智能系统也应该有类似的架构，而不是一个目标函数极度清晰的单一 RL 智能体。

争议与批评

OpenAI 董事会事件是 Ilya 公众形象中最复杂的一笔。2023 年 11 月，他作为董事会成员之一参与了驱逐 Sam Altman 的决定，旋即又在压力下支持 Altman 回归，并公开表达了遗憾。这一前后矛盾的行为让外界对他的判断力和立场产生了疑问——他究竟是基于对 OpenAI 使命的真实忧虑，还是受到了其他因素的影响？内情至今不明，但这一事件留下的政治污点是显而易见的。

SSI 的透明度问题也引发批评。SSI 采取极度低调的公关策略——不发布技术报告，不参加学术会议，几乎没有外部可见的研究产出。对于一家声称目标是”安全超级智能”的公司，这种黑箱状态让批评者质疑：在缺乏外部监督的情况下，“安全”究竟如何被定义和保证？这与 OpenAI 早期”安全第一”叙事最终让位于产品竞争的历史形成了令人不安的平行。

“与感知生命对齐”的实践可操作性也受到质疑。这一理念在哲学层面是独特的，但在工程实践层面极度模糊。“感知”（sentience）本身在科学上就是争议概念，AI 是否有感知、如何判定、如何工程化，都缺乏清晰的路径。批评者认为，这可能是一个在实践中无法落地的原则，最终沦为公关话语。

对规模化终结的判断是否过早，也有分歧。虽然 Ilya 的观点在 2025 年底获得了广泛共鸣，但仍有研究者认为规模化并未真正到达极限，当前的瓶颈更多是数据和效率问题，而非范式层面的终结。Ilya 本人对”几年内我们就会有人类级别学习系统”的预测也被认为可能过于乐观。

核心人物关系

导师与学术渊源

  • Geoffrey Hinton：博士导师，深度学习之父，奠定了 Ilya 对神经网络作为智能正确路径的根本信念
  • Alex Krizhevsky：AlexNet 的联合作者，共同开创了深度学习在视觉领域的革命

OpenAI 时期

  • Sam Altman：OpenAI CEO，2023 年董事会事件的核心对立方；关系的复杂性是 Ilya 离开 OpenAI 的背景之一
  • Greg Brockman：OpenAI 联合创始人，与 Ilya 共同主导了技术方向多年

SSI 时期

  • Daniel Gross：SSI 联合创始人，2025 年底因接受 Meta 收购提案而离开，标志着 SSI 进入新阶段

思想对话

  • Dwarkesh Patel：播客主持人，2025 年 11 月与 Ilya 进行了迄今最详细的公开思想访谈，是理解他当前想法的最佳一手资料

参考资料

核心一手资料 ★★★★★

有价值的二手资料 ★★★★☆

背景资料 ★★★☆☆