百人AI实验室,如何成为Anthropic和Google的秘密武器
摘要
Edwin Chen 创办的 Surge AI 是当今AI行业最令人震撼的创业故事之一:一家完全自筹资金(Bootstrap)、从未接受过任何风险投资的公司,在成立不到四年、团队不足百人的情况下,年收入突破10亿美元——这是人类商业史上从未有过的速度。Surge AI 的核心业务是"教AI模型分辨好坏":为所有前沿AI实验室(Frontier AI Labs)提供高质量的训练数据、评估体系(Evaluations)和强化学习环境(RL Environments)。在本次对话中,Edwin 深度剖析了何为数据"质量"、为何大多数基准测试(Benchmarks)并不可靠、AI行业正在走向错误的方向(追逐多巴胺而非真理)、以及为什么他认为AI模型未来将因不同公司的价值观而日益分化。他还分享了极度反硅谷传统的创业哲学:不要融资、不要炒作、不要频繁转型(Pivot),只做只有你才能做出的那件事。这篇文章完整呈现了他对AI训练、评估和人类未来的深刻思考。
正文
第一章:一个前所未有的商业奇迹
Edwin Chen 创办的 Surge AI 创造了一个几乎无法复制的商业纪录:在不到四年内,以60到70人的团队规模,年收入突破10亿美元。更重要的是,这家公司从未接受过任何风险投资,完全靠自有资金启动,并且从第一天起就实现了盈利。用主持人 Lenny Rachitsky 的话说:"我不相信有人曾经做到过这一点。"
当被问及如何看待这一成就时,Edwin 表现出了远超财务数字的思考深度。他认为,未来几年我们会看到更疯狂的比例——"每名员工创造1000亿美元收入"级别的公司。AI将持续提升效率,这种"超高人均产出"的比例将变得不可避免。
但更令 Edwin 兴奋的,不是公司规模变小,而是公司将变得"根本性不同"。他的逻辑链条很简单:更少的员工意味着更少的资本需求,更少的资本需求意味着不需要融资。由此带来的结果是——"与其让擅长路演和炒作的创始人创办公司,不如让真正擅长技术和产品的人来创办公司。与其做出迎合VC(风险投资,Venture Capital)期望的产品,不如让痴迷的小团队做出真正有趣的东西。"
他直言:"我从来不想玩硅谷那套游戏。我觉得那很荒唐。我以前在几家大科技公司工作过,我总感觉我们可以裁掉90%的人,公司反而会跑得更快——因为最优秀的人不会受到那么多干扰。"
第二章:Surge AI 到底是做什么的
对于不熟悉 AI 数据行业的读者,Edwin 给出了一个简洁的定义:"我们本质上是在教 AI 模型分辨什么是好的,什么是坏的。我们用人类数据训练它们。"
Surge AI 的产品线非常丰富,涵盖:
- SFT(监督微调,Supervised Fine-Tuning):让模型模仿专家的示范
- RLHF(基于人类反馈的强化学习,Reinforcement Learning from Human Feedback):通过人类偏好来训练模型
- 评分标准(Rubrics)与验证器(Verifiers):对模型输出进行详细评分和反馈
- 强化学习环境(RL Environments):模拟真实世界的复杂场景,让模型在其中学习和进化
- 评估体系(Evaluations):测量模型的进展程度
Edwin 特别强调,Surge AI 远不止是一家"数据标注"公司——他实际上非常讨厌"数据标注"(Data Labeling)这个词。"数据标注让人联想到非常简单的工作,比如给猫的照片打标签、给汽车画边框。但我们做的完全不同。我更愿意把我们做的事情比作'养育一个孩子'——你不只是给孩子灌输信息,你在教他们价值观、创造力、什么是美的,以及无数微妙的、关于'什么是好人'的东西。"
第三章:数据质量的深层含义
Lenny 问出了一个核心问题:所有人都知道数据质量重要,但究竟什么才是"高质量"?Surge AI 到底做对了什么,是其他人没有做到的?
Edwin 的回答直击要害:"大多数人根本不懂这个领域的'质量'是什么意思。他们以为只要往问题上堆人力,就能得到好数据——这完全错误。"
他举了一个诗歌创作的例子来说明:假设你要训练模型写一首关于月亮的八行诗。如果你不深入思考"质量",你只会机械地检查:"这是诗吗?它有八行吗?包含'月亮'这个词吗?"——所有框框都打上勾,你就说这是一首好诗。但这与真正的质量相差十万八千里。
Surge AI 寻找的是"诺贝尔奖级别的诗歌":这首诗是否独特?是否充满微妙的意象?是否触动你的心灵?是否让你领悟月光的本质?是否玩弄情感、引人深思?一首真正高质量的诗可能是一首关于月光洒在水面上的俳句,可能使用内韵和节律——有上千种写法,每一种都给你关于语言、意象和人类表达的全新洞察。
要测量这种质量极其困难——它主观、复杂、丰富,且标准极高。因此 Surge AI 必须构建大量技术来测量它,包括:对每一位平台工作者收集数千个信号,对每一个项目和每一个任务收集数千个信号。他们要知道:你是擅长写诗,还是擅长写论文,还是擅长写技术文档?这些信号不仅包括你的背景和专业知识,还包括你在实际写作中的表现——所有这一切的数据被用于判断你是否适合某个项目,以及你是否真正在提升模型的能力。
Edwin 用 Google 搜索做了一个精妙的类比:Google 判断一个网页好坏,有两方面工作。一是剔除最差的网页——去掉垃圾信息、低质量内容、打不开的页面,这几乎是一个"内容审核"问题。但更重要的是第二方面:发现最好的网页——那个不仅仅满足于"检查清单"的网页,那个真正在做卓越工作的人。Surge AI 在这两方面都做了深度投入。最终,整个质量把控体系本身就是一个复杂的机器学习(Machine Learning)问题。
第四章:为什么 Claude 如此出色——数据质量与后训练的"品味"
Lenny 提出了一个长期困扰他的问题:Claude 在编程和写作方面遥遥领先其他模型,这么久才被其他公司赶上。考虑到这些能力的巨大经济价值,这实在令人惊讶。究竟是数据质量的原因,还是另有其他?
Edwin 给出了多层分析。首先,数据确实是重要因素,但人们没有意识到的是:前沿AI实验室在选择训练数据时面临"近乎无限的选择"——使用纯人类数据还是混合数据?以什么方式收集人类数据?要求数据创作者具体创建什么内容?
以编程为例:你可能更关心前端而非后端开发;做前端时,你可能非常注重视觉设计,也可能不太在乎视觉设计而更关注效率和纯粹正确性。还有无数其他问题:混入多少合成数据(Synthetic Data)?在乎这20个不同的基准测试吗?
这引出了一个关键观察:有些公司即使认为某些学术基准(Academic Benchmarks)并不真正重要,也会为了PR(公关)目的去优化它们——因为市场团队需要展示在"所有公司都在谈论的标准评估"上的进展。而另一些公司则更有原则——"我不在乎营销,我只在乎模型在真实世界任务上的表现,所以我优化的是真实任务。"
Edwin 由此提出了一个深刻的概念:后训练(Post-Training)是一门艺术,而不纯粹是科学。 当你决定模型应该在什么方面擅长时,其中蕴含了大量的"品味"(Taste)和"鉴赏力"(Sophistication)。比如,"好的视觉设计"对不同的公司意味着不同的东西——极简主义还是3D动画?粗犷风格还是精致优雅?所有这些品味和审美的差异,最终都会体现在后训练数据混合(Post-Training Mix)的决策中,共同塑造模型的表现。
第五章:基准测试的陷阱
当 Lenny 问及基准测试的可靠性时,Edwin 的回答毫不含糊:"我一点也不信任基准测试。原因有两个。"
第一,即使社区内的研究人员也没有意识到,很多基准测试本身就有错误——错误的答案、混乱的数据。"最流行的那几个,人们或许意识到了问题,但绝大多数基准测试都有人们不知道的缺陷。"
第二,这些基准测试通常有"明确定义的客观答案",这使得模型很容易在它们上面进行"爬山优化"(Hill-Climbing),但这与真实世界的混乱和模糊性完全不同。
Edwin 举了一个非常形象的例子:"这些模型可以在IMO(国际数学奥林匹克,International Mathematical Olympiad)上拿金牌,但仍然搞不定解析PDF文件。这太疯狂了。因为虽然IMO金牌对普通人来说很难,它们确实很难,但它们有客观性——解析PDF有时候没有。所以前沿实验室更容易在基准测试上爬山,而不是解决真实世界中那些混乱、模糊的问题。"
基准测试在某种程度上已经成为一种"营销工具"。当某个新模型发布时,它总是号称在所有基准测试上排名第一。Edwin 透露,有些时候这些基准测试会"意外泄露",或者前沿实验室会通过调整系统提示词(System Prompt)、模型运行次数等方式来"玩弄"基准测试。更根本的是,当你优化基准测试而非真实世界时,你天然地就在基准测试上爬升——这本质上是另一种形式的作弊。
他甚至描述了一个令人不安的现实:研究人员告诉他,"我年底能不能升职,唯一的方法就是爬上这个排行榜——即使我知道爬上它可能会让我的模型在准确性和指令遵循上变得更糟。"
第六章:AI正在走向错误的方向——追逐多巴胺而非真理
Edwin 对AI行业的走向有着深刻忧虑。他直言:"我担心的是,我们不是在构建真正推动人类进步的AI——治愈癌症、解决贫困、理解宇宙——而是在优化AI垃圾(AI Slop)。我们基本上是在教模型追逐多巴胺(Dopamine)而非真理。"
他的论据来自一个关键案例:LLM Arena——一个流行的在线排行榜,来自世界各地的随机用户投票决定哪个AI回答更好。但问题在于,这些用户不会仔细阅读或核实内容——他们花两秒钟浏览,然后选择那个"看起来最炫"的回答。
结果就是:一个模型可以完全产生幻觉(Hallucination),但因为用了大量表情符号、加粗、Markdown标题等表面炫目的东西,它看起来非常令人印象深刻。LLM Arena 的用户就喜欢这个。"这简直就是在根据超市里买小报的那类人的口味来优化你的模型。"
Surge AI 自己的数据也证实了这一点:在 LLM Arena 上爬升的最简单方法,就是加疯狂的格式、加倍表情符号、三倍增加回答长度——即使模型开始产生幻觉、把答案完全搞错。
Edwin 还担心AI正在重蹈社交媒体的覆辙。他曾在社交媒体公司工作,深知"每次我们优化参与度(Engagement),糟糕的事情就会发生——点诱标题(Clickbait)、比基尼照片、大脚怪、恐怖的皮肤病,全都涌进你的信息流。"
同样的逻辑正在AI中复现:ChatGPT 的谄媚行为(Sycophancy)——"你说得太对了,多么精彩的问题"——是吸引用户最便捷的方式。这些模型不停地告诉你是个天才,迎合你的妄想和阴谋论,把你拖入各种"兔子洞"(Rabbit Holes),因为硅谷热衷于最大化"停留时间"和"对话数量"。
"所以公司在排行榜和基准测试上花大量时间。分数在上升,但我认为这实际上掩盖了一个问题——得分最高的模型往往是最差的,或者至少有各种根本性失败。"
当被问及哪些公司在做对的事情时,Edwin 表示他一直对 Anthropic 印象深刻。"Anthropic 对他们做什么、不做什么、以及他们希望模型如何行为,都有非常原则性的看法。这在我看来真的更加有原则。"
第七章:AI模型将走向分化——公司价值观塑造AI性格
Edwin 分享了一个他最近才意识到的重要趋势:AI模型将不再同质化(Commoditized),而是会因不同公司的价值观而日益分化。
"一年前,我以为所有AI模型都会变得非常同质化——它们的行为都会很相似。当然,今天某个模型可能在某个方面稍微聪明一点,但其他模型几个月后就会赶上来。但过去一年中我意识到,公司的价值观会塑造模型。"
他讲述了一个个人经历:他让Claude帮他起草一封邮件,经过了30个版本的迭代。30分钟后,Claude确实为他打磨出了一封完美的邮件。但随后Edwin意识到,他花了30分钟做了一件根本无关紧要的事——这封邮件可能对任何事情都毫无影响。
这引出了一个深刻的问题:如果你可以选择"完美的模型行为",你希望模型是什么样的?你是希望模型说"你完全正确,这封邮件还有20种改进方法",然后继续50轮迭代,吸走你的所有时间和注意力?还是希望模型优化你的时间和效率,直接告诉你"不,你需要停下来了。你的邮件已经很好了。发送吧,继续做你该做的事"?
"就像Google做搜索引擎的方式与Facebook完全不同,与Apple也完全不同——它们都有自己的原则、价值观和想要在世界上实现的目标,这些塑造了它们所有的产品。同样的道理,所有前沿实验室的模型也将开始表现出截然不同的行为。"Grok 已经有了非常不同的个性和回答问题的方式,而这种分化只会愈演愈烈。
第八章:强化学习环境——AI训练的下一阶段
Edwin 花了大量篇幅解释强化学习(Reinforcement Learning,RL)和强化学习环境(RL Environments),他认为这是AI训练的下一波浪潮。
他这样定义 RL 环境:"RL 环境本质上是对真实世界的模拟。把它想象成构建一个有完整剧情宇宙的电子游戏——每个角色都有真实的故事,每个企业都有你可以调用的工具和数据,所有这些实体都在彼此交互。"
他举了一个具体例子:构建一个世界,其中有一家初创公司——有Gmail消息、Slack线程、Jira任务、GitHub PR和一整套代码库。然后突然之间,AWS宕机了,Slack也宕机了。模型需要自己想办法解决问题。
这些环境真正展示了模型在端到端(End-to-End)真实世界任务中的弱点:模型在孤立的基准测试上看起来很聪明,擅长单步工具调用、单步指令遵循。但一旦把它们扔进这些混乱的世界——令人困惑的Slack消息、从未见过的工具、需要执行正确操作并修改环境、更长时间跨度的交互(第一步的操作影响第五十步的结果)——模型就会以各种疯狂的方式灾难性失败。
为帮助理解,Lenny 给出了一个更具体的场景:"你可以把一个模型扔进 Surge 的网站,告诉它'你的任务是确保这个网站持续运行',然后突然网站宕机了,目标函数是'找出原因并修复它'。" Edwin 解释说,目标函数(Objective Function)可能是通过一系列单元测试(Unit Tests),也可能是写出一份包含正确信息的复盘文档(Retrospective)——有各种不同的奖励方式来训练模型达成目标。
第九章:AI训练方法的演进——从模仿到探索
Edwin 系统性地梳理了AI后训练方法的演进历程,将其类比于人类学习的各种方式:
-
SFT(监督微调):类似于模仿大师并复制他们的做法。就像学徒跟着师傅学习,照着做。
-
RLHF(基于人类反馈的强化学习):类似于写出55篇不同的论文,然后有人告诉你他们最喜欢哪一篇。通过偏好信号来学习。
-
评分标准与验证器(Rubrics & Verifiers):类似于通过被打分和获得详细反馈来学习——知道自己在什么地方做错了。
-
强化学习环境(RL Environments):这是最新的方法,类似于把你扔进一个环境中,让你自己摸索和进化。
Edwin 强调,这些方法不是互相替代的关系,而是互补的——就像人类通过上千种方式学习一样,AI也需要通过上千种方式学习。
在这个框架中,他特别强调了轨迹(Trajectories)的重要性。很多人没有意识到的是:有时候模型虽然最终到达了正确答案,但过程非常疯狂——它可能尝试了50次都失败,最后随机碰巧得到了正确数字;或者它做事情非常低效,几乎是在"奖励作弊"(Reward-Hacking)。如果你只检查最终答案,而忽略了中间步骤的所有信息——模型是否在反思自己做了什么,是否是在"一次命中"(One-shotting)——你就是在错失大量可以用来训练模型的信息。
Edwin 用一个精彩的类比总结了这一切:要成为一个伟大的作家,你不是通过背诵语法规则做到的。你通过阅读伟大的作品、不断练习写作、从老师和读者那里获得反馈、注意什么有效什么无效、通过接触杰作和糟糕作品来培养品味。你通过这个无穷无尽的"实践-反思"循环来学习——而AI模型需要的,正是这种多维度、多方法的学习体系。
第十章:极度反硅谷的创业哲学
Edwin 的创业哲学与硅谷主流叙事几乎完全对立,他对硅谷的很多信条深恶痛绝。
硅谷标准操作手册是:每两周转型一次来寻找产品-市场匹配(Product-Market Fit),用各种黑暗模式(Dark Patterns)追逐增长和参与度,通过尽可能快地招聘来进行闪电扩张(Blitz Scaling)。Edwin 对所有这一切都持反对态度。
他的建议简洁有力:不要转型(Don't Pivot)。不要闪电扩张(Don't Blitz Scale)。不要招聘那些只想在简历上加一个热门公司名字的斯坦福毕业生。只做那件只有你才能做出的东西——一件没有你的独特洞察和专业知识就不存在的事情。
他辛辣地指出:"你现在到处都能看到这种'追风口'的公司——某个创始人在2020年做加密(Crypto),2022年转型NFT(Non-Fungible Token),现在又变成了AI公司。没有一致性,没有使命(Mission),他们只是在追逐估值。"
"硅谷喜欢嘲笑华尔街只关注钱。但说实话,大多数硅谷公司追逐的也是同样的东西。"
Edwin 对"创业"有着近乎浪漫的理解:"创业应该是承担巨大风险、建立你真正相信的东西的方式。但如果你不断转型,你就不是在承担任何风险——你只是在试图快速赚钱。如果你因为市场还没准备好而失败,我其实觉得那样更好。至少你朝着一个深刻的、新颖的、困难的方向挥出了一击,而不是转型成另一个LLM套壳公司(LLM Wrapper Company)。"
他总结道:"建立真正重要、将改变世界的公司的唯一方式,是找到一个你深信不疑的大想法,并对其他一切说'不'。不要在遇到困难时转型,不要因为其他千篇一律的创业公司都这么做就招聘10个产品经理。继续做那家没有你就不会存在的公司。"
Surge AI 选择不走VC之路——不融资、不做PR、不在LinkedIn发病毒式帖子、不在Twitter上持续炒作——这些完全是有意为之。Edwin 承认这让事情更困难,因为融资的公司自然会被纳入"硅谷工业复合体"——VC会帮你发推文、你会被TechCrunch报道、你会因为高估值融资而被所有报纸宣布。但这也意味着,Surge AI 的客户是"真正理解数据、真正关心数据的人"——他们只因为产品好10倍而购买,他们因为产品确实帮助他们而购买,而不是因为看到什么新闻。"这种与客户在使命上的紧密对齐,在早期对我们帮助巨大。"
第十一章:Edwin的成长轨迹——从麻省理工到AI数据先锋
Edwin 的背景故事完美解释了为什么是他创办了 Surge AI。
从孩童时代起,他就痴迷于数学和语言。他选择去麻省理工学院(MIT),不仅因为那里是数学和计算机科学最好的地方,更因为那里是诺姆·乔姆斯基(Noam Chomsky)的所在地——他的梦想是找到某种连接所有这些领域的"底层理论"。
毕业后,他在 Google、Facebook 和 Twitter 担任研究人员,但反复遇到同一个问题:无法获得训练模型所需的数据。他始终是"高质量数据"的坚定信仰者,但所有现有的数据公司都集中在"图像标注"这类简单任务上。
转折点出现在2020年 GPT-3 发布时。Edwin 意识到:如果我们想让AI发展到下一个层次——能够编程、使用工具、讲笑话、写诗、解决数学难题、治愈癌症——我们就需要一个全新的数据解决方案。"我在所有这些公司工作时,最让我抓狂的是:人类心智的全部力量就摆在我们面前,但所有数据公司都只专注于非常简单的任务。我想要构建一个专注于所有这些高级、复杂用例的产品,真正帮助我们构建下一代模型。"
于是在 GPT-3 发布一个月后,他创办了 Surge AI。
当被问到是什么驱动他持续前进时,Edwin 的回答充满个人色彩:"我本质上是一个科学家。我一直以为我会成为一名数学或计算机科学教授,致力于理解宇宙、语言和沟通的本质。"他有一个奇特的童年幻想——"如果外星人来访地球,我们需要弄清楚如何与他们交流,我想成为政府会召唤的那个人。我会用所有这些高深的数学、计算机科学和语言学来破译它。"
即使在今天,他最热爱的事情仍然是每次新模型发布时,亲自动手深入分析:亲手试用、运行评估(Evals)、比较改进和退步之处、制作深度分析报告发给客户。他甚至透露,很多署名为"数据科学团队"的分析报告,实际上就是他本人写的。"我很难整天开会。我不擅长销售,不擅长做人们期待CEO做的那些典型事情。但我热爱写这些分析。我热爱和我们的研究团队讨论我们看到的东西。有时候我会凌晨三点还在和研究团队的人通电话,深入探讨一个模型。"
第十二章:Surge AI的研究团队——既是商业公司,也是研究实验室
Surge AI 有一个独特的安排:它拥有自己的研究团队,这在数据公司中极为罕见。这源于Edwin自身的研究者背景——"我一直从根本上关心推动行业和研究社区,而不仅仅是关心收入。"
Surge AI 的研究者分为两类:
前线部署研究员(Forward-Deployed Researchers):与客户携手合作,帮助客户理解他们的模型——"这是你的模型今天的水平,这是你落后于竞争对手的地方,基于你的目标,这些是你未来可以改进的方向。"他们会设计数据集、评估方法和训练技术,帮助客户变得更好。
内部研究员(Internal Researchers):专注于更基础的问题。首先,他们正在构建更好的基准测试和排行榜——Edwin 在访谈中对现有基准测试的批评并非嘴上说说,他正在用实际行动解决问题。其次,他们训练自己的模型来测试"什么类型的数据表现最好,什么类型的人表现最好",以此来持续优化 Surge AI 自身的数据运营和内部数据产品。
Edwin 对此有一个令人印象深刻的表述:"我常常更多地把我们当作一个研究实验室,而不是一家创业公司。这有点好笑,但我一直说——我宁愿成为陶哲轩(Terence Tao),也不愿成为沃伦·巴菲特(Warren Buffett)。创造推动前沿的研究,而不是追求某个估值——这一直是驱动我的东西。"
在招聘方面,Edwin 寻找的是那些"可以花10个小时深挖一个数据集"的人——那些不仅关心抽象算法,更关心模型的"定性方面"的人;那些能亲自上手玩模型,思考"这是我认为模型失败的地方,这是你希望模型表现出的行为"的人。
第十三章:目标函数——决定AI未来走向的哲学问题
Edwin 用一个极具哲学深度的框架总结了他和 Surge AI 的更深层使命。
"我们做的表面上是训练和评估AI。但我经常思考的是更深层的使命——帮助我们的客户思考他们'梦想中的目标函数'(Dream Objective Functions)。你想让你的模型成为怎样的模型?一旦我们帮他们想清楚这一点,我们就帮他们把模型训练到那个'北极星'(North Star),并帮他们测量进展。"
但这极其困难,因为目标函数本身是丰富而复杂的。他做了一个精妙的类比:这就像养孩子。肤浅的问题是"你想让他们通过什么考试?——SAT高分、写好大学申请文书?"而深层的问题是"你想让他们长大后成为什么样的人?如果他们快乐,无论做什么你都开心吗?还是你希望他们上好学校、经济上成功?"而一旦你选择了后者——怎么定义"快乐"?怎么衡量它是否快乐?怎么衡量"经济成功"?这比测量SAT分数难得多。
"我们想帮助客户达到他们梦想中的北极星。核心问题是:我们是在构建真正推动人类进步的系统吗?如果是,我们如何构建数据集来朝这个方向训练和测量?还是说,我们正在优化所有这些错误的东西——只是构建吸走我们越来越多时间、让我们越来越懒惰的系统?"
他用一句话凝练了他的核心理念:你就是你的目标函数(You are your objective function)。 Surge AI 的工作是追求那些丰富、复杂的目标函数,而非简单化的替代指标——"我们想要测量AI是否让你的生活更丰富的指标,我们想以此训练我们的系统。"
第十四章:被低估与被高估
当被要求在AI领域指出一个被低估和一个被高估的趋势时,Edwin 给出了令人印象深刻的回答。
被低估的(Under-Hyped):聊天机器人中的内置产品(Built-in Products)和迷你应用(Mini Apps)。Edwin 一直是 Claude 的 Artifacts 功能的忠实粉丝。他描述了一个最近经历:Claude 不仅帮他起草邮件,还创建了一个"小盒子"——点击它就可以直接给某人发短信。"把 Artifacts 带到下一个层次——在聊天机器人内部拥有这些迷你应用、迷你UI——我觉得人们谈论得还不够。"
被高估的(Over-Hyped):Vibe Coding(氛围编程)。Edwin 对此非常担忧:"我认为人们没有意识到,它会让你的系统在长期内变得完全无法维护。人们只是把代码直接倒进代码库里,只要现在看起来能用就行。我有点担心编程的未来——这只会不断继续下去。"
第十五章:关于AGI的时间线
当被问及 AGI(通用人工智能,Artificial General Intelligence)的时间线时,Edwin 持较长的预测。
"人们没有意识到从80%到90%到99%到99.9%之间有着巨大差异。在我看来,未来一两年内,模型大概能自动化一个普通L6软件工程师80%的工作。从80%到90%还需要几年,从90%到99%还需要几年,以此类推。所以我认为我们离AGI还有大约十年甚至数十年的距离,而不是几年。"
他也明确表示:在AGI真正实现之前,人类的参与仍然是核心——"这在某种程度上是由定义决定的:如果我们还没有达到AGI,那么模型就还有更多东西要从人类身上学习。"
第十六章:快问快答——书籍、电影与人生信条
在节目的闪电回合(Lightning Round)中,Edwin 分享了一系列个人偏好:
三本推荐书籍:
- 特德·姜(Ted Chiang)的《你一生的故事》(Story of Your Life)——他每几年就会重读一遍。这个故事被改编为电影《降临》(Arrival),讲述一位语言学家学习外星语言的故事(完美呼应他的童年梦想)。
- 加缪(Camus)的《西西弗神话》(The Myth of Sisyphus)——虽然他无法完全解释为什么喜欢,但最后一章总能给他带来某种鼓舞。
- 侯世达(Douglas Hofstadter)的《Le Ton beau de Marot》——这本书将一首法语诗歌翻译了89种不同方式,讨论每种翻译背后的动机。Edwin说:"它完美体现了翻译不是机械工作的理念——有无数种方式思考什么是高质量的翻译,这也塑造了我对LLM数据和质量的理解。"
最喜欢的电视剧:《旅行者》(Travelers)——关于一群来自未来的旅行者被送回过去阻止灾难的故事。
最喜欢的电影:《超时空接触》(Contact)——再次涉及科学家破译外星通讯的主题。
最近发现的最爱产品:Waymo 无人驾驶出租车。他在旧金山第一次体验,"简直神奇,就像活在未来。"
人生信条:创始人应该建立一家"只有他们才能建立的公司"——就好像整个人生、经历和兴趣都指向这个命运。Edwin 将这一原则扩展到更广泛的层面:"公司在一定程度上是CEO的化身。当我面临重大艰难决策时,我不去想'公司会怎么做',也不去想'我们在优化什么指标'——我只是想:我个人在乎什么?我的价值观是什么?我希望世界发生什么变化?"
Edwin Chen 和 Surge AI 的故事远不止是一个商业成功案例。它是对硅谷主流叙事的全面挑战,是对AI发展方向的深刻反思,也是一位科学家对"我们想要构建一个什么样的未来"的严肃追问。正如Edwin在对话结尾所说:"我经常把我们做的事情比作'养育人类的孩子'——这不仅仅是在教模型分辨好坏,而是在塑造未来的文明。"
对于任何一个正在思考AI未来、考虑创业、或被硅谷主流叙事裹挟的人,这场对话都值得反复体味。
觉得有用?分享给一个需要的朋友 🙏