AI 模型正在偷走你的数据:Alex Karp 论主权 AI 与安全争论背后的国有化

摘要
在一场 CNBC 独家专访中,Palantir 联合创始人兼 CEO Alex Karp 把矛头指向封闭 AI 模型的数据窃取:token 打折不是为了让市场增长,而是为了让模型厂商拿到你的 IP、让它们的模型变强——而这件事从没有任何诚实的披露。客户「怒不可遏」,这推动了他与黄仁勋(Jensen Huang,Nvidia)共同发起的「主权 AI 革命」:开放权重模型 + 应用层 + 后训练,更便宜、更安全,让你掌控自己的现在与未来。
Karp 认为所谓「AI 安全」争论被普遍误读了:EA(有效利他主义)哲学框架是「我们这一千个想法相同的人理应拥有全世界的 IP」——于是先把所有企业的 IP 迁进模型,再因为需要无限责任保护而只能求助于唯一能提供它的机构——美国政府。安全争论的本质是国有化。他反复用牌局里的老话点破:「如果你以为别人是那只待宰的羊(the mark),你就是那只羊。」
责任问题上,他给出核能类比:第一步永远是「你为自己的行为承担民事乃至刑事责任」,而不是用自我监管或监管来逃出第一道防线。他还警示财富集中正在引爆政治反弹,主张对高收入端征税但避开「财富税」。作为「真正的进步派」,他认同穷人没有得到公平对待,但认为当下的解决方案只会帮到对手。
正文
一、客户为什么愤怒:封闭模型的数据窃取与主权 AI
节目开场,主播引用了 Palantir 六月写下的那句话——「你的 AI 主权决定你机构的未来」。Karp 强调 Palantir 一直在军事 AI 应用的最前沿,是第一个真正做出可用 AI 技术的公司,如今主导着应用层:「我们有一款产品,所以我们非常清楚什么管用、什么不管用。」真正让客户愤怒的安全问题,不是那些被热议的「AI 失控」,而是「他们相信自己的 alpha 被偷了」——也就是他们如何经营企业的思路、他们的数据,落进了某个模型,然后隔壁的竞争对手掌握了他们全部的 alpha,而他们还为此付了钱。他引用了一句「客户原话里最不粗鲁的一条」:「他们凭什么告诉我不戴套?」他解释说,当你使用封闭模型并付 token 费时,token 之所以打折,不是为了让市场增长,而是「为了拿到你的 IP,让它们的模型变得更好」——而这件事「从未有过任何诚实的对话或披露」。于是他和 Nvidia 的黄仁勋共同发起了主权革命:没有应用层、没有后训练(目前用开放权重模型来做),你就在事实上把价值和能量外包了出去;而主权路径正在全美爆发,「因为它更便宜、最终也更安全,你掌控自己的未来和现在」。谈到 Anthropic 的 Dario Amodei,Karp 不吝赞誉:「我从没见过有人能从队尾杀到第一」,他尊重他,因为他「既是伦理的人,也是生意人」——而当公司处境不佳时,这些「安全」声音就会浮现,公司向好时又退潮,但 Karp 不认为这真的是驱动一切的东西。
二、被误读的「安全」争论:真正在发生的是国有化
Karp 的核心论断是:所有人以为这是「安全 vs 不安全 vs 监管」之争,但实际发生的完全不同。他认为对方真正的哲学框架是「我们这一千个想法相同的人,理应拥有全世界的 IP」——这解释了为什么他们不能与军方合作,为什么可以把企业的 IP 放进自己的模型;而这样的模型需要「严厉的责任保护」,世上只有一个机构能提供它——美国政府。「那是在你触及危险之前的事。」他拆解这条逻辑链:投资者当初乐于看到所有企业的价值被迁进一个他们持股的实体——因为他们是投资者,没意识到自己才是那只羊。「你先把所有 IP 迁进你的企业,然后因为你需要封顶的责任(既要面对企业,也要面对危险),你就得把这个企业迁给政府——它必须被国有化。」否则,每一个客户都会起诉。当主播问「你认为 OpenAI 想要这样吗」,Karp 连说「不,不,我觉得这些是非常不同的事」,但这是「EA 运动的核心哲学强加在一门生意上」。谈到上市,他说「你假设会有 S1」,而处理这种责任的唯一办法就是走到政府面前说「请把我们国有化」——一旦这么做,企业价值先崩一次、再因为董事会上有人而崩一次、最后可能连整个市场一起崩。他给出那条牌局铁律作为总结:「在扑克和人生里,第一条教训就是:如果你以为别人是那只羊,你就是那只羊。」
三、责任先行:核能类比与「自担责任」的第一道防线
当话题转向「AI 挣脱人类意图、反噬人类」的社会性风险时,Karp 承认「这当然是个社会问题」,但他反驳了「自我监管」的思路。他的框架是:「第一道防线是你为自己的行为承担责任」——这是一个奇怪的转折:这些实验室要求社会监管,恰恰是为了逃出第一道防线。「如果你造了一种能摧毁世界 10% 的技术,这本身就附带民事和刑事责任。第一步不是『我们想自我监管、想被监管,所以免罪』,而是『你已经披露了,你打算怎么办』;第二步才是『如果你不负责,我们就得让其他人介入』。」而监管的难点在于需要懂行的人——「看似每个懂这个的人都在某人的 payroll 上」。他搬出核能的历史类比:法国至今比你预期的强得多,正是因为他们押注了核能;按人均能源支出对 GDP 的函数看,排在前面的正是美国、中国、以色列、然后是瑞士与法国。「这是锋利的技术:用于医学、用于核能、为我们的威慑供能——空中、水下、大洋里——但它也可能被滥用、也会出事故。」关键不在于技术危险,而在于「你不能说『我在造一个东西,却不知道如何给它设界』」——他们嘴上说不知道如何设界,真正的意思是「美国(或某个多国政府)用承担风险来换取所有权」,只是「这话没法明说,因为投资者会当场反应过来:我以为别人是那只羊」。
四、应用层与战场:进攻需要人、防御来不及
谈到 Palantir 的位置,Karp 把它定位在「应用层」:早在人们意识到安全问题之前,Palantir 就靠一件事立足——让模型在极其复杂的用例上精确运行,无论是复杂的制造、Nvidia、Chipotle 的食品安全、军事还是供应链,「这些都需要精度,而精度由你拥有,于是你需要一个应用层」。应用层还有一层好处:它让你能安全地使用那些可能正在把你的 IP 迁走的封闭模型。他补充数据:Palantir 在美国的企业软件业务增长了 149%。战场是这些议题的极致版本:一枚导弹落在敌人头上,其实是「本体(ontology)与模型里所拥有的数据集与精度的拼接,而没有任何单一组件能看到另一个组件」——这正是他所说的安全与精确的统一。至于「human in the loop」,Karp 点出一个被学术界刻意回避的难题:进攻与防御的伦理标准不同。「如果我攻击你,我只被允许做 X 类事情;如果是你攻击我……」而在对等对手之间,你将需要「不是人类」的响应——它太快了,而且有了这种技术你往往能预测。「如果我们能预测你 35 秒后或 3 小时后要攻击我,这是进攻还是防御?进攻你肯定需要人在回路,防御则根本没时间。」他把话说到底:你终究要选边站。欧洲决定不参与,以色列太小,「是美国来做这些不完美但艰难的决定,还是他们?」他说自己花了半生研究中国文化、是高阶的太极拳练习者、「绝非仇中」,但「最终这是一个选择」。
五、财富集中、政治反弹与「真正的进步派」
临近尾声,Karp 谈这场革命最大的政治风险:一场「我富 50 倍、别人只富 10%」的革命,不可避免会引爆政治疯狂。极左与极右都在收割这股怒火:极左乐意谈论自己不反犹,却不愿谈自己不反黑人;极右则把一切都描绘成「某个人的数据中心」。他的药方是:富人应该多交税,但「财富税会杀死创业精神」,真正该做的是「把削减浪费、欺诈和滥用与对最富阶层加税绑定起来」。谈到 Dario 的模型能否活下来,Karp 说他不希望对方倒掉,但他相信未来企业会「使用多个模型,一些开放、一些封闭」——凡是涉及真正的秘密与 alpha,企业都会转向开放模型;只有「在阿根廷做营销、对方想用封闭模型」这种场景才会继续用封闭。他对 Bernie Sanders 想禁掉超级智能、Elizabeth Warren 呼吁暂停的回应是:「不是只有左派。」极左极右都对,因为「你们把自己包装得像是上帝没给你们脑子似的——你不讨喜,还要比别人富 50 倍,我们不干」。但他紧接着澄清自己的立场:「我是真正的进步派。真正的进步派希望穷人、工薪阶层过上好日子——我不同意的是,这套方案帮不上忙。」他也坦承 Palantir 自身的瓶颈:约 4500 名员工,市场扩张速度远超承载能力,「你不在这个国家的每一分钟都在亏钱」。访谈在他那句带着自嘲的收束里结束——他开玩笑说自己手下的英国人「技术极强,只是还没学会像我们一样把英文写得那么糟」。
觉得有用?分享给一个需要的朋友 🙏