存在性风险、网络安全与企业AI落地路径——Databricks联合创始人兼首席执行官Ali Ghodsi访谈要点梳理（a16z Podcast，2026-09-18）
——据a16z Podcast节目《Databricks CEO on What We’re Getting Wrong About Existential Risk》（2026-09-18）整理
摘要：本文对a16z Podcast节目主持人Martin Casado、Sarah Wang对话Databricks联合创始人兼首席执行官Ali Ghodsi的主要观点进行了梳理汇总。梳理了其对存在性风险与递归自我改进的判断，介绍了其对行业安全表述、外部监督以及网络安全风险演变的看法，最后阐述了企业AI落地在本体构建、评测、成本治理、开源模型使用与代理需求等方面的工程路径。据其介绍，复现前沿模型的单次训练开销已由约1亿美元升至50亿至100亿美元，漏洞从公布到被武器化的时间由两三年压缩至小时级，企业开源模型用量按金额计约占5%、按token计超过60%。
关键词：企业采用；代理安全；AI监管；开放权重；模型路由；Databricks；Ali Ghodsi
一、存在性风险与递归自我改进
Ghodsi认为当下的存在性风险接近零，递归自我改进须同时满足四项条件，而现实观察指向相反方向。
（一）对存在性风险的判断
Ghodsi的出发点是领导者的责任。他认为除非确有很强理由，不应反复向数百万人讲述人类被抹除的情景，这会把一些并不了解技术细节的人推向焦虑，造成心理健康层面的伤害。主持人举例称，其姐妹曾发短信询问是否要为AI末日备好小木屋。被问及P(doom)时，他先说低于10%，随即改口称接近零。他同时指出，这一话题已外溢至政治层面，Elizabeth Warren谈及暂停全部AI开发，而各国都有选举。
对于超级智能，他回到Bostrom在2014年著作中的定义，即几秒钟写出一篇带有原创同行评审内容的博士论文、瞬间完成人类千年量级的思考、在十一维空间中直觉推理。他认为这与今天的代理相差很多个数量级，目前看不到朝该方向行进的证据；此类事物一旦出现确实无法靠工程解决，这一点各方本就同意，他反对的是把它与“现在的代理能干以前干不了的事”混为一谈。
（二）递归自我改进的四项条件
Ghodsi将实验室内部的紧张归结于递归自我改进，并将其拆解为四项须同时成立的条件：一是下一代模型训练所需资源与GPU显著减少，且呈超线性减少；二是训练所需时间同样减少；三是模型的准确率与智能持续上升；四是前三项可以反复重复。任何一项不成立都会形成自我限制，例如资源保持不变时，硬件总量本身就会卡住速度。四项均成立时，才会出现下一代模型用一半时间、一半资源且更聪明的情形；他补充称，即便如此也未必通向超级智能，但风险更高，因此希望实验室公开这部分数据。
他特别区分了一种混淆：若所谓自我改进只是软件在编写自身，Databricks九成以上的软件已由AI编写，剩下几个百分点是否交给AI并不重要。很多人把“我还写不写代码、我的价值在哪里”与“是否会出现那种超级智能”混为一谈。
现实观察指向相反方向：一是成本上升，复现前沿的训练开销由当年的1亿美元量级升至50亿至100亿美元，每家实验室一年只做一两次此类运行；二是过程更脆弱，参与人员更多，GPU每增加一个数量级就要处理以前不必处理的错误，失败一次即意味着巨额资金作废，被搞砸的运行不止一次；三是主持人补充称，六个月后复现同一前沿的成本约为当初的二十分之一，成本下降来自时间推移，与自我改进无关。
在检验方法上，主持人提出观察实验室自身：若这些公司在人数与投入持续下降的同时产出仍在加速，就应引起注意，而眼下各家都在大举招人。Ghodsi认为这一指标不够公平，早期OpenAI在做上百件事，真正做语言模型的只有十来个人；他的修正是只盯训练下一代模型的团队，看预训练与后训练人员是否在减少、所用GPU是否越来越少，而这并没有发生。他愿意担任检查员公开数据，并估计四项条件同时成立的概率不高。
主持人还作了术语区分：很多人口中的递归自我改进实为“自催化”，如用模型写GPU kernel、做数据清洗，与无芯片则造不出芯片、编译器编译自身属于同类现象。按其接触创业者的样本，自称做递归自我改进的人中约百分之一名副其实，约九成投入属于自催化，这正是任何一代技术中都会出现的比例。Ghodsi认可这一区分，同时提醒确有团队在做让模型训练自身的工作，值得单独跟踪。主持人还回顾了1999年前后对PlayStation实施出口管制、担心其被用于核武模拟的往事，当时的论证同样是技术正变得无限强大、应当叫停，后来并未兑现。
二、行业安全表述与外部监督
主持人认为行业以“放慢节奏”（pacing）表述安全存在失误，Ghodsi部分认同，并主张引入立场中立的外部检查。
（一）“放慢节奏”表述的得失
主持人的批评集中在措辞上，主要有三点：一是放慢与安全是两件正交的事，慢慢造一件武器与造武器并无区别；二是这些公司一直在全速推进、持续购买算力，外界因此认为该说法缺乏诚意；三是它像是对要求暂停一方的半推半就，两头不讨好。主持人认为应直接表述为“守护前沿”（secure the frontier），并认为扎克伯格（Mark Zuckerberg）强调安全与自我约束、将延后发布归因于安全的说法效果好得多。
Ghodsi部分不同意，理由主要有三点。一是公地悲剧真实存在，作为经营者要竞争、要赢，单方面停下来就是吃亏，因此业内部分人的真实诉求是“请进来管住我们，划条线，我们乐意照规则做安全的事”。二是确实存在速度问题，他以Hugging Face与OpenAI那次事件为例，当时没有人盯着每一个token，强化学习实验跑完之后才回头检查，数百万GPU小时的产出、代理在沙盒中四处运行，安全团队若全程盯守会大幅拖慢进度，而在不确定同行是否照做时，没有人愿意单独承担。三是在制度层面，既然这些公司一边讲存在性风险、一边请求监管，监管者长期拒绝难以维持，他判断当前的拒绝态度撑不了太久。
（二）外部检查与行业自律
Ghodsi赞成让外部检查员进入实验室查看数据，关键在于人选，立场先定的人无论说什么都不具备信息量。他举例称，若由Yann LeCun这样的深度神经网络奠基者看完后表示没什么可看的，他会很安心；若对方口径松动，本身就是强信号。对于实验室互相评审，他认为拳击手不能自己当裁判，一旦对手放出好模型就会满场喊犯规，何况各家之间有竞争、有上市计划、有过往恩怨。主持人补充称，行业自律与联邦介入会相互渗透，IETF是一条路径，FINRA则是与政府挂钩的自律组织。
对于Elon Musk所说“这是精心设计的四维棋，一边说全人类会死，一边问你要多少IPO配额”，Ghodsi认为动机往往是混合的：有人真的被吓到，也有人认为一轮能拖慢同行的监管对自身有利，而人通常能让各种利益在脑中和谐共处。他承认行业存在营销惯性，每训完新模型就称其好到令自己害怕，但网络攻击的威胁是真实的，两者未必矛盾。
三、网络安全风险与市场合流
Ghodsi认为网络风险可以靠工程解决，但漏洞利用速度已使人工防御难以为继，数据与安全两个市场正在合流。
（一）漏洞武器化提速
据其介绍，2018年至2019年，一个公开漏洞（CVE）从公布到被真正武器化约需两三年，2022年降至八九个月，此后继续缩短，目前基本为小时级，几乎一经公布即被利用。在这一速度下人力跟不上，只能依靠自动化。他描述的现状是：一是多数组织仍在使用旧式安全运营中心，值班人员每天面对上百封告警邮件，其中误报居多但仍夹杂真实威胁，无暇逐条处理；二是真正需要的是自动化威胁狩猎，让代理持续攻击自家系统；三是银行与安全意识强的机构已在推进，多数组织距此仍很远，Databricks自身在检测市场已有产品布局。
（二）风险形态与市场合流
他判断数据与AI市场正在与网络安全合流。过去一边是数据与机器学习、一边是入侵检测，如今企业内部运行大量代理，并与其他方的代理交互，持续产生日志、轨迹与指纹，均需分析，所需规模比一两年前高出许多个数量级，他将此称为两个市场的“塌缩”。
关于风险形态，他认为代理被放出后会找到漏洞与可利用路径并四处入侵，还可能夺取资源、在别处执行自身、像病毒一样扩散，这属于经济损失与人员受伤的量级，够不上存在性风险。值得注意的是，他指出存在一个能力拐点：过去无法调集一万名安全研究员在沙盒中工作一个月、消耗相当于1亿美元薪酬的工作量，如今按下按钮即可实现，十万名也行。这是网络风险的真实来源，也是他认为可以靠工程解决的问题。主持人提出反问：互联网早期的蠕虫曾令医院停摆、打掉关键基础设施、造成数百亿美元经济损失，而当时联网的经济体量小得多；如今资金与人才涌入AI，寻找风险的人也多，却未出现与当年相称的破坏。Ghodsi表示自己晚上睡得着，同时坚持大量基础设施需要尽快加固。
四、企业AI落地的工程路径
Ghodsi认为企业AI落地的关键在于预先构建企业知识的索引并做好评测，后训练与强化学习正在成为定制模型的主要方式。
（一）本体的离线索引
Ghodsi指出，今天的代理，无论Claude Code、Codex还是各类开放实现，运行的都是推理循环，带着问题逐个资源查询，先访问一个MCP服务器看答案是否在其中，再换下一个，逐步综合成回答，速度较慢。他以搜索作类比：若二十五年前谷歌（Google）这样做搜索，接到查询后逐个访问网站、用语言模型总结、再并行跳入枢纽链接，折腾十分钟才给出十条蓝色链接，将是成本高、等待久、质量差，因为只看了全网很小一部分。谷歌的解法是索引，查询命中倒排索引后一百毫秒内返回；本体（ontology）要做的正是离线、持续地把这一索引算出来。
他认为这比PageRank更难，原因有两点：一是当年的网页人人都能访问，企业数据则有权限与访问控制，你能看的数据未必是我能看的；二是对象类型远不止网页一种。据其介绍，这件事可以做成，Databricks自身本体图的节点数以百万计。他肯定Palantir在把隐性知识落成文字方面做得好，Databricks则自动把这些材料转成图提供给代理。
原料端同样存在阻力：一是前提条件是组织里发生的一切已被数字化、每场会议都有文字记录，而在很多组织中收集本身就是问题，法务团队会要求不录制每一通电话；二是驻场服务（FTE模式）需求明显上升，图可以自动构建，但客户若什么都没收集就无从建起；三是部分驻场资源用于客户所需的带护栏代理，如福克斯（Fox）的体育AI，被问及政治话题时会拒绝并把话题引回体育。
（二）评测与后训练
被问及自建与定制模型的难点，双方都指向评测。据其介绍，Databricks曾在产品中自动为客户生成评测集并放在显眼位置，客户不愿使用；改为可选并移至后台后，再无人点开。原因在于客户需要快速的正反馈，新模型出来想马上试用、想尽快解决手头问题，没有时间按先做评测集、再立基线的科学方法推进。他将其类比为测试驱动开发，人人都认为正确，实践中很少有人真正去做。他的结论是，训练自有模型难在评测这一步。
这与后训练的商业化直接相关。Databricks在2023年收购Mosaic时还讲替客户做预训练，他表示现在看这一路径不成立，现成的预训练模型已经足够好；真正跑起来的是后训练与强化学习，许多AI创业公司本身就是客户，用强化学习环境把开源模型在某项重复任务上调到很好，从而降低成本、提升速度，并将知识产权留在自己手中。大型企业则需要基础层面的自动化，眼下做这件事对它们而言负担仍然过重。
五、成本治理、开源替代与代理需求
企业AI使用正从“新模型一出来就用于所有任务”转向按任务分层调用，代理本身也在成为基础软件的新用户群体。
（一）预算护栏与智能路由
据其介绍，Databricks在内部推广上领先几个季度：去年第四季度模型变好后，他本人开始向生产环境提交代码并设立排行榜，到一二月全员推开，二三月即出现token用量失控（token maxing）。治理抓手是公司的网关产品，该产品原本向客户供应OpenAI、Anthropic、Gemini、Grok与各类开源模型的token容量，在此基础上加了三层：一是按人、按组设定预算上限并发出预警，提示剩余额度；二是做分析以预测成本走向；三是智能路由，在接近预算或问题足够简单时自动切换至更便宜的模型。
此外，公司自建了一个harness，用于在不同harness之间多路复用。据其介绍，同一个模型、同一个版本，换一个harness，实际成本可相差近两倍，更换harness本身就是可观的成本杠杆。综合效果是token用量持续上升，而AI成本基本走平。
（二）开源模型的使用占比
被问及开源占比，他给出两个口径：按金额计约为5%，按token计超过60%。主持人补充了三方面情况：一是面向产品的一侧，有公司近九成使用开源模型；二是内部使用一侧，很多团队不计较成本、直接使用前沿模型，规模变大后才开始管控；三是上周有一家规模化公司在董事会上提出要把工程组织从前沿模型迁至GLM，此前几轮开源冲击都未在市场上留下可观察的痕迹，这次听到的案例更为实在。
Ghodsi认为两类模型都需要：困难任务上要用新近发布、能带来回报的模型；大量琐碎工作使用前沿模型则是浪费，例如有人用harness重命名文件，模型运行五分钟、花费几美分，这类工作自己敲键盘更省。具体做法有几种并存：一是便宜的小型开源模型在需要时调用大模型的专家模式，或者反过来；二是两者之间来回传递任务；三是主持人观察到的分工，即用Fable或Astra做架构设计、便宜模型做实现、再由前者做审计。他判断行业将走出“新模型一出来就拿它做所有事”的范式。
（三）代理成为新的采购方
主持人提到有第三方测评将Lakebase与Neon列为代理首选的Postgres数据库。Ghodsi将功劳归于Neon团队，原因在于他们转换了服务对象：数据库行业长期围绕数据库管理员（DBA）与应用开发者，这支团队只问怎样对代理更好。具体做法包括：一是启动时间压至远低于一秒；二是巨大的数据库也能在一秒内克隆，分支功能做得很轻；三是定价上刻意让实验性用量不至于烧钱。据其介绍，两个平台上超过九成的数据库由代理创建。
他还列举了几个已投入生产的用例：Crisis Text Line识别青少年自残与自杀倾向；Omnipod让AI学习个人胰岛素释放规律并自动给药；与默克（Merck）合作的Teddy模型预测基因调控网络的响应；诺和诺德（Novo Nordisk）把Genie用于自家试验，肥胖研究获得洞见的时间从数周缩短至数分钟。
总的看，Ghodsi认为当下的存在性风险接近零，递归自我改进所需的四项条件与训练成本上升、过程更脆弱的现实相悖，网络风险真实存在但可以靠工程解决；企业AI落地的关键在于构建带权限控制的本体索引、补上评测短板，并通过预算护栏、智能路由与开源模型分层使用控制成本，代理本身也正在成为基础软件的重要用户群体。