Nicholas Robbins(企业发展副总裁)
Karl Keirstead(瑞银集团)
Timothy Arcuri(瑞银集团)
哦,那太棒了。谢谢。好的,很好。谢谢大家。我是Carl Kierstad。我们请到了负责覆盖英伟达的Tim Arkiri,也很荣幸邀请到了Coralweave的Nick Robbins。你们知道,今天对我来说很有趣,因为这是今天的主题,部分是刻意安排的,但你们知道,我们今天早些时候有Nebias上台。我们刚刚结束了与Crusoe和Lancium的对话,他们正在打造下一代Stargates。现在我们有请Nick在之后不久谈论Coreweave的故事。我想在几个小时后,我们还会有Blue Owl Capital和Magnetar来讨论他们如何为所有这些建设提供资金。所以今天确实是深入探讨整个GPU云建设的有趣一天。你想从哪里开始呢。Nick在一开始有一些深刻的话想分享。
是的,这是免责声明。好的,在我们开始之前,我想提醒大家,Corey在今天的炉边谈话中可能会发表前瞻性陈述。实际结果可能与今天的陈述存在重大差异。有关可能导致这些结果不同的风险、不确定性和其他因素的信息包含在Corey Reave的SEC文件中。我们说完了。谢谢。
太好了。谢谢。Nick。让我们分块讨论一下。让我们谈谈一些与需求相关的问题。随着你扩大基础设施规模,我们会谈谈一些供应问题。Tim显然想和你谈谈GPU和TPU之类的东西。但让我们从需求端开始。显然Corey上个季度实现了134%的收入增长。你们的积压订单是550亿。这是你们收入运行率的10倍。情况看起来非常好。你们已经开始更多地摆脱早期对微软的高度依赖,实现多元化。Nick,我能请你在一定程度上描述一下你今天看到的需求吗。我的意思是感觉非常惊人,但你可以更深入一点。
是的,我认为我们最近用来描述它的词语范围从“无法满足”到“持续不断”再到“巨大”。你知道,似乎在今年内我们就经历了几次需求的阶梯式上升,我想说年初的需求就已经非常持续。然后到了夏天,我们发现似乎所有客户或者说大多数客户都想要更多,很多潜在的新客户也想要更多。然而,正如我们几周前在财报电话会议上所说的那样,我们今天所处的位置是,需求似乎又在向上迈进了一步。
是的。我认为随着我们看到更多能带来投资回报、能改变业务、行业和世界的计算用例。没错。更多的人想要更多,坦率地说,我们继续发现自己处于如何更快地增加容量以满足这种需求的位置,因为这仍然是我们业务增长的制约因素。
好的,让我们更深入一层,谈谈你对需求来源的判断。是模型提供商意识到强化学习的优点,需要更多计算能力吗?是所有人都低估了像ChatGPT这样的消费者AI产品每个提示的计算强度,因此需要更多的推理计算吗?据你估计,今年这些计算需求上升的触发因素是什么?
我认为这不是单一因素。我认为是很多事情同时发生。我认为扩展定律在某种程度上仍然成立。没错。在预训练基础上,你想要更多。我认为扩散。没错。训练后和其他类型的计算密集型、需求大的训练。没错。催化或进一步加速了这一点。除此之外。是的。从推理角度来看,世界在那里看到的创新也是计算密集型的,即推理模型或思维链。
是的。我怀疑,随着更多AI实验室和企业将AI产品推向市场,这些产品将继续变得更加计算密集和需求巨大。因此,所有这些顺风都指向同一个瓶颈,即它们都指向需要更多计算能力的方向。你知道,也许一年前或14个月前,我认为世界非常简单地认为训练是计算密集型的。你做一次,然后发布一个模型,然后只关乎延迟,推理的计算量很小。就像你问一个问题,得到一个答案。没错。大约14个月前,我认为01的发布让世界看到了推理的新方向。我认为这三个方面的扩散就是答案。
从客户群体来看,需求如何?是的,显然前沿模型提供商推动了大部分计算需求。但现在我们有许多较小的AI原生公司,如Poolside、Cursor等,正在推动需求,并且在某个时候企业端也会启动。那么在需求曲线上我们处于什么位置呢?也许你有不同的看法,但可以从前沿模型提供商、AI原生公司和像瑞银这样的传统企业的角度来看。
当然。我想说,从前沿AI实验室的角度来看,需求更多的是“请给我们更多”,问题在于如何获得更多计算能力并继续扩大足迹。没错。我认为。这一赛道非常漫长。你知道,基于我们今天的位置,也许情况不会永远如此,但感觉几乎是无止境的。我想说在企业方面,我们无疑还处于旅程的早期阶段。没错。我想说,很明显, hyperscalers(超大规模企业)以及像谷歌和Meta这样的公司显然正在使用AI和GPU计算来重新加速增长并推动业务回报,这是一个趋势。但当我们想到瑞银这样的公司时,我认为很明显。AI实验室在帮助将AI产品化、销售方面将发挥作用,而OpenAI、Anthropic以及类似企业的增长令人难以置信。没错。它们在一年内增加数十亿、数十亿、数十亿的ARR,以史无前例的速度增长,这证明了这一点。但我想说,应用层的成熟显然还处于早期阶段,我们也意识到其中一些企业需要一些帮助才能达到这一阶段。没错。几个月前,我们收购了一家名为Monolith的公司,其核心是帮助将AI带入物理世界。
他们所做的以及我们将一起做的。没错。专注于计算密集型行业,如工业领域,Monolith的案例中是汽车行业,他们有成熟的工作负载,并且有明确的用例,其中一个例子是电池优化和实验,但他们不一定有这样做的产品。所以你知道,我们思考如何部署我们自己的软件和服务。为了帮助一些传统企业加速这一进程,同时也为那些显然在推动市场前进的AI实验室提供服务。
好的,我再问你两个问题,然后Tim会转向供应方面。Nick,显然在最近的电话会议上,你强调了一些推迟。现在,我确信建立千兆瓦级AI园区是任何人都会遇到的最复杂的上线供应链问题之一。因此,由于合作伙伴延迟而导致一个季度的延迟,我认为这对任何人来说都不令人震惊。但你能描述一下你对实现这些供应目标的信心吗?是否有任何新的供应瓶颈正在浮现,可能值得向大家指出?
是的,你说得绝对正确。像这样的数据中心和AI园区的建设规模和速度是前所未有的。没错。而且没有操作手册。没错。我喜欢的一个笑话或者说不知道是不是笑话的类比是,你让某人去搭建“死星”乐高积木却没有说明书。没错。就像。你不知道自己在做什么,你摸索着做,这会让你在下一次做得更好?我想说我们看到的供应链问题并不新鲜。
我认为在过去几年中,我们已经非常巧妙地应对了这些问题。并且我们将继续这样做。而且这不是单一的问题,没错。人们会问,是不是没有足够的劳动力?确实没有足够的劳动力。人们会问长期交付设备的问题。确实没有足够的长期交付设备。之所以称为“长期交付”,部分原因是获取它需要时间。因此我们正看到这些因素的共同作用。但同样,你知道,在过去几年中,我们已经在北美和欧洲的41个数据中心扩展了集群。
我们一直在这样做的同时解决这些问题,并且在第四季度也将继续这样做。你知道,在第三季度财报电话会议上,我们非常失望,因为某些事情的进展与支撑我们指导的预期相比出现了延迟,我们不得不修订指导。我能用手数出的几周时间。没错。但当它从一个季度推迟到另一个季度时,看起来就非常严重了。我们谈到大部分产能将在第一季度上线。与几周前我们在财报电话会议上所说的相比,我们目前的进展非常顺利。
但我想说,我们如何继续解决这个问题?我想说自建项目有所帮助。我们已经谈到了在新泽西州Kenilworth和宾夕法尼亚州Lancaster的前几个自建项目。其外部效应是,我们今年在大幅增长数据中心团队、数据中心技术人员、项目经理、行政人员等方面进行了大量投资。这使我们不仅能够拥有更多的自建能力(目前这只是我们所做工作的一小部分),还能在更多地方拥有更多的现场人员,并对这些站点的时间和发展有自己的看法,从而能够更透明、准确地向我们的客户以及在座的各位传达这些信息。
好的,让我再问你一个问题。我们来谈谈一个热门话题。那就是人们心中的AI泡沫担忧。因为我听你说需求无法满足,你对增加大量供应表示信心。然而,我们可以将此与一些有思想的投资者的担忧进行对比,他们认为你和整个GPU云基础设施业务正在过度建设,Nick,三年后需求不会存在。所以请直面这个问题,并给出你的反驳。
当然。首先,我完全不同意存在泡沫的说法,没错。就像当我们看到AI被快速采用和货币化的速度时,没错。几分钟前我谈到了我们正在经历的巨大且势不可挡的增长,但这是领先AI实验室及其快速增长的直接结果。我们看到超大规模企业如何通过AI实现货币化,并且我们都在说容量根本不够。没错。我认为人们喜欢将其与其他一些事情进行比较,比如互联网泡沫,就像。
你知道,如果有人不同意,他们可以对我大喊大叫,但在我看来,在1998年或1999年,你似乎从未听说过“你不明白,就是没有足够的光纤”,没错。就像情况恰恰相反。我们正在为即将到来的事情进行建设。我们只是在努力满足客户现在对我们的需求。我们正在签署长期的“照付不议”合同,为未来9到12个月上线的容量,他们承诺在未来五年内使用这些容量。
没错。由此产生的现金流正在支付资本支出。它们自然地去杠杆化以偿还债务并为我们带来自由现金流。没错。这使我们处于这样一种 position:我们将有效地折旧和支付基础设施费用,获得一些现金流,并有机会继续货币化我们认为是市场上性能最佳的解决方案。但我们所做的事情中,很少有,而且在GPU资本支出方面,没有一件是投机性的。我们是按需建设。我们不是试图超越需求。事实上,我们正在努力追赶,我认为很多超大规模企业也表示他们正在努力追赶。我认为这与人们声称类似的其他类似情况非常不同。
是的,明白了。好的,很有帮助。Nick,轮到你了,Tim。
太好了,谢谢Nick。所以另一个你听到的争论是供应商融资,你与英伟达签署了这项协议,当时人们认为这是供应商融资,但实际上根本不是。所以你能谈谈这个吗?
是的,你说得绝对正确。这一点。我们也收到了一些关于它的其他问题,只是基于新闻标题。我认为这被误解了。所以谢谢你的提问。我想是在9月份,我们宣布了与英伟达的63亿美元合作伙伴关系或合作。这看起来像一份客户合同,没错。就像我们几乎所有其他客户合同一样,除了一个关键例外,即中断性概念,它允许我们对英伟达说,我们暂停你对计算资源的访问。我们知道他们有使用需求,他们也很想拥有它,但我们要暂停,并将其出售给其他人。在这种情况下,这个“其他人”是。
想想中小型公司或较小的AI实验室,它们今天无法承诺签订我们购买服务器所需的五年合同。对于一个前沿规模的集群。没错。这意味着进入门槛相当高,因为如果你不能,如果我们认为你负担不起,我们不会去购买服务器、为你构建集群并提供容量,没错。所以我们在这里看到的是,这几乎就像一个产品,没错。这对我们、对英伟达、对我们中断英伟达服务的最终客户来说是三赢的局面,即如果没有中断发生(短期内不太可能发生),英伟达将获得计算资源,他们有使用需求。
但更重要的是,我们能够服务和获取想要加入我们平台的小型客户,我们希望他们加入我们的平台,英伟达肯定也希望他们加入我们的平台,因为我们提供市场上性能最高的计算资源,但他们负担不起。因此,他们获得了访问权限,我们在获取客户的同时不会牺牲我们在资本支出方面的纪律,否则这些客户的进入门槛会太高。而且,你知道,敲 wood,其中一些客户会成长并升级为直接合同,因为他们已经扩大了规模。但他们能够扩大规模的一个重要原因可能是因为他们通过这种合作关系获得了我们解锁的访问权限。
没错。所以这不仅仅是他们为了销售GPU而达成交易。这是为了扩大TAM(总可寻址市场)。
绝对是。扩大生态系统,降低那些不是世界领先AI实验室、无法获得无限资本的长尾客户的进入门槛。
太好了,谢谢。然后另一个问题,我喜欢通过询问像Core Weave这样的公司用于AI工作负载的最旧实例的定价来确定供需平衡,在你们的情况下是Ampere。
是的,当然是Ampere,然后是L40和Hopper。没错。每种的定价,你知道,Mike在财报发布后的第二天上电视时说,我们的Hopper、Ampere、L40几乎都售罄了。当你看季度复季度的定价时,它被证明是非常稳定的。所以所有迹象都指向那里的稳定性。你知道,我们在财报电话会议上也谈到,我们第一次——我要强调这是第一次,不是例子,是我们唯一的例子——一个大型的、所谓的10,000多个H100集群开始接近合同到期。
所以大概提前了2/4个季度,最终客户说他们想将合同延长一段时间。他们同意支付的ASP(平均售价)与几年前同意的价格相差在5%以内。那么他们为什么这么做呢?没错。我们不知道具体用例。没错。就像我们构建的是通用的,我们不询问是训练还是推理,这由客户决定,我们的软件帮助他们完成剩下的工作。但你知道,最好的猜测是,没错,该客户可能将其用于推理用例。
他们看到了该集群非常有吸引力的ROI(投资回报率),并说他们愿意继续支付每GPU小时非常相似的价格,因为他们理解ROI,这是有形的,对他们有吸引力。所以让我们继续这样做。
明白了。也许我最后再问一个问题,有一种观点认为你们会等待并选择英伟达的几代产品。你们会跳过某一代。不仅仅是Coreweave,客户通常都会这样。你如何看待这种观点,即客户会说,哦,我不买Ruben,我要等Ruben Ultra,或者我不买Blackwell,我要等Blackwell Ultra。你对此有何看法?
是的,我认为我们的经验更多的是“是的,并且”——我们会买一些这个,也会买一些那个。没错。我们与客户有着非常深入的联系,了解到,嘿,你想买一些Blackwell,但你现在不会只买Blackwell,因为你知道之后会买一些VR。没错。之后可能还会买一些Feynman。因此,在过去几年中,我们自豪地成为几乎每一代英伟达GPU技术的首批上市者。
根据我们与客户的对话,我预计这种情况会继续下去。我们认为各代产品的需求都非常旺盛,人们在考虑购买多少这个、多少那个以及未来产品时都很谨慎。但是,我们没有看到有人说,哦,我要跳过这一代。更多的是从时间角度考虑,比如说我们开始讨论一个可能在2027年初上线的数据中心。然后客户必须决定,我是想继续使用Blackwell,因为到那时我已经扩展了Blackwell集群,配置了软件,我的工程师也投入了时间,还是想直接开始使用VR?但没有看到非此即彼的情况,更多的是我们如何安排所有事情的时间顺序?
明白了。回到你那里,Karl。
是的。我会再问你两三个问题,之后Tim可能还会问一两个。关于通用基础设施的问题,让我们深入探讨一下,因为我们都听过Satya在他的播客上说的话。
是的。
他非常喜欢说微软正在构建一个超级通用的基础设施,不是为任何单一客户、任何一个地点、任何单一工作负载类型,而其他公司正在这样做,因此他们比我们承担了更多风险。你能评论一下Coreweave正在做什么吗。
我会说,通用集群是我们过去几年一直在强调的事情。没错。部分原因在于位置。没错。我们在某些地点有一些较大的园区。地点,我们还有一些其他较小的园区,你知道,我们认为地点很重要,客户想要各种类型的组合。以上所有,不一定是非此即彼,更重要的是,没错,是软件。没错。是我们如何构建技术栈以通用地服务于训练和推理,这样我们就不会,你知道,客户不会告诉我们他们要做什么。
我们让他们能够今天进行训练,明天进行推理。我确实认为这种通用性非常重要。我确实认为,我们能够将一个集群变成多个小集群或一个大型集群,或者让一个客户今天使用,几周后另一个客户可能用于其他用途,这种灵活性对于未来几年AI工作负载的发展至关重要。
好的,让我们谈谈华尔街关注的另一个方面。这不是需求是否存在的问题。更多的是融资是否存在的问题?因为微软、Meta和谷歌不需要依赖债务、资本市场或供应商融资或GPU回租来为其融资。但Coreweave需要。顺便说一下,甲骨文和其他几家新兴的GPU供应商也是如此。所以你能尽你所能描述一下目前建设这些AI基础设施的融资需求状况吗?正如我提到的,今天下午我们会有Blue Owl Magnetar上台。所以相信我,我们会问他们。但作为合作伙伴,你的观点是什么?今天的融资状况如何?你看到任何退缩吗?
所以我认为退后一步说,Coreweave的建立基于我认为的两个卓越向量:技术和工程卓越,以及在资本市场导航和设计客户合同方面的卓越,使其具有最大的可融资性,因此这不是秘密,没错。就像,过去几个月,没错。股票市场出现了一些波动,没错。债券市场也是如此。没错。但我认为你必须关注我们主要如何为业务融资。没错。这是我们在过去几年设计的这些资产级延迟提款定期贷款,并将客户合同的编写方式工业化,筹集资金,以便我们能够在各种市场条件下以越来越低的资本成本获得资金,这有两个关键组成部分。
没错。我们是否进入了那个市场,或者可能是三年。客户的合同是否以正确的方式编写?我们知道如何做到这一点。我们开创了这个市场。Coreweave能否执行。没错。我认为在过去几年中,我们建立了卓越的业绩记录。坦率地说,你知道,当我们开创这个市场时,我们的第一笔延迟提款定期贷款是投资级信贷,价格是SOFR加962个基点,我想是这样。它那么贵是因为人们不喜欢投资级客户吗?不,是因为人们没有看到Corey的执行力。
但随着人们对我们越来越熟悉,并理解这是我们最擅长的事情,我们已经将成本降低了数百个基点,以至于在夏天,我们为一个未评级的客户融资,利率为SOFR + 400个基点。我想我们在那里节省了500到1000个基点。你知道,我们继续看到这个市场的深度和广度非常强劲。如果你知道如何像我说的那样编写合同,构建债务,使其具有自我宣传性。并且以注意信用度等方式建立积压订单。你知道,我们谈到第三季度超过60%的收入积压订单是投资级的。好的。
从技术角度来看,当你们的任何大型合同到期续约时,Coreweave的持久优势是什么?当世界不再受供需限制时。他们将业务拉回第一方数据中心,而你们需要凭借执行能力生存。从技术角度来看,任何人都可以获得数据中心空间,将英伟达GPU连接到服务器中。这是极大的简化。但你的特殊优势是什么,Nick?
所以在回答问题之前,我必须反驳一件事,我认为构建超级计算机比购买一些机架、将它们固定在地上并按下启动按钮要复杂得多。
是的,我明白,我简化了。
是的。但顺便说一下,我认为我们必须继续向世界解释这一点。我确实认为我们正处于一个时代,时间,在这个时代区分可能更加困难。没错。这就是我相对于其他人所得到的。是的。你知道,我想现在深入回答你的问题,没错。我们从头开始构建这个云,目的是提供最大的性能。这是我们的优势,使我们能够快速扩大足迹并获取客户,快速这个词都低估了速度。我们正在继续创新,没错。我们正在开发适合GPU或AI云的新产品和服务,这些产品和服务与通用计算无关,而是专门为这些类型的工作负载和客户未来日益需要的东西而构建的。
以AI对象存储为例,没错。这是我们第三季度宣布的产品,属于我们更广泛的存储业务,其ARR已增长到超过1亿。增长迅速。这个产品的构建直接响应了我们所处的优势地位,即我们在技术层面与客户深度绑定,我们了解他们的痛点,当我们看到缺少的东西时,我们要么去构建它,要么去购买它。没错。以存储为例。
没错。你知道,我认为我们曾经生活在一个世界里,没错。你是单一云客户,你是AWS客户。我认为你现在越来越多地同时是AWS客户、Azure客户和Coreweave客户。存储不是为那个世界构建的,没错。你有数据锁定,如果你想将数据移动到另一个云,会有高延迟,还有高额的出口费用和交易费用。所以我们做了什么?我们构建了一个低延迟、没有出口或功能交易费用的产品。随着我们开始将该产品推向市场,客户的采用率和附加率非常吸引人。
我们将继续构建这些类型的产品和服务,这样五年后你会说,哇。超大规模企业在CPU云上所做的事情有一个对应物,但他们是专门为这个技术和这个世界做的。
Tim,你想总结一下吗?
当然。所以最近还有一个争论,我想说,关于GPU的替代品,你知道,你构建客户想要你构建的任何东西。所以你能谈谈这个吗?你对AMD GPU有需求吗?最重要的是,我想问的是,你对任何ASIC(专用集成电路)如TPU有需求吗?有没有客户来找你说,嘿,我想在TPU上进行开发,所以你会出去添加任何TPU容量吗?
所以你指出我们在所有事情上都是以客户为导向的,没错。无论是进入新的地理区域还是你知道,扩展不同类型的加速器,我想说对我们的需求继续绝大多数是针对英伟达技术的。我认为如果有一天,没错。我们开始从客户那里大规模听到不同的声音,你知道,不只是偶尔打个电话问“你觉得这个怎么样?”,那么这可能会改变我们的行为。但就目前而言,我们得到的所有信号都是,我们需要更多的英伟达GPU,谢谢。
你认为是否有任何,比如打给你的入站电话。你有没有感觉到有更多的入站电话,人们想谈论,好吧,如果我们想要AMD或我们想要ASIC怎么办?
哦,是的,不,这方面的电话越来越多了。虽然数量不多,但我想说,我们从头开始构建的技术栈可以跨芯片通用。没错。我们为客户想要不同东西的世界做好了准备,我们想给客户他们想要的东西。没错。这体现了我们的所作所为。这并不意味着我们不探索。没错。并确保我们准备好与其他类型的加速器合作。但是,现在,所有的信号都表明,趋势就是趋势,即请给我们更多的英伟达GPU。
太好了。我想我们的时间到了,正好到最后一秒。我们尽可能充分利用了时间。Nick,谢谢你的到来。Coreweave的参与使这次会议在我们的GPU专题方面非常出色。感谢你的出席。
谢谢你们邀请我,伙计们。