身份不明的发言人
Thomas Kurian(谷歌云首席执行官)
身份不明的参与者
Eric Sheridan(高盛集团)
好的,感谢大家安顿下来。我们接下来的演讲和对话将是与Alphabet公司及其谷歌云首席执行官Thomas Kurian进行。我将先从安全港声明开始,简要介绍一下Thomas的背景,然后请Thomas上台,他将通过一些幻灯片进行讲解,之后我们将进行对话。Kurian先生今天可能发表的一些声明可被视为前瞻性陈述。这些陈述涉及许多风险和不确定性,可能导致实际结果与预期存在重大差异。请参考Alphabet的10K和10Q表格,包括其10K文件中讨论的风险因素。
Kurian先生做出的任何前瞻性陈述均基于截至今日的假设,Alphabet不承担更新这些陈述的义务。Thomas Kurian于2018年11月加入谷歌云担任首席执行官,为公司带来了深厚的企业经验。他已将业务发展成为全球最大的公共云之一,年收入运行率超过500亿美元。Thomas连续第三年出席此次会议。Thomas,欢迎来到会议,感谢您再次光临。
谢谢。谢谢你,Eric。谢谢大家邀请我。众所周知,云计算作为企业部署其核心信息技术系统的主要载体,持续增长。尽管云计算已经取得了增长,但它仍处于早期阶段,因为许多机器和应用程序仍在本地运行,尚未迁移。因此,尽管我们取得了增长,但我们看到未来仍有大量机会。在过去两年中,许多行业的组织正在改变他们选择云合作伙伴的标准。过去,他们专注于应用程序托管或网络托管,现在越来越多地关注谁能带来技术和解决方案,通过在其组织的不同领域应用人工智能来帮助他们实现业务转型。
在谷歌云,由于多年在人工智能领域的工作,我们拥有深厚的产品差异化优势。由于这种产品差异化,我们更快地获取新客户,深化与现有客户的关系,并扩大我们的总可寻址市场。那么,我们为什么能获胜?我们在人工智能基础设施的性能、成本、可靠性和效率方面提供深厚的产品差异化。其次,我们通过提供一流的生成式人工智能模型套件实现深度差异化。为了训练这些模型,我们利用在数据处理、分析和安全方面的优势和历史积累,为模型提供高质量数据并确保其安全。
最后,多年来,我们一直在构建特定领域的人工智能应用程序和智能体,现在这项工作引起了客户的极大兴趣。首先从人工智能基础设施开始,我们多年来一直在推出芯片,今年是我们构建人工智能系统和芯片的第11个年头。我们的人工智能系统针对高性能、高可靠性和可扩展的训练以及推理进行了优化。例如,如果您运行一个大规模集群,我们的功率效率是其他系统的两倍,这意味着每瓦可提供两倍的浮点运算次数。由于电力现在是一种重要资源,您可以获得更多的容量。
我们通常看到我们与其他参与者之间约有50%的性能差异。如果您查看单个系统可获得的总容量,我们的系统吞吐量是下一个参与者的118倍。除此之外,我们还集成了针对人工智能的高性能存储,可更高效地扩展集群。如果您进行推理,我们能提供极低的延迟。我们在存储优化方面的多年工作现在引起了广泛关注。我们看到在我们的人工智能优化存储中使用的数据量增长了37倍。
我们通过超高带宽光网络将所有这些连接起来。光网络的价值在于,您可以动态更改集群的配置,以便在需要进行训练和推理时以不同方式拆分集群,而不会导致中断。这对于实验室来说极为重要,因为他们看到需求从训练工作负载转向推理。最后,谷歌一直处于大多数人用于训练的软件的前沿。例如,像JAX、XLA Pathways这样的编译器,所有这些软件专业知识使我们能够优化整个技术栈。我们看到来自四个客户群体的需求。
首先是人工智能实验室。全球十大领先人工智能实验室中,有九家是我们的客户。我们看到传统企业对部署人工智能模型的需求。我们看到资本市场的需求,因为资本市场正从使用经典计算进行算法转向使用推理。我们提供的系统可用于提供极高频率的计算。我们还看到高性能计算应用的兴趣。Ssi是一家领先的实验室,也是我们的客户。LG电子和LG人工智能发现使用我们的基础设施在性能和成本方面都有优势。
在这个基础设施上,我们提供了一系列模型,不仅包括Alphabet自己的模型,还包括182个行业领先的第三方生成式人工智能模型。我们自己的模型分为四类。我们提供用于大规模生成式人工智能应用的领先模型——Gemini。Gemini在性能、成本、质量、事实准确性以及进行复杂推理的能力等多个维度上处于领先地位。它被900万开发人员用于构建应用程序。仅举一个例子,与我们今年1月推出的1.5版本相比,我们的最新模型达到了1万亿个标记,速度快了20倍。因此,我们看到开发人员社区对Gemini的大规模采用。
除此之外,我们还提供一系列领先的扩散模型,用于创建图像、视频、音频、语音等。我们添加了第三类围绕科学计算的模型。例如,我们的时间序列模型被许多金融服务公司用于进行序列的数值预测。分子设计方面,我们提供了一个帮助人们设计分子的模型,这在制药行业引起了极大兴趣。因此,我们有各种各样的模型。随着人们从仅使用原始模型转向构建智能体,基于我们在许多开源项目中的领先地位,我们推出了名为Agent Development Kit的平台,帮助人们构建智能体。
它是业内领先的智能体开发平台,得到了120多家公司的支持。为了让您了解其规模,如果与其他超大规模云服务商相比,我们是唯一一家同时提供自有系统和自有模型的超大规模云服务商。我们不仅仅是转售他人的产品。我们处理的标记量是其他提供商的两倍,而时间仅为一半,因此大约是四倍的处理量。有许多不同类型的公司在使用这些人工智能模型,从创建数字产品的公司到在组织内部使用人工智能的公司。Canva是一家使用我们的扩散模型创建图像和视频内容的公司示例。
ServiceNow是众多使用我们的Gemini模型的SaaS公司之一。他们使用它的原因不仅在于它提供出色的性能、质量和低延迟,还在于它可以在四种不同的配置中部署:在我们的云中、在机密环境中、在边缘设备上,现在还可以在任何Nvidia集群上运行。过去,如果您想在数据中心运行模型,您必须使用开源模型,因为您必须放弃模型权重。而我们是唯一一家提供这种能力的公司。
现在,当您使用模型时,您需要为它们提供高质量的数据。随着您将越来越多的公司信息输入模型,您需要确保模型的安全性。因此,我们在大规模数据平台方面的历史和专业知识,以及我们在构建安全产品方面的专注,都对我们有所帮助。因此,我们允许人们使用我们的数据云迁移、清理、准备数据并将其输入模型。其次,我们在分析和数据库平台与云运行的模型之间提供极低延迟的连接,允许人们使用模型处理来自我们数据平台的信息。
第三,随着人们希望理解数据并使用模型对这些数据进行推理,我们推出了新的数据科学和对话式分析智能体。可以将其视为与您的数据进行交互编码。因此,任何人都可以更轻松地用自然语言提问、进行数据分析并创建数据科学模型。所有这些都推动了我们数据平台的增长。举个例子,我们的数据云中处理的数据量增长了27倍。BigQuery与Gemini结合使用,通常当人们想到数据仓库时,他们会想到处理数字和表格的工具。
现在,它也被用于存储和处理非结构化数据。我们的客户数量比一些纯数据仓库提供商多得多,我们在安全方面的优势现在也应用于人工智能模型。我们保护您的数据。我们有新的解决方案来保护模型本身,这样当您将数据加载到模型中时,不会导致模型被泄露。第三,我们还通过新的技术进步保护组织免受使用人工智能模型攻击系统带来的威胁。所有这些都推动了来自受监管行业、商业企业和小型企业等众多不同客户的增长。
举两个简单的例子,Radisson酒店将其所有客户细分数据和酒店数据整合到我们的数据云中,并使用Gemini和我们的扩散模型创建广告。Virgin Media使用相同的组合,但用于提高其组织内决策和数据工程的速度。最后,我们从2021年开始着手构建特定领域的企业智能体。因此,我们已经为此工作了四年。我们专注于五个领域:帮助软件工程师编写代码的智能体。我们于6月24日推出的Gemini命令行界面人工智能智能体已经增长到近100万用户。
我们允许人们重建特定领域的人工智能智能体,例如帮助营销人员创建内容,客户服务团队处理客户服务交互。我们看到了强劲的增长,例如在我们的客户服务技术方面,聊天和语音交互增长了10倍。我们还在为特定行业构建特定领域的智能体,例如帮助人们进行购物和商务。如今,我们通过商务智能体处理大约50亿笔商务交易。我们将所有这些智能体以及人们想要构建的任何定制智能体都整合到一个名为Agent Space的平台中,为公司提供一个单一界面来访问和使用组织内的所有人工智能技术。
我们看到,通过将人工智能应用于IT部门历史上未服务的领域(如营销、客户服务、商务等),我们的可寻址市场正在增长和扩大。Mercado Libre是拉丁美洲最大的电子商务系统之一,他们使用我们的购物和商务技术。富国银行使用Google Agent Space帮助其员工在贸易管理、合同管理和其他领域使用人工智能。因此,我们深厚的产品差异化推动了我们在客户方面看到的增长。现在,我们如何将所有这些推向市场?我们通过五个重要方面实现这一目标。首先,我们通过五种不同方式实现人工智能货币化。
我们看到来自全新客户的增长。我们看到与现有客户的关系更加深厚。我们正在扩大可寻址市场。因此,我们看到收入、剩余履约义务(积压订单)和运营利润率的增长。我们实现人工智能货币化的五种方式:有些人按使用量为我们的某些产品付费。因此,如果您使用我们的人工智能基础设施,无论是GPU、TPU还是使用模型,您按标记付费,即按使用量付费。我们的一些产品人们按订阅付费。例如,Agent Space或Workspace,您按月支付每位用户费用。
一些货币化来自产品使用量的增加。例如,如果您使用我们的网络安全智能体并使用人工智能进行威胁分析,我们看到了巨大的增长。在这个例子中,我们使用Gemini进行了超过15亿次威胁狩猎,这推动了我们安全平台的更多使用。同样,我们看到数据云的增长。我们还通过基于价值的定价来货币化一些产品。例如,有些人使用我们的客户服务系统,表示希望按您提供的偏转率付费。有些人使用我们的创意工具创建内容,表示希望根据广告系统中的转化率付费。
最后,随着人们使用更多产品,我们还会将他们从一个版本升级到另一个版本,因为我们在更高价格的层级中提供更高质量的模型、更多配额和其他功能。正因为如此,我们更快地获取新客户。如前所述,今年上半年,我们的新客户赢得数量环比增长了28%。十大人工智能实验室中的九家和几乎所有人工智能独角兽企业都是我们的客户。我们正在深化与现有客户的关系。65%的客户已经在以有意义的方式使用我们的人工智能工具。
那些使用我们人工智能工具的客户通常最终会使用更多我们的产品。例如,他们使用我们的数据平台或安全工具。平均而言,使用我们人工智能产品的客户使用的产品数量是尚未使用我们人工智能工具的客户的1.5倍。这导致签署承诺或合同的客户超额完成目标,即他们的支出超过合同金额,从而推动更多收入增长。最后,我们正在实现收入的增长和多元化。我们的收入并非来自单一产品线。
我们有许多不同的产品线,所有产品线都在增长。正如Sundar和我们的首席财务官Anat所提到的,我们已经通过人工智能赚取了数十亿美元。我们在实现收入增长的同时,也带来了运营纪律和效率。因此,我们的剩余履约义务(有时称为积压订单)现在为1060亿美元。它的增长速度快于我们的收入。超过50%的积压订单将在未来两年内转化为收入。因此,我们不仅在增长收入,还在增长剩余履约义务。我们还非常注重运营纪律以提高运营利润率。三个重点领域:一是确保我们从车队和机器使用的角度超级高效,以获得资本效率。
人们已经完成了数百个优化项目。通常,车队规模越大,效率越高,因为任何单个客户都需要更少的缓冲。您还看到我们的一些科学家发表的研究报告,称在过去一年中,我们使用某些模型在推理方面实现了33倍的效率提升。因此,我们非常注重持续优化我们的车队。我们正在改进我们的销售团队,现在有大量客户群可以销售。向现有客户销售总是比向新客户销售更容易。
因此,这有助于我们降低销售成本占收入的百分比。最后,我们已经建立了一套庞大的产品套件。因此,这有助于提高我们的工程生产力。您可以在我们的业绩中看到这一点。我们的顶线和运营收入都在增长。最后,您知道,我们多年来一直在构建自己的先进人工智能技术。芯片、系统、工具、智能体。我们很早就下了这些赌注。您今天看到的许多工作都是多年来一直在进行的。我们不仅仅是转售第三方技术。因此,我们之所以获胜,是因为我们看到这种深厚的产品差异化现在被客户采用,这使我们能够赢得新客户,深化与现有客户的关系,并扩大我们的可寻址市场。
反过来,这又导致我们的收入和运营收入增长。谢谢。
谢谢你,Thomas。非常感谢你分享了这么多有价值的内容。所以我想回到你演讲开始时提到的行业现状。随着我们即将结束25年,展望2026年。在云采用、客户使用趋势方面,我们处于什么阶段?谷歌云在竞争格局和这些长期增长主题方面如何演变?
云采用仍处于早期阶段。根据你阅读的分析师报告,大多数服务器和应用程序仍在本地数据中心运行。因此,人们迁移这些工作负载、对其进行现代化改造和转型的机会仍然很大。不同行业有不同的采用模式。有些行业迁移速度更快,例如政府机构。由于合规和其他监管要求,其中一些机构迁移速度较慢。欧洲由于主权云要求,总体上迁移速度较慢。我们现在已经推出了主权云解决方案。
因此,我们开始看到许多不同的驱动因素促使人们加快采用。但在过去,人们选择云主要是为了获得开发人员效率,即我可以按需获取基础设施、托管应用程序,并通过整合计算和存储来节省托管应用程序的成本。这当然仍然很重要,但这不是主要驱动因素。现在的主要驱动因素是:我真的想转型我的组织。你能通过带来人工智能专业知识和产品来帮助我吗?
那么,以这一点为出发点,当你审视当今的企业格局以及企业采用人工智能的方式时,请更详细地谈谈这些趋势如何影响你作为公司的战略重点。
我们看到组织在四个领域使用人工智能。一些公司用它来构建数字产品。Natural cosmetics、Snap以及我们与华纳兄弟合作创建《绿野仙踪》相关内容的工作,本质上都是使用人工智能来推进数字产品。另一些公司用它来转型客户服务。当我说转型客户服务时,不仅仅是在呼叫中心,就像我们与Verizon合作的那样,还包括销售点,就像我们与Wendy's合作的那样,以及在车辆中,就像我们今天在慕尼黑与梅赛德斯展示的那样。因此,人们在许多不同的地方看到客户界面的转型。
另一些公司用它来精简公司核心和后台运营。当我说后台运营时,家得宝用它来回答人力资源服务台的问题。当员工询问福利等问题时,他们使用我们的智能体来回答这些问题。AES是一家大型能源公司,精简了其监管和审计流程,缩短了周期时间。泰森食品在供应链中使用它。最后,我们看到许多组织现在在其IT部门中使用它,广义上讲,IT部门的人们用它来编写代码,不仅是编写代码,还提高所编写代码的质量。
有些人将其用于网络安全,因为网络安全通常在网络安全分析师数量方面存在瓶颈。这些人工智能工具可用于帮助识别和优先排序正在发生的威胁,然后更快地分析是否受到入侵。因此,这些是我们看到人工智能被采用的四个主要领域。
好的,当你考虑你的全栈人工智能方法时,请告诉我们这如何在市场上创造竞争优势,以及它如何帮助你转化为赢得交易?
这是个很好的问题。我们的技术栈是开放的,这意味着我们提供自己的加速器。我们与Nvidia有着非常密切的合作关系,因为人们希望有不同类型的系统配置选择。我们的模型也是如此,我们提供自己的模型以及第三方模型。但这帮助我们能够在整个技术栈中以不同方式进行优化。我举个例子。如果你看看我们在资本市场的工作,将人工智能应用于从信息源合成数据,然后用它来为算法模型提供输入,你需要一定的推理能力。
你需要一定的能力来选择正确的工具,并且需要能够以超低延迟完成。因此,我们从企业端带来的这些能力组合,令人惊讶的是,在模型层面也是如此。你需要一个出色的编码工具。事实证明,如果你想进行软件工程,你必须为正确的任务选择正确的工具。你希望能够以低延迟生成代码。因此,当你进行自动补全时,它会立即发生。这在搜索方面的某些情况下也是如此。
因此,我们能够获得所有这些不同的设计核心,并且我们为Alphabet和客户使用同一模型系列,这有助于改进模型。然后,由于我们在整个技术栈中对该模型进行优化,并且正如Jeff Dean和我们的团队所谈论的那样,我们在服务方面变得更加高效,这也帮助我们优化推理和服务成本,因此我们可以共同设计。由于我们服务的所有领域,包括企业和消费者方面,我们获得了杠杆效应。并且当我们提供这些服务时,我们还可以优化成本结构。
好的。
基于你演讲中提到的主题,你谈到了人工智能基础设施以及围绕它构建优势和规模。请谈谈定制芯片和TPU在哪些情况下有意义,而不是与外部供应商合作。并谈谈使用TPU的客户的一些主要经验以及他们部署TPU的用例。
广义上讲,我认为当人们考虑模型时,他们认为只有一种类型的模型,实际上有许多不同类型的模型。有密集型模型、混合专家模型、稀疏模型。你是否需要稀疏核心?因此,我们提供一系列加速器,人们根据各种因素为他们的模型选择合适的加速器。通常需要专家坐下来实际尝试。我们看到四个关键因素。第一个是,你是否在进行某种“英雄模型”运行?如果你在运行英雄模型,通常是在一个你想要扩展的大型集群上。
他们非常关心每美元的浮点运算次数,即每美元获得多少浮点运算。你能够将数据集加载到内存中的效率如何?因此,你有多少HBM?集群中的所有节点是否以超级可预测的延迟通信,这就是光网络的用武之地。然后,你是否可以使用编译器等工具在底层指令集级别进行优化?因此,TPU被许多领先实验室视为非常有吸引力,因为它使他们的训练运行能够通过系统获得更高的吞吐量。
它也被许多人用于推理。我们与Nvidia有着非常密切的合作愿景,允许客户在TPU上训练、在GPU上服务,反之亦然。我们与Nvidia在许多方面进行了优化,例如JAX不仅在TPU上进行了优化,在GPU上也是如此。因此,这不仅仅是基础设施,还包括顶层的整个软件层。明白了吗?
明白了。你在产品方面和平台方面列出了很多举措,所有这些都促成了你今天看到的增长。为了支持这种增长,业务投资的最大优先事项是什么?以及你如何考虑在投资和推动增长之间取得适当的平衡?
我们从三个大类别看待投资。显然是我们的供应链和资本投资,包括数据中心、长期电力合同。我们在不同地理位置的布局,因为推理现在需要在许多不同的国家进行以满足主权要求。因此,首先是资本基础设施,我们有一个团队多年来一直在大规模地做这件事,我们将继续这样做,并且我们在这方面非常谨慎。在每个领域,我们还研究如何提高效率。例如,我们不断优化。
一个例子是,当你获得这些更强大的芯片时,它们也消耗更多的电力,而电力在许多情况下是稀缺资源。我们拥有世界上最高效的TPU,衡量标准是生成X数量的浮点运算所消耗的电力。我们很早就投资了水冷技术,水冷技术使这些系统的吞吐量得到了进一步提升。因此,这是一个我们说“嘿,可能会出现电力问题”的例子。让我们尽早设计一套解决方案。这帮助我们获得了优势。
我们投资于产品,因此我们在哪些领域解决问题以及在产品上投入多少资金方面非常谨慎、有纪律。然后我们投资于我们的销售团队和销售组织。当我刚加入谷歌时,没有人想到我们会达到今天的地位。在最初的几年里,几乎所有的销售都是针对全新客户,很难赢得他们,但我们实际上已经赢得了许多客户。我们有团队知道如何针对特定产品进行专业化销售。
我们知道如何向现有客户销售,我们有不同的模式向新客户销售。所有这些复杂性都是多年来建立起来的。
你在幻灯片中还谈到了谷歌云部门报告的利润率持续增长。请谈谈不仅在增长方面取得进展,而且如你所提到的,在长期推动效率和利润率方面继续取得进展。
有很多人在努力继续提高顶线和运营利润率。其中一些归结为非常基本的事情,例如,如果你看看我们,我们很早就做出了决定,我们要构建自己的芯片、自己的模型以及围绕模型的产品。因此,当你不仅仅是分销别人的产品时,你显然可以优化成本并提高利润率。即使我们看看我们2021年围绕模型构建的产品示例,我们看到许多公司告诉我们,由于COVID,他们的呼叫中心关闭,无法处理涌入的呼叫量。
因此,我们说让我们构建一个人工智能驱动的客户服务系统,现在它被大规模使用。这是一个非常差异化的产品示例。它不仅仅是通过API访问模型。我们在其中构建了很多功能。我们早期做出的这些决定以及多年来在过去和未来的持续努力,我们非常专注于同时提高顶线和运营收入。
好的,我想再问最后一个问题。当你考虑当前生态系统中人工智能的部署以及基础设施层、模型层、应用层时,你认为哪些领域的部署最令人兴奋,能够在中长期推动你的业务增长?
我认为我们在大约六个月的周期内看到了很多兴趣。我的意思是,我们发现重大的模型修订会开启全新的能力类别,这反过来又推动我们在其之上构建增值产品。因此,大致上我们处于六个月的迭代周期。例如,如果你看看Veo Vail 3,它是一个令人惊叹的视频创建系统。因此,我们现在看到广告公司、创意实验室、媒体公司等对它产生了巨大兴趣。
在Vail取得突破之前,这个市场并不存在。然后,由于我们与DeepMind(谷歌DeepMind)共同设计它,我们能够围绕它构建一整套产品资产,供人们应用于特定领域。因此,我们大致处于这样的周期,可能会变得更快。这在很大程度上取决于我们正在研究的突破类型。
这是个很好的例子,我想我们必须在这里结束了。但是Thomas,非常感谢你今年参加会议。请和我一起感谢Thomas和Alphabet团队参加本次会议。