Google 如何发明了现代 AI——它还能赢下 AI 时代吗?

长文·约 17 分钟读完·11 节

Transformer、TPU、DeepMind 都是 Google 的发明,ChatGPT 却由带着想法离开的人造出来。本期讲 Google 如何发明现代 AI、为何眼看着价值流失,以及创始人控制加上模型、芯片、云、应用的全栈位置,能否让它赢回 AI 时代。

目录 11 节
  1. 导语
  2. Google 如何发明了现代 AI——它还能赢下 AI 时代吗?
  3. 从十二小时的翻译到 Google Brain
  4. 猫论文与 AlexNet:AI 开始赚钱的那一年
  5. 5.5 亿美元的枢纽:DeepMind 竞购
  6. 伊利亚的警告与保密芯片
  7. Transformer 与价值流失
  8. 微软加注、ChatGPT 引爆:code red、Bard 与大合并
  9. 并行的十年豪赌:从"拉里的司机"到 Waymo 五城
  10. 3700 亿美元之年:云翻身与 Gemini 的模糊数字
  11. 四大支柱、黄仁勋税与创始人控制

导语

Transformer、TPU、DeepMind 都是 Google 的发明,ChatGPT 却由带着想法离开的人造出来。本期讲 Google 如何发明现代 AI、为何眼看着价值流失,以及创始人控制加上模型、芯片、云、应用的全栈位置,能否让它赢回 AI 时代。

Google 如何发明了现代 AI——它还能赢下 AI 时代吗?

两位主持人给出的直接答案:现代 AI 的几乎每一块零件都是 Google 发明的,却在岁月里一点点漏了出去——该发生的收购没发生,该留下的人走了。如今的翻盘之注押在两件事上:全行业独一无二的全栈位置,以及不会被董事会换掉的创始人。本·吉尔伯特(Ben Gilbert)这样总结今天的 Google:这一集要回答的问题是:这套资产能否兑换回 Google 在搜索时代那种统治力?还是说 AI 的价值天生摊在太多玩家手里,连 Google 也接不住?

从十二小时的翻译到 Google Brain

故事从 1999 年前后 Google 的一间微型厨房开始。有研究员提出:一个能预测句子里下一个词的系统,算不算真的在理解?这个后来创出 Character.AI 的人,把这个问题带向了大语言模型。

第一个证据来自翻译。Google 早期的神经翻译模型慢得吓人,一个句子要跑十二个小时;杰夫·迪恩(Jeff Dean)——Google 并行基础设施背后的那位工程师——把算法改成词句并发处理,。Google Translate 就此上线,一个模式也定了下来:神经网络靠给既有业务赚钱,在 Google 内部挣得自己的位置。

学术界的转机由塞巴斯蒂安·特龙(Sebastian Thrun)牵线。他把整个领域最关键的怀疑者请进了公司:。这段关系催生了那个时代 Google 的第二个旗舰项目:。

猫论文与 AlexNet:AI 开始赚钱的那一年

两位主持人不同意"AI 时代始于 ChatGPT"的说法。。猫论文是 Brain 的证明:一个巨型无监督网络,没人告诉它什么是猫,它自己学会了认猫——后来成了 YouTube 推荐系统的地基。AlexNet 则赢得更张扬:2012 年 ImageNet 竞赛,,。这一刻把英伟达的游戏卡变成了 AI 研究的底座,也在黄仁勋的叙述里,成了所有人十年后才赶上的那个行业的起点。

5.5 亿美元的枢纽:DeepMind 竞购

在猫论文与 ChatGPT 之间,是主持人眼中现代 AI 最承重的一笔交易。2013 年底,马克·扎克伯格(Mark Zuckerberg)出手想买下 DeepMind——一家没有产品、离它许诺的通用智能还很远的伦敦实验室。。埃隆·马斯克(Elon Musk)随即想插一手:但德米斯·哈萨比斯想要的是 Google,而且按两位主持人的说法,这是两厢情愿。。

真正的重点是那个反事实。。在这一集的因果链里,Google 买下 DeepMind,才让那些本来会去资助或加入对手实验室的人转而到 Google 内部造实验室——也正因此,那个最终做出 ChatGPT 的实验室只能从零另起炉灶。

伊利亚的警告与保密芯片

把 AlexNet 的路子规模化,意味着按研究实验室从未有过的量级买算力。大卫·罗森塔尔(David Rosenthal)这样讲那笔订单:,。这笔订单让 Google 撞上了自己的经济模型,而这次相撞逼出了行业史上最重要的两个基础设施决定。

第一个是 TPU。当 Google 新上线的语音识别眼看要把全公司数据中心翻一倍,。账本也确实不好看,本·吉尔伯特如是说:。另一个选项是为一件事造一颗定制芯片——张量处理单元——它诞生在威斯康星州麦迪逊的卫星办公室,连公司内部都瞒着。。。

同一时期,Google 做出的第二个决定,是把外面的世界放进来。讲到 OpenAI 的创立,主持人现场念了当年的报道:。

Transformer 与价值流失

先到的是神经翻译:LSTM 把错误率大幅压低————团队把旧系统整个扔掉,彻底换新。。

然后是那篇论文。。。Google 没有抓紧把它做成产品,作者们也没有留下来等。。那段历史的口述实录恰恰是主持人做研究的依托:。

流失在内部有更锋利的一面:早在 ChatGPT 之前,Google 手里就有一个能用的聊天机器人。。公司知道这个界面能做到什么,却出于安全与品牌顾虑选择不发——想发的人,出去把它造了出来。

微软加注、ChatGPT 引爆:code red、Bard 与大合并

OpenAI 能熬过创立初期的混乱,靠的是微软接手了它的规模化计划。2018 年太阳谷大会上,;算力账单越滚越大之后,。这笔合作把一家账上余钱见底的研究机构,变成了行业里资金最充足的规模化实验。

ChatGPT 的到来悄无声息,按两位主持人梳理的时间线:。;两个月内,。Google 内部的反应带上了生存色彩:。按大卫·罗森塔尔的解读,这道指令正是教科书式的在位者应答:。

手忙脚乱暴露了 Google 让自己的领先锈掉了多少:聊天机器人研究被压了多年————仓促上阵的 Bard 首秀又砸了。Google 踉跄之际微软步步加码:2023 年 1 月,。Google 的反击从重组开始:。把诺姆·沙泽尔请回家也是应手之一:。对这次重组的效果,主持人带着成色保留了判断——。公司对外的姿态则是刻意的一体两面:。

并行的十年豪赌:从"拉里的司机"到 Waymo 五城

语言模型的戏码上演的同时,Google 还在下另一盘十年的大棋:自动驾驶。起点是 DARPA 大挑战赛,首届就足够难堪:。回到 Google,。塞巴斯蒂安·特龙的团队把验收标准定成了一段以押注他们的创始人命名的挑战:。兑现一直等到 2020 年秋:。这条弧线就是主持人的证明:Google 能把一个登月项目捂上十几年不放。

今天的数字由公司自己发布,主持人也照实标注:。运营规模是实打实的:。自动驾驶能否长成搜索量级的生意仍是未知数——但这是全集最清楚的案例:Google 悄悄资助了十年的未来,最终由自己发了出来。

3700 亿美元之年:云翻身与 Gemini 的模糊数字

撑起这一切的生意,按主持人的盘点大到惊人:。市场已经给出了定价:。AI 的分发数字真实却刻意含混——主持人抱怨 Google 是他们研究过的公司里最会"藏球"的——,。

资产负债表里最大的意外是云业务,两位主持人把它归功于全集最不性感的一个决定:聘用托马斯·库里安(Thomas Kurian)。。这场企业级重建把 Google Cloud 从 2017 年的约 40 亿美元带到如今年化超 500 亿美元、年增 30%——它对 AI 的意义在于:云正是 Google 把自研芯片交到客户手里的那扇门。

四大支柱、黄仁勋税与创始人控制

这一集的战略内核是大卫·罗森塔尔的四支柱论:想站在 AI 牌桌前排,你需要应用、模型、芯片、云中的一样——而 Google 想四样全占。。芯片这一根最安静,也可能最耐用。租英伟达 GPU 的所有人都在付一笔有外号的溢价:。TPU 计划重定了这笔税的价码:。这正是投资人加文·贝克(Gavin Baker)那套论证的落点,由本转述:。支撑这个判断的规模还在飞涨:。

空头的刀口在价值捕获,不在价值创造。;AI 聊天并不像搜索结果页那样天然适合广告,而大卫预期的市场结构也谈不上赢家通吃:。一门核心生意第一次面对真正的替代威胁的公司,必须自己挣来结局——而主持人最后的答案落在治理,不在产品。反垄断案没能拆动任何实质性的东西:。走完这个故事里每个决定的两位创始人仍在掌舵,他们公开的姿态正是创新者窘境的解药。大卫把整集蒸馏成这样一个判断:。这够不够赢下整个时代,是这一集留得恰到好处、不作回答的问题。

访谈精粹

18 组核心对谈
  • 问

    AlexNet 为什么在 2012 年 ImageNet 竞赛上远超所有对手?Hinton 团队到底想明白了什么?

    Ben Gilbert 提问49:02
    答
    David Rosenthal 回答

    他们意识到理论八十年代就摆在那里,瓶颈在硬件:深度神经网络需要海量并行,而摩尔定律下的 CPU 只够堆几层。顿悟在于把神经网络重写到另一类天生高度并行的芯片上——消费级游戏显卡。这相当反直觉:前沿学术研究向来跑在超算上,他们却用零售几百美元的游戏卡。Hinton、Krizhevsky 和 Sutskever 走进本地电器店,买回两块英伟达当时的旗舰游戏卡 GTX 580,用英伟达的 CUDA 语言重写算法,就在这两块现成显卡上完成训练,以约 40% 的优势击败 ImageNet 竞赛所有对手。黄仁勋称之为当代 AI 的大爆炸时刻:两块游戏卡都能做到,更多的卡、专用芯片会怎样?英伟达就此从挣扎的 PC 游戏配件商踏上全球市值第一之路;这一战也告诉学界,旧想法配上新硬件就会迎来突破,然后是多年优化。

  • 问

    在 Hinton 的 DNN Research 竞拍中,DeepMind 为什么在场,而 Facebook 却不在?

    Ben Gilbert 提问54:54
    答
    David Rosenthal 回答

    时间点就说明了一切:竞拍与 NIPS 会议(如今的 NeurIPS)同期进行。Geoff Hinton 亲自坐镇太浩湖 Harrah's 赌场的酒店房间主持,Cade Metz 的《The Genius Makers》记下了这段。报价一路走高:微软先退出又杀回来,DeepMind 则如前所说早早退场——创业公司,没钱。最后只剩百度和 Google 真刀真枪地对轰。此时三位研究者面面相觑,决定自己究竟想去哪儿,在 4400 万美元处收手,撂下一句:'Google,这些钱已经绰绰有余,我们跟你走。'原本说好三人均分,但 Krizhevsky 和 Sutskever 找到 Hinton,坚持让他拿 40%,自己各拿 30%——最终就按这个格局落定。

  • 问

    DeepMind 卖给 Google 的交易是如何促成的?Larry Page 为什么买它?

    Ben Gilbert 提问01:19:17
    答
    David Rosenthal 回答

    DeepMind 早期,Elon Musk 与 PayPal 帮成员 Luke Nosek 同乘私人飞机,读到 Demis 的邮件:DeepMind 的 AI 无人示范,自己琢磨出 Atari 游戏 Breakout 的取巧赢法。Larry Page 就在同一架飞机上;一句'这是哪家公司',Google 创始人就此得知 DeepMind。交易靠惺惺相惜:Larry 一直视 Google 为 AI 公司,Demis 觉得 Larry 懂使命;Google 已有 Brain 出产品,可承诺 DeepMind 留在伦敦专心研究智能,和近乎无限的算力。带着'Let's really go big'空白支票,Alan Eustace 于 2013 年 12 月飞赴伦敦——为腰椎不能坐的 Hinton 特意在包机上装了吊具——完成尽调,Google 以 5.5 亿美元买下 DeepMind,设独立监督董事会。若保持独立,今天值五千亿美元。