2026 年 10 月 1 日

为什么不是谷歌做出了Muse?

追着ChatGPT跑 · 邮件变成入口 · 围墙花园 · 端侧反攻
本文目录

    为什么不是谷歌做出了Muse?

    八九个人的大模型项目 · 企业记忆的权限 · 邮箱里的个人助理 · 跑在手机上的智力

    「Google 太慢了。」 —— Lewis,谈为什么个人助理连接的是谷歌的数据,产品却由别人先做出来

    嘉宾: Lewis|微软 Product Lead,Google Gemini founding PM

    给 Muse 授权以后,Raymond 看到的第一条建议,是跟进医院的邮件。十几个人来来回回的长邮件,他一天没看,事情已经往前走了一轮;这个刚接入的个人助理,却把需要处理的事情整理了出来。

    邮件在 Gmail,日历在 Google Calendar,数据一直在谷歌。能够读取邮件的 AI 工具也早已存在,Raymond 以前却没有这样用过。直到 Muse 把一个具体任务放到面前,他才发现,这件事可以交给 AI。为什么拿着模型、邮箱和日历的谷歌,没有先把这个体验做出来?

    Lewis 见过谷歌把研究模型推向用户的过程。2022 年八九月,他加入大模型产品化工作,当时团队只有八九个人;Gemini 2.5 Pro 发布后,他离开谷歌,转到微软做 Agent(智能体)的记忆与企业知识。他的职业选择,也从怎样把模型做成产品,转向怎样让 Agent 记住经验、读懂企业数据。

    Raymond 的疑问贯穿了这场对谈:用户担心隐私,却把邮箱交给刚成立的公司;大厂拥有数据,却未必能交出最好用的产品;帮人退款看起来很有价值,却未必撑得起长期订阅。Lewis 的回答落在许多具体细节上:一个任务入口、一次虚拟机访问、一段聊天的共享权限,以及一台电脑买回家后还要装多少东西。

    以下是对话全文(经编辑整理,有删节)。

    一、ChatGPT 出来以前,那八九个人在做什么?

    Raymond: 先讲讲你的经历,你是怎么从工程师转做产品经理的?2022 年加入 PaLM 2 项目的时候,ChatGPT 还没出来,大家对“大模型产品”没有今天这么具体的想象。你们当时究竟要做什么,怎么向团队描述它?

    Lewis: 我大学学计算机,毕业后一直在湾区工作,最早做软件工程师,后来带团队做 Oracle 的公有云。大概是 2011、2012 年,整个行业还很早,大家开始讲所有东西都要上云,最基础的是计算和存储。做了七年多,我去了谷歌,也正好转成产品经理。比起“怎么做”,我个人对“做什么”更感兴趣。在谷歌做了三四个从零到一的 AI 产品,大模型的时代就来了。

    PaLM 2 当时是一个项目,由 Labs 和我们 Cloud 团队合作,把研究团队做出的模型产品化。最初拿到的模型只做过预训练,还没有后训练。我们得找具体使用场景来微调,把模型部署成 API,也就是让开发者能够调用的接口,再去定价、解决客户的问题。

    这项工作在 ChatGPT 发布前三个月就开始了。那时湾区已经有一些消息,说有人在做大模型,我们内部也有,团队就决定把手上的事情放下来,转去做它。我是八九月份开始的,当时只有八九个人,年底前的目标是先把模型跑起来,让全公司可以用,做内部试用。

    我们此前做过 Document AI,处理不同文档,提取里面的重要信息。最大的问题是,每个人、每家公司的文档都不一样。为了达到 99.9% 这样的高精度要求,你要针对不同的文档训练模型,非常不高效。我们已经在想:能不能做一个模型,泛化到所有文档?所以泛化智力这个需求,在企业场景里早就出现了。

    ChatGPT 的变化是把它带到了消费者面前。用户第一次直接感受到 AI,可以问各种奇奇怪怪的问题,觉得好玩,开始传播。这和我们从工业、企业场景出发的路径不太一样。

    Raymond: 后来谷歌整合研究团队、开始追赶,那时内部是什么气氛?大家觉得自己明明早就有这些东西,还是觉得真落后了?《苔藓之火》这个名字,就是 2023 年的 Bard 给我取的。当时几个工具我都用过,它取的名字刚好让我喜欢,所以还得感谢谷歌赐名。

    Lewis: ChatGPT 刚发布,大家都觉得做得很好,内部也有两种看法。一种觉得,我们的聊天机器人 Meena 已经做了很久,只是法律、Responsible AI,也就是负责任 AI 的要求等原因,让它没有发布。另一种觉得,OpenAI 的模型在很多场景下,确实更像跟人对话,比当时内部产品的表现好。

    做这一块的人还是有危机感的。技术达不达标是一件事,能不能把研究成果变成真正能用的 API、推到市场上,是另一件事。那时 DeepMind、Google Research、Google Brain 的资源还分散在不同组织里,后来为了追赶,才把资源集中起来。第一代模型也并非由 DeepMind 训练出来。

    但大家对追上来仍然有信心。谷歌的科研背景和技术沉淀很厚,有很多东西可以拿出来。Sergey Brin 也不是某一天突然全部回归,而是逐渐增加参与。他会出现在聊天群里,问具体的技术问题、问评估结果。你能从这些细节看到重视程度。

    Raymond: Sergey Brin 在群里直接问你问题,已经是足够的鞭策了,力度不可能再大了。

    二、「卷水不卷水龙头」之后,产品经理去哪里?

    Raymond: 你在 Gemini 2.5 Pro 发布后离开。那是谷歌很高光的时候,为什么反而想走?如果智能是水,你做的产品就是水龙头:形状、粗细、大小,最优解慢慢被探索出来了。接下来是卷水的质量和价格,水厂的事情更多,水龙头的事情少了,是这种感觉吗?

    Lewis: 对。对产品经理来说,很多路已经铺得比较平了:模型怎么产品化,怎么定价,做什么使用场景,怎么建立开发者社区,这些都相对成熟。后面更多是卷模型、卷 benchmark,也就是模型的评测表现。研究团队要迭代模型、找新的架构。我更想做还没有被确定下来的东西,所以后来去微软做 Agent 和知识。

    组织变化也是其中一个原因。项目后期变成全公司的优先事项,很多不同的人加入,中间层越来越多,有时候会变成传话的游戏。按我的工作感受,有些中间层会保留信息,借此体现自己的存在,效率就没那么高了。

    我也犹豫过要不要去创业公司。选择微软,是因为它做企业产品有独特的护城河:大量客户还没有真正开始用模型和 Agent,企业内部又积累了海量数据。我后来了解到的 SharePoint 数据规模非常大,当时给我的印象是整个互联网的很多倍。这个规模里有大量 PPT、文档和内部资料,但很多企业没有谷歌那样高效的搜索,数据放在那里,人却找不到。怎样让模型和 Agent 用上这些数据,是一个很难、也很有价值的问题。

    Raymond: 你现在负责 Agent 的记忆和知识。普通用户应该怎么理解?它记住我的偏好,和它记住自己怎么完成任务,是同一件事吗?这种“程序性记忆”和我们常用的 skill 又差在哪?

    Lewis: 我主要面向开发者,为他们提供后端能力,再由他们做成最终产品。我们是提供铲子的。一个很容易理解的场景是个性化:你再来找客服,Agent 知道你是谁、上次聊了什么,也知道你还有一笔退款没跟进,能够问你要不要继续处理。

    另一条线是 Agent 如何自我改进。现在让 Agent 做一件事,它会试很多方法,失败以后再换一种,里面浪费了不少 token(模型处理和生成内容的基本单位)。我们要把这些运行过程里的经验沉淀下来,下次遇到类似问题,就不必再从头试。

    这就是 procedural memory,程序性记忆。它看之前的运行轨迹:哪些尝试失败了,什么方法解决了问题,再浓缩成可以复用的经验。它跟 skill 的差别不大。**skill 是一种表现形式,程序性记忆关心的是你想浓缩什么经验。**你可以从失败里总结出一条程序性记忆,再把它存成一个 skill。

    这些能力和用户用 Mac 还是 Windows 没有很大关系。微软提供的生态里有模型、Agent 的运行框架,也有记忆的存储和调取。开发者做 Mac 应用、Windows 应用或者网页,都可以调用同一套后端,把偏好和记忆存下来。知识这边,则是寻找更有效的组织形式,让 Agent 访问海量企业数据。

    Raymond: 我一开始想岔了,以为这是 Windows 体系里的开发者,为企业应用用的一套脚手架。这样听下来,你提供的是应用后面的能力,最终面向什么系统、什么用户,并不由这套记忆来限定。这也跟你换工作的选择对得上:模型产品化的路铺好了,企业的上下文、数据沉淀和知识怎么用,反而还有很多没解决的问题。

    三、两个人聊出的知识,凭什么交给全公司?

    Raymond: 企业里的记忆肯定不能全部共享。董事会怎么选董事长,和普通员工怎么解决一个问题,权限完全不同。我在工作里也有一个体会:员工离职,主管可以接手他的文档,却接不到完整的聊天上下文。哪怕交给我,我也看不完。他入职三个月,可能已经聊了三百万字。但很多时候,聊天的价值还高于最后那份文档。你们怎么处理这种知识和权限的关系?

    Lewis: 这是非常核心的问题。市场上很多做记忆的创业公司,主要解决个人用户的个性化:一个用户和另一个用户,结构差别不大。企业里完全不同。CEO 的记忆有自己的权限,开发者发现系统有 bug,要排查,也不能随便打开 CEO 的记忆看里面有什么。权限得被严格执行。

    企业记忆还有很多层。每个员工有自己的记忆;我们两个人的聊天,可以有一份共享记忆;一个团队又有团队的记忆。访问控制随着层级变化,不能只做一个“所有人都可以读”的库。

    还有知识的整合。我们两个人聊的是工作,过程中学到的东西,有些应该成为团队的资产,不能永远只属于我们两个人。但哪些内容可以上升到团队,哪些不可以,里面有很多边界情况。

    Raymond: 我看到过一个 Shopify 的例子:按我当时的理解,员工都跟同一个 Claude Agent 聊,其他人也能看到,各自产生的知识就能汇总。我不确定具体是鼓励还是强制,但这个方向很激进。如果两个员工聊了半天,还要逐句点“可以分享”“不能分享”,是不是又太慢了?最后员工可能开两个窗口,一边在公司工具里聊明确会被记录的内容,一边到微信或 WhatsApp 说其他事情。

    Lewis: 这里就有灰色地带。两个人吐槽老板,要不要进团队记忆?谁来决定?我觉得需要给用户控制权。如果我们两个人拥有这段对话,哪些内容进入团队或公司的记忆,应该由我们决定。这里还有隐私问题,个人内容和工作内容的界限很难由系统直接替你划好。

    你说的那个例子有一个好处:大家一开始就知道,写出来的内容别人可以看。但如果原本以为是私聊,背后却一直有人看,人的聊天方式就完全改变了,不会再在这里聊私人事情、不会闲聊。这跟有人一直站在你身后看你工作,有点像。

    具体产品形态还没完全定下来,大家都在探索。可以先让模型从对话中提取信息,再问当事人:这些信息是否适合共享到团队,或者公司?不用让人从头读一遍所有聊天,但最后是否提升共享层级,还是由当事人决定。

    目前我没有看到一个把这些问题都做得很好的成熟先例。让全员跟同一个机器人聊,在一定程度上也是因为还没有好的层级设计,索性把访问控制简化掉,把资源放到一起。

    Raymond: 三十个人的公司群聊,和十万人的公司群聊,完全不是一个感觉。我还有一层怀疑:企业内部认真设计权限,调用外部模型时又怎么办?我对模型公司会不会看数据的假设比较悲观,纸上的承诺和实际执行,我没法从外面判断。

    Lewis: 公司内部的员工政策,和企业调用模型,是不同层面。公司如果明确要求员工接受某种内部政策,员工可以考虑是否加入;但不能因此就默认所有企业的私人聊天都能随便被查看。

    模型调用也要看部署方式。以我们内部的调用为例,OpenAI、Anthropic 的模型跑在 Azure 上;在谷歌的相应场景中,模型也可以跑在 Google Cloud 里。所以你需要区分,模型在哪里运行、数据由谁处理。不能只看到模型的名字,就把不同部署方式当成同一种情况。

    四、一个退订按钮,为什么比一个聊天框有用?

    Raymond: 前段时间大家都说企业才愿意为 Agent 付钱,最近个人助理又跑起来了,订机票、买鸡蛋、处理生活琐事。你现在用 Muse 加 Hermes,这个组合很特别。为什么最后留下这两个?

    Lewis: 我最早是 OpenClaw 的重度用户,从年初一二月份开始用。后来升级到 2.0,我碰到很多问题:升级之后原来的东西不能用了,迁移也出问题。那时发现 Hermes 在一些特定场景里表现更好,就决定不再修 OpenClaw,全部迁过去。它们跑在同一台虚拟机里,我直接让 Hermes 把 OpenClaw 的数据抓过来,它就完成了迁移。

    后来我用了 Grok bot。按我的体验,它面向专业用户,却给不了我一些专业用户需要的功能。比如让它做一个网站:用 Hermes 或 OpenClaw,我能直接访问自己虚拟机里的代码、网站和文件。Grok bot 出于安全考虑,后面的虚拟机不让我直接访问。它把网站跑起来,我只能通过它的浏览器看,或者下载下来。

    对我这种需要开发、访问产物的人,这就不够,所以后来弃用了。

    Muse 的用户体验让我觉得很好。Hermes 还要自己维护,Muse 是一个应用,呈现方式做得很清楚。尤其是 idea tab(任务建议页),里面会告诉你这个 Agent 能帮你做什么,而且很大一部分建议来自你的上下文。

    一个空聊天框摆在面前,你未必想得出多少事情可以交给它。Muse 给你一长串具体建议,其中有些正好就是你要处理的事。用户更容易明白它的能力,这个差别很重要。

    Raymond: 我给 Muse 权限的一瞬间,idea tab 第一条就开始提醒我跟进医院。美国很多生活事务靠邮件:预约医生、给孩子报班,国内可能是小程序、服务号,这边就是邮件。一封医院邮件,十几个人来来回回,我一天不看,已经过去一个来回,它帮我整理了出来。

    我看到的其他用法也类似:查信用卡账单、处理报销、追保险款、退订,邮件是很多任务的起点。Claude Code 以前其实也能连 Gmail,给权限后也能读,但我没这么用过。差别在哪?

    Lewis: 这是产品导向的价值。邮件和日历是个人数据的重要来源,能让 Agent 知道你是谁、在做什么。但有了连接能力,还要让用户知道该怎么用。

    比如 Muse 可以直接提示:看一下你所有的订阅,哪些订了却没在用,能不能取消。这是一个非常实际的任务。Claude Code 技术上也能做,但它不会以同样的方式把任务入口摆在你面前。你可能要先在 YouTube 上看别人介绍,知道还有这种用法,抄一个 prompt,再回来操作。

    让普通用户自己完成这个过程,挺难的;让他在 Muse 里点一个“退订”,就容易很多。所以我觉得,这个时代做应用的创业公司依然有机会。

    Raymond: 我以前得先知道有一种能力,再去学怎么调它。现在它读完我的上下文,把“你要不要处理这个事情”放到面前了。这就解释了为什么同样是读 Gmail,Muse 一出来,大家突然都这么用了。

    五、邮箱是谷歌的,为什么助理是别人做的?

    Raymond: 你这么在意隐私,Instinct 你用吗?我上周去 The Information 的一个会,听众里有人非常不信 Zuckerberg,绝对不想让他读自己的邮箱,却在用 Instinct。我当时就在想:一家刚出来的小公司,你们怎么就这么信?

    Lewis: 我没用,不敢用。我当时看到的条款里,对访问数据后的使用权写得很宽。按我的理解,它可能拿邮件和其他个人数据来改进产品,这让我有顾虑。我也不太了解它背后的人,就更难建立信任,所以没有继续用。

    Raymond: 这个条款我不记得,所以我没法替你确认。但这就回到开头那个问题了:你给个人助理的核心数据是 Gmail 和 Calendar,两个都是谷歌的。它原本就有这些数据,有模型,也有消费者产品,为什么不是谷歌来做?

    Lewis: Google 太慢了。

    一个原因是比较被动:市场上出现了什么,就去做相应的应对。我们当时做 Gemini,把 OpenAI 当成最大的竞争对手。OpenAI 做得好的是聊天、消费者产品,我们很多精力也投到这边,让模型做出更漂亮的演示、更能取悦用户的东西。

    Anthropic 做了另一个产品选择。大家觉得核心工程工作很难被替代,它就押注工程、押注企业。我觉得这个选择押对了,后来 OpenAI 又把不少精力从消费者产品拉回来,转去做编程,谷歌也在转。

    个人助理的方向,谷歌很早就在讲了。两年前的 Google I/O 已经讨论过无处不在的助手,Bard、Gemini 的产品定义里也有这个目标。但这么长时间下来,实际迭代的速度,我觉得跟其他公司比还是不够。

    几个大厂里,按我的观察,xAI 很早就动手了,但我当时付了订阅,也没有真正解决自己的需求。Meta 的产品则据报道在内部打磨了很长时间,最后推出的那一下,我觉得有效。先出现和做得好,是两个问题。谷歌应该也还在打磨,只是我们看到的成品速度慢了。

    外面也有传闻,说谷歌内部有一个类似的产品,可能很快会上线。我相信谷歌还在打磨,但目前这还是传闻。

    Raymond: 那我会想到另一种阻力:合规、法务是不是在问,读了用户隐私、给了错误建议怎么办?小公司可以更激进,大公司自己做有问题,收购回来可能还是同样的问题。再加上你前面讲的组织层级,就很容易出现大家都知道该做什么,产品却迟迟出不来的情况。

    六、中国的互联网,像十个人站在那里等你逐个问

    Raymond: 如果每个个人助理第一步都要连 Gmail、Google Calendar,谷歌会不会干脆不让别人调用?把这个口子关了,竞争对手不就没数据了吗?

    Lewis: 我觉得不太会,这跟公司的文化和定位有关。谷歌相对开放,提供 API,很多产品都建在上面,像 Superhuman 这样的邮件产品。给别人机会,也是这边的一种文化。

    更根本的是,对产品的理解是:数据属于用户,用户应该能访问自己的数据。至少从我看到的情况,它没有特别想靠不让用户调用数据来建立护城河。

    反过来,我用 Muse、Hermes、OpenClaw 时,很想让它们调用微信里的数据,却访问不了。微信里的信息跟我的 Agent 脱节了。所以国内大平台反而有很强的护城河:数据都在自己的生态里,这个 Agent 好像只有平台自己能做,外面的人很难做。

    Raymond: 我之前看到一篇文章提过一个判断:中国移动互联网过去十年建出来的东西,可能会变成 AI 时代的包袱。一座座 walled garden,围墙很高的花园,人在里面很开心,花园之间却不相通。

    比如我想搜小红书,外面的 Agent 找不到,我就得自己把问题复制过去,问小红书里面的聊天机器人。它能把帖子挖出来、分类,挺好,但我必须单独去那里。假如前十家、十五家大厂,都有自己的知识库型 Agent,而且彼此不能说话,中国互联网就像十个人站在那里,我得亲自逐个问,不能派自己的 Agent 去。

    Lewis: 我的使用经历稍有不同。我在虚拟机里登录小红书网页版,Agent 可以看,也能提取我账号的一些统计数据。你遇到强制登出,我这边之前没有碰到,所以这里还有检测机制和实际使用的差别。但微信确实更难,没办法像操作普通网站那样访问。

    美国的服务比较分散。邮件里收到信息,最后还是去医院的网站预约,去水电公司的网站交费。微信则已经把很多东西整合到一起,一个小程序就能完成。两种环境下,Agent 能走的路不一样。目前国内很难有一个渠道,让外部 Agent 把所有信息都集中起来。

    Raymond: 这也是我觉得腾讯可以慢的原因。模型可以暂时做得一般,但微信的关系链很难被替代。它可以等外面打完一轮、产品形态清楚了,再来做。除了微信,你觉得中国还有谁有机会?

    Lewis: 小红书也有。做个人助理,需要两类东西:用户的上下文和偏好。你说了什么、点了什么,喜欢什么,小红书的搜索和浏览记录里就有一部分答案。

    难处还是割裂。小红书更多是休闲,微信里有工作和家庭,企业微信和个人微信可能又分开。很难有一个产品把生活、工作、偏好全部结合起来。所以如果是创业公司,可能更适合先做一个领域里的个人助理。

    Raymond: 你不说,我确实不会想到小红书。但它还是一个很好的陌生人社交网络。我说的并不限于陌陌那种交友:想爬泰山,发帖找搭子;去吃饭、找餐厅,甚至在湾区找职业教练,很多人都去那里。这些关系和需求,会给它增加别的平台没有的数据。

    Lewis: 对。我和我太太每天有一件很大的事,就是想吃什么。这个问题通常不会在微信里问,更多去小红书、Google Maps。帮你决定吃什么、怎么吃喝玩乐,它就能解决一部分实际需求。

    美团、阿里也可能有各自的机会。如果能把自己的能力结合起来,创造差异化价值,我觉得就有跟微信竞争的可能。未必每家公司都得一上来做一个包办全部生活的助理。

    七、帮我退一次款,够不够让我订一年?

    Raymond: 个人助理介于生活服务和生产力工具之间,应该怎么定价?我看到过 Muse 想从购物里抽成的说法,讨论里又出现了 Amazon 限制 Agent 访问的消息。平台希望真人过去消费,Agent 想替用户做事情,两边可能直接冲突。那除了抽成,是收订阅,还是按结果收费?你之前参与模型定价,会怎么拆这个问题?

    Lewis: 先分清入场费和你解决问题的价值。像 Grok bot 当时那种两百块的入场费,我觉得很难维持。用户连它能做什么都不知道,就先付这个价,留存恐怕不会好。

    Muse 当时让我先免费用,有每周的额度。超过以后怎么付费,我的理解是需要付钱,但我自己还没超过那个上限。这个顺序合理些:先让用户弄明白有什么用。

    这些产品很多受到 OpenClaw 这类 Agent 的启发,在技术实现上没有特别高的门槛。你能做,别人也能做。收两百块,到底是替用户解决了值得两百块的问题,还是把两百块的 token 预先卖给他?这得想清楚。

    对个人用户,我倾向 freemium,也就是先免费体验,再为更多使用付费。帮用户追讨退款、申请差价补偿、买到折扣商品,前期可以尝试不同的收费方式,但这些单个任务的护城河也很低,不能光看一次任务产生了价值。

    Raymond: 对。帮我申请一笔退款,成功了,我说太好了,但下一次退款在哪里?我不可能每天订新东西,再每天让你取消。找到一盒便宜鸡蛋,也可能只是一次性的需求。单个任务看起来很有用,放到 LTV,也就是用户整个使用周期能带来的价值,就很难解释持续性。

    Lewis: 所以企业和个人应该分开定价。个人先用免费增值的方式,用得多再多付,按用量收费相对直观。企业里的工作则有很多重复流程,ROI,投入带来的回报,是可以量化的。

    最简单的算法是小时工资:你的工资除以工作时间,Agent 帮你省了多少小时,就能算出一部分价值。企业愿意为生产力的提升付费,因为同一个流程会不断发生,节省下来的时间也可以反复衡量。个人生活里的任务,未必有这种重复性,更难用同一套方式算钱。

    Raymond: 免费增值是不是也只是目前的过渡?今天不能完全免费,一个原因是广告还没做起来,另一个是推理有实实在在的成本。看新闻的带宽,已经便宜到平台可以让所有人随便看;模型推理还贵。如果广告成立,或者推理成本继续降,有没有可能变成免费,至少价格更低?

    Lewis: 我觉得长期看,单位智力的价格会往下走。到它变成标准化商品的时候,就有点像用水、用电。这是我对趋势的判断。

    还有一部分推理可能转到本地。iPhone 可以跑,Mac Studio 可以跑,只有非常前沿、复杂的任务才发到云端。个人助理日常要解决的,大部分都是普通生活里的事情,用户不会天天去研究一个世纪数学难题,或者生命科学问题。

    Raymond: 处理发票就找本地小模型,真的要研究复杂问题,再去用云端最强的模型。这可能反而是苹果的机会。今天把个人助理定得很贵,用户还没跨进入口,就先被价格拦住了。

    像齐俊元做的 Today AI,我也很好奇,但基础套餐的价格就是一道门槛。个人用途和生产力用途混在一起时,用户得先弄清楚它到底能替自己做什么。之前大家都觉得没人会为个人助理付钱,所以去做企业;现在又发现,帮我订机票、买鸡蛋也挺好。可“挺好”和我愿意一直付费,中间还是隔着一段距离。

    八、电脑能跑模型了,为什么还得花五百块请人安装?

    Raymond: 安全和隐私让很多人想把模型放在本地。我们对 Agent 要做什么、做过什么,有时候都不了解。端侧模型到底离普通人还有多远?这是一个还要等很久的方向,还是硬件已经到了,产品没到?

    Lewis: 我觉得这个时代已经到了。现在有 Mac Studio,也有 NVIDIA 的 DGX Spark 这种能在本地跑模型的机器。按我看到的苹果宣传和网上演示,最高配 Mac Studio 已经有人拿来跑万亿参数量级的模型;但那台机器很贵,我记得配下来大概要一万两千美元,并非所有用户都能接受。

    对我来说,重点是个人已经可以买到这类硬件。本地小模型应付正常的日常对话,已经能满足很多需求。只要你不一定要求它做复杂编程、解决很困难的问题,普通任务不需要每次都动用最前沿的能力。

    我个人比较看好本地模型,也知道有公司在做相关设备。但专门做一个设备,会遇到现有电脑的竞争:Mac 下一代芯片支持了,PC 再加上相应的芯片,大家的电脑都能跑。专用设备要怎么保持自己的价值?这个竞争关系很强。

    最大的难题又回到产品。**硬件上可以做,软件给用户的体验是什么?**Mac Studio 买回来,是不是已经有模型自动在里面跑?还是用户要自己安装一堆东西?这部分还不成熟,也就还有机会。

    Raymond: 这个我太能理解了。OpenClaw 刚火的时候,很多人买 Mac mini,拿回去以后不会装。国内闲鱼上出现过上门安装 OpenClaw,五百块一次。让一个不熟悉这些操作的人去安装、配置 API,整套事情挺烦的。能不能拿到手就用,和机器跑不跑得动,是两个门槛。

    如果用户真的愿意为本地隐私付这么多钱,需求成立,硬件也可能很快量产、降价。你之前说对这些小硬件很感兴趣,还因为看到什么更长期的变化吗?

    Lewis: 我跟一个做芯片的朋友聊过。相比大模型,芯片这边的路线图更明确。我们很难预测六个月后大模型会变成什么样,但他们对六个月后、几年后的芯片能力,有更清楚的预期。

    按他们的推测,现在跑在云端的一些大模型,六七年以后可能就在手机上跑了,在 Mac Studio 上就更容易。这个时间是推测,但我觉得大趋势会往这个方向走。

    想想以前用诺基亚,别说视频,放一个 GIF 都卡;今天手机可以看 4K、6K 视频。当时很难想象,现在就很平常。模型也可能经历这样的过程,只是站在今天,很难马上想象六七年后的硬件。

    Raymond: 那时候只能玩贪吃蛇,现在可以玩原神。硬件迭代加上模型压缩,能放进越来越小的东西里,很多现在被成本卡住的场景就会解锁。那苹果为什么还没把个人助理做好?隐私、端侧硬件,都是它很重视的东西。它是不是也能后发先至,让创业公司先把形态试出来?

    Lewis: 后发先至是有可能的。今天很多个人助理要完成的任务,本身比较简单,早一些的小模型已经能处理一部分,大多还是些平常的个人事务。

    九、领先三个月的技术,发了论文可能只剩一周

    Raymond: 你对谷歌还有信心吗?你离开时 Gemini 很高光,现在我感觉它又被拉开了。模型每天都在发,一个正式版、一个 Flash、一个 Lite,十家轮着来。发一个模型,至少得期待自己能当一个星期 SOTA,也就是当时最先进的水平;如果这都做不到,就躲回去再训练,发布日期可能越来越难定。

    Lewis: 我觉得会赶上,还是比较有信心。我跟一些朋友保持联系,谷歌的底子仍然很强。问题是,在我们这次聊天的时间点,它的 Pro 已经太久没有推出新版本。五月 I/O 说要发,聊这期时已经十月,还没出来,压力就一直增加。

    下一个版本至少要跟发布那一刻的顶级模型处在同一水平。竞争对手不断更新,门槛水涨船高,晚发并不意味着只需要完成几个月前的目标。我相信下一代会不错,但这和我们现在已经拿到一个产品,是不同的事情。

    Raymond: 把谷歌当成一面镜子,当时内部看到 DeepSeek 是什么反应?我想知道的不只是技术评估,还有情绪:一个开源模型突然做到这个程度,你们会惊讶吗?谷歌会不会因为自己的骄傲,不愿意参考中国公司的东西?

    Lewis: 我们做模型的人,第一步还是读论文,看它有没有独特的东西。当时大家觉得 DeepSeek 是有料的,确实有创新。一个开源模型做到那个程度,大家挺惊讶;有些技术当时在美国这边还没见到,自然会想,这是一种好方法,我们也可以尝试。

    从工程和产品的角度,我们愿意看到这样的事。开源、发技术论文,让大家有机会互相学习、成长。这和拿其他公司的模型输出去蒸馏,是不同的讨论。

    至少我在谷歌的那个时间,没有看到蒸馏别家公司模型的情况。我只能说自己在谷歌时的经历,不知道其他公司具体怎么做,也不能替它们下判断。我们当时说不会记录用户数据、不会拿这些数据训练,在我参与的工作里,大家确实按这个要求做。我觉得一些压力可能跟这个也有关系。

    Raymond: 严格照规矩做,完全靠内部找新数据,可能反而给自己加了难度。但说到底,其他公司具体怎么做,我们也没有办法知道。另一件事是,现在技术交流似乎越来越少,论文少了,博客少了。我邀一些大模型公司的嘉宾上播客,也明显觉得越来越难。

    从模型发布的角度,我还有一种感觉:中国公司未必每次都做到全球最领先,但能做到国内领先,或者成本有优势,就还有一个可以发布的理由。对谷歌这样的公司,大家的期待不一样。技术不够领先,发布就可能被卡在那里。

    Lewis: 对头部公司来说,现在很少看到像以前那样把技术论文发出来。大家会觉得,这一点技术和知识,可能本来就只能保住三个月、六个月的领先,再发一篇论文,可能只剩一周。

    很多人也怕说错话。别人不小心问到一个问题,自己不小心透露一个细节,可能就会产生影响,因为竞争实在太激烈。

    Raymond: 我上一期聊过,模型发展的不同阶段,瓶颈不一样:有时是预训练,有时是后训练,有时是数据。某一类研究员在公司里特别能创造价值的窗口,可能就十八个月。他要守住秘密、撑下去,十八个月后别人追上来,优势也就没了。这个事情很残忍,所以我理解大家为什么不愿意上播客。但我还是希望能多聊聊。

    Lewis: 我觉得交流是很有意义的。大家会看到的角度,毕竟还是很不一样。

    如果你也在看这个方向,或者不同意上面的判断,欢迎写信到 [email protected]——不想写信也没关系,把邮箱留在下面就行。

    主题 AI 应用组织与用人大模型
    免责声明。本文仅供一般信息与学习交流之用,不构成投资、法律、税务或会计建议,亦不构成出售或邀请购买任何证券或 Mossfire Capital 所管理任何基金权益的要约或劝诱。本公司及其关联方可能持有文中讨论标的的头寸,实际持仓可能与文中观点不同甚至相反,且不披露具体持仓。完整版见信息披露页。