01 做大模型可以有「深圳速度」，但不能跳步

张鹏：去年 9 月腾讯混元大模型正式对外亮相，前段时间也发布了元宝这样一个比较AI Native 的产品。但外界总体感觉，腾讯比较沉稳，没有疯狂抢先手、也没有一下放出很多产品，情绪一直比较稳定？

沉稳的背后，腾讯在大模型上是怎样的策略？

刘煜宏：其实是「外松内紧」。外界看到不着急，感知混元推出来比较晚，但坦白来讲，这是一个非常卷的赛道，我们内部的节奏是非常紧张的。

腾讯从战略上一直将大模型和生成式人工智能，视为百年不遇的、类似工业革命一样的机遇。

对外产品上，去年 9 月推出了「腾讯混元助手」小程序，今年 5 月 30 日推出了元宝 App，（也推出智能体开发平台——元器），但这些背后的底层能力其实我们做了很久，像广告大模型在 21 年就开始做了。元宝 App 发布一个月不到的时间里，更新了五六版，每一个小的迭代都解决了一部分问题。

去年我们没怎么对外发布产品，其实是内部率先用起来（大模型），比如腾讯会议、文档，微信读书的 AI 助手，包括它们在内很多内部产品已经在用了，除了 API 的方式接入，还有一些业务会做精调。到目前为止，腾讯内部有接近 700 个业务接入混元，基本上腾讯所有的（业务）都用。

腾讯内部近 700 个业务接入混元大模型｜图片来源：腾讯

张鹏：OpenAI一声炮响让大家看到这个新的趋势，去年腾讯内部对于大模型是如何判定的？当时做决策的真实情况是什么样的？

刘煜宏：GPT-3.5 出来前后开始做混元这个项目。一些底层相关技术做得更早，刚才提到广告大模型在 21 年就开始做了，搜索相关的「推广搜」场景也做了很久，运行大模型的底座从一几年开始就在建设。

对外的产品节奏看起来体感很慢，因为一开始便深知这是一个长期的项目。原来还说百年一遇，现在发现是几百年一遇的项目。不是短期一窝蜂就能搞定，像做原子弹，只有一步一步积累，把底子打牢。

举个例子，做底层涉及到网络问题，没有网络、算力，怎么训练？钱能跟上吗？预算怎么投怎么收？等等，都得考虑。我们比较清醒，对底层困难预估得足。

一年半前我们判断，一年后国内的几家大厂在大模型能力都差不多。目前也认证了这个预判。我们虽然压力大但有比较多的试验机会。

张鹏：在大模型上，业界大家都比较着急，也有创业者认为这个时候快速跟上是第一目标，甚至可以基于开源模型做 post-train，因为开源模型「看」过的那些数据，没必要重新再「看」一遍。

刘煜宏：我们从来没想过这条路，一开始就决定冷启动，从 0 到 1 完全自研，是一条非常艰难的路。

腾讯做产品有个原则，得自己验证一遍，连颜色、像素、排布的选择都是试验出来的，页面设计成瀑布流留存率就有多高？对男性用户如何？等等这些都是 ABtest 出来的。

OpenAI 过去几年走过的路，模型从 1.0 版本到 4.0 版本他是怎么走的？就算过程中你按他披露出来的一些技术路线走，该做的实验一定不能少。比如也有很多超参数、数据配比要调，甚至中英文数据比例怎样才是效果最好都要做大量实验，花了很多时间在这里。

张鹏：打个比方说，下决心要给新时代生个孩子，不是说赶紧抱一个过来，是要生一个亲生的感觉。

刘煜宏：对，我们从一开始就坚定了全自研路线，追求自研、可控度、安全。从 0 到 1 自主探索，包括训练、推理的框架平台，模型预训练、精调、强化、怎么对齐，数据，投入了大量资源。

坦白来讲，大家都在看OpenAI的路线，但不是你按 GPT-4.0 的套路走，就能行得通。

张鹏：要从 0 到 1 走一遍、但要更快速地走一遍，而不是找个捷径只为了追上某个点。那么设定的这个起点是哪？

刘煜宏：如果说大模型，可能从 Transformer 甚至更早。

我们会设定一些目标，比如一开始对标 GPT-3.5，预计什么节点能达到 3.5 的什么水平，什么时候能在工程上追上。坦诚讲，目前很多能力提升还真的是靠数据和工程。

目标是有的，但不能跳步。不能看到 GPT-4o 出来了，发现多模态融合做得好，就不考虑 GPT-3.5 了。我们评测 GPT-4o 确实比 GPT-4V、GPT-4 Turbo 那些版本的能力都强。但直接按 GPT-4o 路线走，估计大概率会失败。

目前来看大模型怎么选择路线，还是一个实验科学，你得堆资源，人力，数据训练，当看到就这么一条路，那么选它有很大概率会成功，把他们探索的加速走一遍，而不是直接到终点等着说就按这个路线走。

张鹏：大模型技术变化非常快，一边挖地基、一边盖楼的感觉，这楼现在一下都盖到比方说 5、6 层了，统一多模态什么的全出来了。压力会不会更大？还是说，打地基和不断盖楼的过程中，更有信心了？

刘煜宏：跑了一遍，当然更有信心。你看到盖到 5、6 楼，不代表前面 1、2、3、4……楼就不需要，只不过你可以盖得更快，深圳速度一天一层楼类似这样，所以一定是要把从零到一的过程重新走一遍。

张鹏：你们的做法还是很严谨的。煜宏你在腾讯多少年了？

刘煜宏：我 05 年加入的。

张鹏：20 年了，那你一定对腾讯的风格非常了解。去年很多大厂积极地抢身位，腾讯好似不争不抢，但在内部挺较劲的。这个是腾讯骨子里带的做事风格？

刘煜宏：我在腾讯一直做技术。坦白讲，做技术、产品是可以借鉴的，但也有个词叫「空中楼阁」，没有地基你就上不去。这可能也是腾讯的风格。

别人用三年从版本 1.0 迭代到 5.0，你用半年走一遍，如果说产品和技术有参考，那么最大的参考意义在这过程中。走一遍你会遇到同样的东西，这时候会理解，「哦，为什么是这样」，走一遍后也才知道，也许因为用户群、生态等不同，另外一条路可能是更好的选择。

02 从需求中长出来的元宝 App

张鹏：你刚讲很多腾讯内部的产品在用混元大模型了，能不能举几个混元给原有产品带来新的 Feature（功能/特性）的例子？

刘煜宏：最新的例子，微信读书里的 AI 读书；微信输入法 AI 帮助扩写；腾讯会议里的 AI 助手，能给晚加入会议的观众总结之前别人讲了什么，把一次很长会议的会议纪要给摘出来。还有腾讯文档里的续写；企业微信里的翻译帮助与海外同事交流。现在腾讯旗下的协作 SaaS 全都接入了腾讯混元大模型。

再早一点的例子，智能客服在内部最为普遍。其实在用大模型之前，智能客服就做得挺成熟的，但大模型还能再提升 20%，这种程度的效率提升。

其实做了（大模型）产品之后，也帮助了自己很多，比如用 code copilot 写代码（涵盖前后端开发，C，C++，Java，Go，Python 多开发语言）的采纳率有 30%，相当于 100 行代码有 30 行是AI写的，而且被采纳。设计师设计 logo 时也用 AI 文生图来帮忙，每天千万级收入的广告业务的一些素材，就 是用 AI 助手来做的。大模型对于降本增效起到很大助力。

张鹏：你刚提到，腾讯内部接近 700多个产品在用混元大模型，算是混元的「内部客户」已经有 700 家了，那你怎么服务得过来？同时还得兼顾不断前进的技术。

刘煜宏：内部调用量大概将近 3 亿次了。去年我们发布（节奏）慢，一部分原因也是我们投了很多资源先服务好内部的「客户」。腾讯做事情，对外开放前一定要先在内部打磨好，自己的狗粮自己先消化。

同时，腾讯确实有最齐全的业务场景，办公协作、游戏、社交、推广搜等等。在这些丰富的场景中，也能练兵，也能练模型。精调、以及其他给产品的反馈，反过来又反哺到主模型里。比如，会议总结、function call 等。

对于内部产品接入混元，我们提供三种模型来支持。

第一种叫全托管，给没有那么强研发资源的团队，他们提业务需求后，我们想办法把模型精调好，他拿走直接用；

第二种叫半托管，有些业务有自己的研发，也能做算法优化，我们一起共建，一人一半，他们搞不定我们再上。最近两年「开源协同」在腾讯内部很流行。

还有一种，我们把模型开放后就不管了，剩下的业务如果有需要，自己加数据、自己调。

我们去年也是花了大半年，慢慢把几个模式跑通。我们提供一站式精调服务，叫「混元一站式」，允许他们做各种创作、优化，内部根据需求调用资源，模型、算法、插件。

张鹏：三种模式占比如何？

刘煜宏：7 成左右拉 API 就可以了，啥都不用管。另外 3 成多少要精调，这其中拿走模型完全自己精调的会比较少，因为有门槛，我们一起参与的进展会更快。

张鹏：70% 的业务直接调用混元API，30% 要精调，哪些产品、业务要重点支持？这个选择权到底在谁，或者看业务部门谁更有影响力吗？

刘煜宏：这时候我们会基于两点考虑，一是复杂度，投入多少资源能帮你解决问题；二是同等难度和投入的情况下，先考虑战略重点。

资源配置上，其实主要看客观需求。目前 70% 是 API 模式就能搞定，用的是大模型的通用能力。那就看什么场景用大模型的通用能力就可以解决，比如像娱乐场景这样容错度高的场景，没有强解决问题的能力也行。但要做金融、医疗、法律等严肃场景，不能有幻觉，通用 API 不一定搞得定，要专门精调，为严肃场景做大量优化。

所以，第一是看用户选择。第二，这个数据在不同阶段也会变。最开始我们支持腾讯会议、腾讯文档时，扩写、润色、总结能力都是需要定制的。一旦做好了，这个能力就能变成通用 API 能力，开放出来给以后接入的业务用，这时候就不再需要定制了。比如给腾讯会议做好了，腾讯文档、腾讯邮箱也有类似的需求。

张鹏：把模型做好，这几种模式跑顺，服务好 700 家「内部客户」，是挺花时间的，所以你们去年不着急对外说，是在忙着解决服务内部的问题。

刘煜宏：最开始做混元，没想要做 ToC 产品，是要把基础模型打磨好，服务内部需求，这是我们原来的逻辑。

当我们在内部很多产品、不同场景里验证后，发现这个能力可以拿出来给大家用，所以去年 9 月份推出了「腾讯混元助手」小程序，因为觉得在微信生态里也可以用。但后来发现这样做也有不足，比如使用时被聊天打断，没法持续地对话，它就没法成为一个好用的 AI 工具。于是推出了 App。

整个过程里，我们不断地思考、调整方向。从做一个底层模型、一个基础功能、平台服务内部业务，到后来发现，如果不探索原生AI大模型应用，不知道怎么跟业务更好合作，所以又前进了一步，从小程序，到 Web 产品，App 产品。

张鹏：市面上也有很多比较热的大模型产品，主打陪伴类等等，你们「元宝」做得比较简单，界面就一个框，当时是怎么思考的？

元宝 App 第一屏界面｜图片来源：腾讯

刘煜宏：选择现在这样的界面，还是想回归「用户到底需要一个什么样的AI产品」？

现在大模型的使用人群，学历较高、职场人士占多，所以偏工作和学习的场景更重要，娱乐属性也有，但重要性相对低。相应地，我们的 slogan 也调整成，「轻松工作，多点生活」。不是不做娱乐，也留了一些智能体在上面。我们也有开放的平台——元器，上面能做很多智能体，角色扮演、陪伴等等。

先选择把生产力场景的用户痛点用 AI 搞定，信息搜索、写文档、想创意、知识获取、阅读等需求。比如搜索场景，我们先做好信息搜索、大模型「阅读」顺畅，又改善了信息源的陈列，提供了又简洁又分层次的信息源，提高生成内容的可信度，规避大模型的幻觉。

后面围绕着搜索、阅读、写作、画画和创作等场景做好，这些被视为大模型的基础能力。

我们做产品经常说，做加法容易，做减法难。这是为什么我们一开始就用很少的东西，用一个 AI 搜索做，另外还有一个发现页面，上面有些智能体，目前并不多。这也代表腾讯一个做产品的理念，小而精，做减法。先瞄准能提升大家效率的、最有用的场景，把它做透。我们希望提升信息组织、以及信息被找到的效率。

张鹏：为什么不做娱乐产品？是产品取向选择，做提升生产力更重要？还是从技术上来看，认为做娱乐对于技术提升不重要？

刘煜宏：不是说娱乐不重要，大家还是需要情感陪伴的。当下先选择工作和学习场景，第一个有选择的原因。第二个，当我需要陪伴的时候，AI 能给到什么样的帮助？角色扮演的产品有很多，但（模型）能力做不到那么好。打发时间，暂时只能做到这点。

张鹏：人们对「杀时间」的事包容度高，模型能力没那么好也能没准让用户愿意掏钱。

刘煜宏：对。这是选择问题。我觉得选择娱乐场景这个目标，对目前大模型的这个阶段的发展不是很好。基于对自己的认识和选择，先把技术能做的做好。我们先把底层模型、基础的产品体验、元宝体系做好了，在此之上开放一些东西，就像微信，小程序，公众号，都是生态。那娱乐的事情就交给生态产品，QQ、游戏、视频、音乐，他们做娱乐场景比我们更擅长。

张鹏：腾讯本身就是一个庞大的产品生态，元宝未来会跟腾讯的产品体系打通吗，比如微信？这方面有什么计划？

刘煜宏：我们跟微信团队一直有互动。比如元宝里用得好的东西想要分享到微信，或者在微信里传个文件，能不能用元宝打开？这些互动，我们有探讨怎么做会更好。但因为微信用户非常庞大，任何一点小改动，都可能影响上亿人的体验，所以也非常谨慎。

5 月 30 号元宝发布之后，外部解读元宝和腾讯生态产品的打通，有点出乎意料。我们确实会考虑与腾讯生态如何互动，但毕竟元宝还是一个很小的产品，还在尝试阶段；另外，用户需求真的是慢慢发展起来，才会变成所谓的战略，我们并没有上帝视角，还是基于用户的需求来考虑。

比如面对用户搜索的需求，我们要做一个什么样的信息检索，搜哪里？那我们有搜一搜、新闻、视频、音乐、企鹅号，包括公众号是一个很好的内容源，这是一个顺理成章、跟着用户需求慢慢出来的事情。

我们也看到很多创作者来说，元宝 App 里加入公众号的内容源是一件非常好的事情，一些好的内容都被遗忘了，元宝还能把它挖出来，让它重新火一把。

但我们有一些更长期的目标，我们考虑的是，混元怎么支撑内部业务、做到何种程度。

张鹏：看来腾讯对自己要求很高，就像你说的，如果没有吃过自己的狗粮，没有真正用起来，不太愿意让别人为我付代价。但同时，这会不会降低了对外开放、快速迭代探索的可能性，让