本文不代表任何公司立场

---

Hi，是我

(本文总计7787字，细读需要5分钟）

---

又是一年一度的年度总结。今年的标题没有往年那么引人注目，朴实无华。最近一年，我注意到随着信息爆炸的不断扩散，擅长表达的人越来越多，自媒体，尤其是追求流量的自媒体，正在无限制地“剥削”和“消费”流量，这让我本就不多的表达欲望降到了冰点。当然，导致这种情况的原因有三个：

• 随着现实工作的事项成几何爆炸，我逐渐将更多的精力投入到现实世界中，因为我觉得这样更有价值

• 随着AI技术的普及，寻找真相变得越来越容易（对于有明确答案的问题），但也越来越困难（对于问题本身都不清晰的情况）。对于那些有既定答案的问题（比如我之前几年的总结或预测文章），AI的写作能力甚至超过了我。现在，有人用AI写文章，有人用AI做文案，甚至有人用AI进行培训。因此，我不禁思考，既然有AI，为什么还要费心去详细讲解呢？大多数人也没有耐心听我啰嗦（细致的内容不应该被浓缩）。

• 很多我认为做得不错的技术实践都是基于公司平台的，因此我更多地在公司内部（类似腾讯KM）发布。今年，我在公司平台发布了4篇文章，其中2篇关于AI。我在公司平台上的签名是“一年产一篇，一篇产一年”，这可以说是高产。然而，在能量守恒定律下，我也没有多余的精力去做脱敏处理来分享给大家。

  尽管如此，我还是要分享，原因如下：

• 我对流量的理解还不够深入，还没有充分体会到流量带来的快感或多巴胺的上升。因此，我希望能够抓住机会去感受和学习流量，以更好地理解其本质（当然，这篇文章也不一定会有流量）。

• 这一年来确实有不少故事可以在不违反公司规章的情况下分享给大家。我会尽量以一个客观的视角来讲述，尽管会提及到具体产品，可能会有“自卖自夸”的嫌疑。总之，标题中的创新并不是指新技术的创新，更多是以我的角度讲述跨技术栈后的一些体验，其实也没想象中那么糟糕。

• 关于2024年的技术浪潮的观察、使用、解读，我觉得非常有趣，所以想分享给大家。也作为蛇年礼物赠送给大家，期待对你们2025年的工作历程有所帮助。

---

一、牛马的创（mao）新（xian）

第一个事儿

是一个超大型的专项，第一次接触非x86框架下构造的系统，而且这个系统还是个大数据系统，这个大数据系统里大部分还是客户自研的组件，然而我们的团队虽然对内核、系统、大数据都有对应的队列储备，但是实际上分别是常规的Kernel（比如x86下指令集）、常规的系统（比如常见Linux发行版以及常规《性能之巅》里能包含的内容）、常见的大数据（基于云上的实时计算、离线计算实践等），所以面向自研大数据、非x86这样的项目，看起来就不怎么可控，为此我们做了这些：

• 低头看路：快速补全ARM体系知识，了解倚天710（搭载阿里云自研ARM芯片）在真实环境上的表现，为此我们团队做了不少Demo来验证各种架构在ARM指令集上的兼容度，至于算法方面的优化，则是跟倚天710团队合作并与客户共建来实现识别，验证出来后发现确实如官方所述，大数据场景下倚天710有奇效（奇效在大部分的PR文章都有，就不多累述）

• 做好兜底：虽然我们团队在系统层面（指的是操作系统、内核、IO调度这块）非常有把握，但是面向不同规模维度的专项，一些既定的产品逻辑或性能常识就会失效或产生非预期效果（这点在之前一个GPU优化的专项也遭遇过），所以向下的产品团队（他们主要掌握了产品的核心逻辑、白屏界面、核心代码），向上的应用团队（包括我们专门做大数据的团队以及客户专门做大数据的团队），都进行了预先准备，截止目前，虽然在大部分（99.98%，160+中有3个）问题上并未触发兜底，但是那3个case也足够带来毁灭性的风险。

• 敏捷迭代：作为一个相对长期的专项，常规的项目管理已经不足以覆盖整个专项（更多起到的作用是九大领域里的需求管理、工期管理），所以作为技术角色，整个专项采用了类似敏捷开发的概念，主线任务（目标）不变的情况下，一些出现问题的尽可能分化到分支里，最终解决再mega回主线，当然有一些确实最终通过分析各种火焰图发现还是依赖于IO路径或虚拟化路径的优化，那么这个分支我们可能识别为风险并寻求绕路方式，使得主干的里程碑并不会被影响

• 持续更新：传统的知识容易引发思维固化，导致专项进行过度自信，进而会出现决策错误，所以在这么一个专项里，就是不断的打破自己的认知边界，比如作为厂商，是否要去负责客户自研模块出现的问题，答案是要，因为自研模块在云上的兼容性最终决策客户是否能够实现其在上云之初设定的目标，当然，这里说的“负责”是指要去解决，解决不是“你没撞为什么要扶”的逻辑，很多时候兼容问题来自于双方都不熟悉，比如我们一开始并不知道EED盘其实是一款非常具备性价比的本盘云盘（具备本地盘的部分功效也具备本地盘的一些风险，但是是基于云盘框架，所以更具备灵活性），所以一直当成类似ESSD云盘来对待，直到我们重新学习了EED，我们就去更新了我们在这个场景上的运维规范，这样的例子其实在这个专项里特别多。

这里就以这四个词来说明为什么这个专项是具备吸引力的，因为它是为数不多的超大规模（由于保密原则，这里不能说）化专项，也是为数不多跨专业、跨硬件体系、跨技术体系、项目与技术深化能力都不同要求的专项，而我们通过（至少现在回过头看是的）极高的敏捷、迭代跟充足的“低头”、“兜底”准备用相对比较ROI的方式近乎完成这个专项，这就是我现在所正在从事的这个岗位的魅力。

当然，我分享的这个案例并不是为了炫技（实际上炫技的内容在内部），更多是以一个入局者的身份讲述我现在正在经历的体验，还有提炼其本质，就会发现其实是一种处理逻辑，一种IT从业者要具备，同时也很朴素的逻辑，那就是闭环思维，不单单是专项，还有日常IT从业处事或问题处理：

除了基础能力、目标导向、技术深度这些是浅显的要求，还有专项或问题的每一个难关的短期解决方案（简写S，堵住漏水口）、长期解决方案（简写L，渗水解决）、规避方案（简写A，不要出现漏水口），最后还有一个容易被忽略的，那就是“流式响应”（简写R），通常来说短期解决方案是很快输出的，但是长期解决以及规避，特别是规避，都需要很长时间（时间单位T）的讨论，但是往往因为没有做好同步的习惯，导致对方或专项合作方以为专项停滞或问题停滞进而引发了新问题，所以“流式响应”即是指，有完成或没完成，尽可能同步最新的进展到具备公示作用的渠道里（比如群聊）。

一个相对简单的公式：

---

第二个事儿

是关于AI的，众所周知（我们内部的众所周知），我们团队今年干了不少AI方面的项目，从干成（不代表它就是合理形态）的专项总结来看：

• SaaS类AI产品

  落地难度相对来说比较前置，更多会在场景探讨，即客户知道AI很重要，感觉AI很值钱，感谢VC很看好AI，就是不知道AI用自己业务场景上能做什么，所以场景的探讨就出来了，这里有意思的地方是，场景挖掘在AI这个命题上（至少是SaaS AI）得到了具象化，终于有了AI平台牵引甲方业务赚钱的场景，但是实际上这一步从现有的项目看还蛮难的，思索良多，问题还是出现在业务场景与AI的结合更多是为了AI而AI，而能成功的项目往往是有真实业务需求的，而且需求是足够细分的，比如就是单纯为了提效，提升员工效率侧面就是提升企业盈利能力，再比如单纯为了辅助，本身业务路径就很明确的，但是存在C端客户理解困难的交互场景，这种用AI（特指AI应用）就特别好，所以在场景探讨这一步里，几乎是SaaS AI（就是即开即用的AI API产品）比重占到了60%+，大部分干成的AI项目也都是此类，这也跟市场需求有关（无论是甲方的需求还是乙方的份额），换句话说，真的纯技术活的，在这类项目中干得会相对……不好明说，当然在架构的层面上来讲还是有很多空间，比如AI网关。

  

• PaaS类AI产品

  潜力依旧巨大，很多企业有很好的业务场景，并且场景都致力于这类业务场景（类似量化），那么更多其实不需要SaaS类，因为它本身就有强SaaS属性，所以反而在面对AI浪潮来临时有了更好的需求源，不过需求源与投资不成正比，决策者在计算ROI时还是会比较冷静，不能因为AI火了而强行投入重资产，这时候PaaS类的平台对于这类业务就很有市场，我们团队在这块至少干成了3~4个专项，相比于SaaS类，PaaS类的AI专项更具备技术属性，因为其形态就是为了服务企业的LLMs，那么就会涉及很多很有意思的细节，比如GPU资源调度、GPU并行计算（容器化类，非渲染并行）、算子优化、各种加速（比如阿里云的AIACC），然后PaaS类阿里云做得很好玩的点就是分为EAS、DLC、DSW等，这三种产品形态使得我们这班原来就对系统本身有兴趣的老炮更容易上手，并且进而学习了更多关于容器化、ServerLess化在AI领域（主要是LLM）的系统形态，所以这类形态的AI产品在DeepSeek（后面会讲到）大火后会有更好的前景，因为大家关注到了当业务成长到一定规模或AI行业形态达到一定阶段，更精细、更优雅的实现就来了，PaaS的灵活度就来了。

  

  （建议考下阿里云的PAI ACP，你就对PaaS类的AI产品有了更深入的理解）

• IaaS类AI产品

  或者叫IaaS类（这里更多指的是云上虚机，虽然有其他产品也是IaaS类，但是在AI中的占比不高，暂时忽略）在AI领域的机会，其实也不少，因为IaaS至于我们来说更像是在卖卡，所以通常容易被忽略，但是实际上，IaaS由于LLM领域精细化阶段的到来（其实一直都有精细化，只是之前没有人能做到或敢做到跟Deepseek一样），要求会越来越高，这属于对我们这班老炮更有利的一个领域，因为无论是GPU兼容性、性能调优还是GPU系统本身的内核调度、IO配合都更容易上手，举个例子，谁又能拒绝一个对NV Debug脚本输出且熟读XID列表的大哥加入IaaS类产品的专项里呢？

关于AI，其实去年23年年度总结讲过，但是那时候我称之为“元年”，这里的“元年”其实是之于我来说，24年这一年，在工作领域上，我们甚至是主动迎着上去看AI、学AI、做AI、落AI的，所以要讲的是，AI或许淘汰一部分人，但是对于IT从业者来说，就跟当年面对云计算一样，或许机会大于挑战，希望这段分享，能够给予你们一点启示，无论是什么层级的AI或多或少都存在深入的机会，但是一定不要一上来就讲“MaaS”。

这里建议再加考一个阿里云的LLM ACP，你就对AI这个品类的云上形态有了雏形了：

---

二、学习上的创新探索

α、“AI学AI，最小化用AI”

因为有了AI，其实面向一个行业或一项技术的学习已经降得非常低了，在过去的一年，从成果来讲：

• 我读了大约60W+字关于AI的材料，这些材料大部分来自于内部平台或LLM Paper，内部平台的学习材料本身就足够精华，所以阅读起来更多是酣畅淋漓，小部分不懂的基本上直接通过AI（比如通义就给我解释了前向计算、后向计算的概念）或直接找到作者去请教基本就学会了，而以前同品类的学习至少需要1~2年加上大量的Demo（可以看我VMCloud博客的历程）才算得上基本掌握，然后你才可以看到我刚刚在第一个主题里分享的关于AI方面的实践

• 另外一个成果就是很高兴的看到有各种AI Coding的落地，通义灵码跟Cursor我都用了，通过它们在两天内就独立完成了一个具备前后端的小程序（未过审也不打算过审）以及对内发布了一个前端小工具（我对前端一窍不通），现在也用的好好的，而且注释、代码实现都非常优雅（至少可读性很高，不是屎山）

• 最后一个成果就是内部从23年底就搞定的AI Agent一直在用一直在迭代，也跟客户做了一些交流，虽然内部看起来UV并不高，但是它是代表着我当年的我作为初学者输出的作品具备一定的生命力，现在也有一些客户参考这样的方式快速落地一些内部KM，简单讲其实就是LLM+RAG+Prompt工程打造一个交互式的AI，这个是当前来说无论什么AI平台都一堆解决方案，就不累述了，当然还是推荐大家知其然还是要知其所以然的，当年做LLM+RAG要各种chunk、ft搭配各种向量算法才完成精准输出，这一部分我也在想如何通过一种方式对外输出（内部在23年初已做了文章分享），但是始终没有合适的方式，还在想。

通过这三个成果，其实我想表达的是一句话——“AI学AI，最小化用AI”，意思就是有了AI，很多不懂不理解的地方其实可以让AI揉碎了来“喂”你，而且它丝毫不会有不耐烦的情绪（部分比较弱的连命中率优化都做不好的ZZ LLM除外），比如我在学习内部某位大佬的文章时对其中C Best概念（理论最佳算力）不懂，我就去问通义（此刻节约了一个大佬的嘲笑）：

接着你现在问我，AI算力我这么用GPU行不行，我就可以非常顺畅的告诉你了，当然不是因为我背下了这么复杂的公式，而是我把公式喂给了我的Agent，我知道它，并运用它，这就是AI学AI的最佳输出，也是最小化用AI的体现。

最小化用AI其实是有感而发的，从我个人体感来说，看到XHS、DY都在贩卖AI的“剩菜”，我就去问了下AI关于这块的调研，发现AI这块的热度确实在C端（即最终消费者）越来越高了，导致很多老大哥开始焦虑（包括企业），所以很多AI宏图就出来了，但是实际上作为个人开发者或IT从业者，AI的使用不用那么高大上，说实话，我们团队对AI的使用主要就几个场景：

• AI理解：对于像我这样啰里啰嗦的人输出的话，用AI总结，并要求它不要超过20个字，这样虽然会miss掉大量细节，但是至少知道“我”要说什么，对于我团队小伙伴来说应该还蛮受用的。

• AI整理：因为某些不可控因素，各类的系统可能会要求以某种格式做输入，这时候去钻牛角尖让平台方快速兼容显然是浪费时间，这种中间态的处理以往需要写一个脚本来格式化，现在，大胆交给AI，当然最好还是要review下输出的，有些AI输出，特别是数字类的，容易串台

• AI分析：这个点是比较有意思的用法，不知道大家有没有习惯做笔记（不是写日记，正常人谁写日记），有的话你就有福了，在不违反公司安全规范（所以如果是公司笔记记得要脱敏）的情况下，打造一款属于你自己用的Agent很有必要，我们团队有类似记账的一个平台实现（即所有人做得所有值得记录的随记都可以往里面填并作为工时），所以这就相当于我们的一个公共笔记，这份公共笔记我们打造成了一个Agent，在一些问题过去了若干年通过不限定的格式的提问即可得到提炼的答案，这就比传统的Key-Value要来的高效，其次，我个人也有一个Agent，上面记录了我这些年所有有规则的技巧（没规则的一般为复杂工程），比如现在我火焰图是不需要自己来看了，直接丢给Agent就好了。

• AI纠正：这也是有趣的玩法，对于i人来说特别好，输出文章或结论时，通常因为自己的输入是随着自己的思想来进行的，条理性不一定合理，这时候AI就可以大展身手了，比如：

  

类似这样成本很低，但是收效很好的“最小化使用AI”方式很多，这里抛砖了。β、Deepseek学习最近我也借助AI学习了Deepseek，上个月Deepseek-v3的paper出来后，我第一时间翻译并且生读了一遍，其中关于Deepseek-v3为什么成本能做到这么低，作为一名略懂GPU的菜鸟，我也借助Deepseek学习了Deepseek，最终得出两点比较粗浅的总结：

• 场景分层（压缩）：前向用FB8（主要为理解部分），向后传递的部分大部分也用FB8，但是部分需要精细运算的用BF16或FP32，这里有点像数据冷热分层，冷数据带来的成本节约，也带来了解冻成本，单总消耗比热数据小，FB8在前向计算里虽然精度不足，但是在分解Token跟Embedding这里是足够用的，或者说大部分场景下不会有太多误差，即使有误差，也满足了大部分的场景，可以说是一种选择的艺术，很大胆。
• 并行计算（并发）：MoE来实现并行使得不同阶段、不同问题类型在不同模块上同时跑，这样子计算资源是极致利用到的，其他模型为保障稳定性或因为算法问题通常会有很多流水线气泡（简单讲就是“闲时”），DeepSeek自己搞了一个算法（DualPipe）主要就是可以实现类似Linux内核机制的自旋锁，一旦有运算就会被调度，所以每一条流水线“牛马”都被充分调度，举个比较具体的例子就是NVLink跟InfiniBand的调度在DualPipe算法下做了“分而治之，充分利用”，实现一定程度上的通讯与计算重叠，这里就减少了50%的计算气泡带来的成本以及20%通讯开销（主要在节点间、节点内通讯的优化上），极致压榨是很冒险也考验实现优雅的决定。

当然这些都是现有的技术，所以也有人在喷Deepseek是“粘合怪”（也不全然，至少DualPipe算法还可一战），但是当成本压缩后依旧能表现出与压缩同等或X倍效益的时候才是真正的优化（还在学习Deepseek如何做的效果优化），从这一点看Deepseek是成功的，甚至有个有趣的现象，因为Deepseek的爆火，成本极致压缩的情况下，NV的股价竟然也应声下跌了，因为同等量级的模型不需要那么大的算力了（实际上还是短期的），也给资本市场带来了一定利空，技术影响资本的具象化。这也跟云厂商不谋而合，如何在相同或更低成本完成更高的效益输出，在理解Deepseek为什么好用，以及背后的技术后可能会有更多的感受。

当然，关于开源LLM是否真正进入像Deepseek这样优雅实现并带来巨大变革的时代，还得让子弹再飞一会儿（至少Deepseek的Infra层面是不是应该更健壮点，或者说极致的压缩是否与稳定性有强关联？）。你看，学习Deepseek这个案例还可以观测出AI背后的行业流动，AI学习AI不就让你的技术质量迭代得更快了吗？（快不代表会，学可以快，但是会仍需要实践，而实践是需要时间来沉淀的，也不能因为碎片知识就以为掌握了全部，理性看待）其他除了全网AI的唾沫星子，我在24年年末还体验了下“去中心化”的业务——虚拟货币，“去中心化”、“Web3”在过去两年虽然从理论上学习了不少，包括涉及到一些关于元宇宙的项目实践，但是本质上我还是没明白究竟这些技术在实体里是怎么样的价值？所以在年底的时候，我开通了虚拟货币的账户并且接触到了这些玩虚拟货币的群体，才真正具象化了这两项技术的落地呈现（当然也有部分技术概念是通过AI学习的）：在虚拟货币的世界里有各种C2C（客户对客户）的交易，同时支持实时的向流通市场买卖货币，由于没有像传统股市的交易所概念（类似BN之类的最多也就是个渠道，类似渠道有很多），所以通过渠道的交易非常频繁。一个交易通过链的方式来做证明，使得证明你实际持有某个类型的虚拟货币，再通过某个类型的虚拟货币发行量与交易额来实时各个渠道间同步市值甚至为了交易更加安全，你可以设立一个通过某种方式验证的带有特殊编码的“钱包”，实际上就跟CA验证一样，当你的钱包通过验证，渠道就会证明你持有的资产并同意进行交易通过这几点结合当前的XHS、DY等各种流量表现，就可以看得出来这类的去中心化技术的落地是多么受人欢迎，目前看来，是一个击鼓传花的游戏，谁都想在这个过程中获取一些收益，从潜伏在最前端的各种用户群里看到的更多是贪婪，当然关于这块的讲述我本来列举了比较多关于交易与技术的关系，但是经过与我AI的沟通：

在去中心化这块，我就直接讲结论，更看好的是安全信任方面的建设，比如链上的一些证书。当然，在学习这块，我还看了量子力学（比如谷歌Willow）、机器学习（ML）、卷积深度神经网络、汽车智驾（主要是鸿蒙方面）的一些内容，但是都没有实际的验证或体验、成果之类的，就不展开给大家分享了。

---

最后我本来想让AI帮我写个总结的，但是AI其实在叙述文这一块写得实在太叙述文了（所以如果讨论问题或者回答问题，或者面试场景，真的真的别再用AI了，这种考验真情实感、真材实料的场合，是不是用AI实在太明显，就像小时候老师在上面监考一样的明显）

所以还是我自己来吧，以上均是我自己创作（总感觉以后自己创作将成为艺术，就好像大量工业化后的手工艺品一样，但是至少是中看又中用的），质量就像你家在很久以前买的冰箱一样，再次说明，不代表任何平台、公司、企业立场，其中讲述到的产品均以使用者角度说明，不代表立场，希望今年的年度总结能够有点涟漪，来回答一开始关于“流量”，中间关于“工作”，后面关于“AI”，以及各种看起来跟IT无关其实又很密切的技术疑问。期待未来看到这篇文章的朋友我们有更多合作的机会，如果你对我们团队感兴趣，欢迎后台留言或直接投递简历给我，虽然我们要求很高，但是只要你能进来，相信能够给你带来不一样的感受。再次祝大家蛇年快乐，这次赶上热乎的。

---