翻了翻这个月 GitHub Trending,愣了一下。
DeepSeek Harness,204K stars。 Ponytail,120K stars。 OmniRoute,60K stars。 Google 刚开源的 AX,几天就冲到 Hacker News 第一。
这些项目有个共同点——它们都不是模型。
它们是让模型"跑起来、跑稳、跑不死"的基础设施。
说句实话,我做了快18年后端,见过好几次这种"注意力转移"。
2014年,大家聊框架,我在聊部署
那会儿前端圈在吵 React vs Angular vs Vue。
后端圈在吵 Spring Boot vs Dropwizard vs Play。
但我当时带的一个小团队,最头疼的根本不是选哪个框架。
是部署。
每次上线都像拆炸弹。
数据库迁移脚本跑一半挂了怎么办?回滚策略是什么?灰度怎么搞?
后来我们花了三个月搞了一套自动化部署流程——当时还不叫 CI/CD,就叫"上线不翻车方案"。
那套东西现在看很原始,但在当时,团队里没人在意这些。
大家都觉得"部署是运维的事"。
直到有一天凌晨三点,线上数据库被一个没跑完的迁移脚本搞崩了,所有人都开始关心部署了。
2018年,大家聊微服务,我在聊服务治理
微服务火的那两年,我见过太多团队一上来就拆。
“这个模块独立出去”、“那个服务拆出来”、“我们用 K8s 编排”。
拆完之后呢?
服务间调用链追踪?没有。 熔断降级?没有。 配置中心?用的 properties 文件,靠人肉同步。
我当时在一个金融项目里,硬着头皮搞了一套服务治理的东西——链路追踪、熔断、限流、配置热更新。
老板不太理解,问"为什么要花这么多时间在这些不产生业务价值的事情上"。
我说"等线上出了问题,你就知道这些东东有多值钱了"。
三个月后,一个下游服务挂了,熔断机制自动生效,用户完全无感。
老板请我吃了顿饭。
2026年,大家聊模型,我在聊 Agent 怎么不死
历史在重演。
现在的 AI 圈,所有人都在聊:
“Qwen 3.8 跑分多少”、“GPT-6 比 Claude 4 强在哪”、“本地部署用哪个量化版本”。
但你真的把 Agent 放到生产环境跑过吗?
跑过就知道了。
Agent 跑3个小时,内存泄漏,挂了。 工具调用链太长,上下文窗口爆了,挂了。 多 Agent 协作,一个卡住,全链路阻塞,挂了。 网络抖了一下,没有重试机制,挂了。
这不是模型的问题。
这是基础设施的问题。
所以当我看到 DeepSeek Harness、Ponytail、Google AX 这些东西冲上 Trending 的时候,我并不意外。
因为有一批人,跟我一样,是被生产环境毒打过的。
他们知道——模型再聪明,跑不稳就是零。
基础设施的活儿,不性感,但值钱
说个可能得罪人的观点:
AI 行业现在最缺的不是算法天才,是基础设施工程师。
算法天才能让模型准确率从 92% 提到 94%。
基础设施工程师能让一个 Agent 从"跑3小时就挂"变成"跑3个月不挂"。
哪个更值钱?
对老板来说,显然是后者。
对用户来说,也是后者。
你用一个 AI 工具,它动不动就崩溃、丢上下文、忘记你说过什么——你会因为它"模型跑分高"就原谅它吗?
不会的。
你会直接卸载。
我看到的 Agent 基础设施栈
整理一下最近关注的东西,2026年的 Agent 基础设施大概分这几层:
运行时层:DeepSeek Harness、Google AX 解决"Agent 怎么活下来"的问题。进程管理、内存控制、故障恢复。
编排层:LangGraph、CrewAI、Orca 解决"多个 Agent 怎么协作"的问题。任务分配、上下文共享、冲突解决。
工具层:MCP(Model Context Protocol)、Treg 解决"Agent 怎么调用外部工具"的问题。标准化接口、权限控制、审计日志。
记忆层:Mem0、Agent Memory 解决"Agent 怎么记住事情"的问题。短期记忆、长期记忆、遗忘策略。
网关层:OmniRoute、Hermes Agent Gateway 解决"Agent 怎么对外通信"的问题。多模型路由、负载均衡、成本控制。
每一层都有人在做,每一层都有机会。
对普通开发者意味着什么
如果你是一个普通开发者,不是做 AI 研究的,我觉得有几个信号值得关注:
第一,Agent 开发的门槛在降低,但运维门槛在升高。
以前写个 Agent,调个 API 就完事了。
现在不行了。你要考虑持久化、容错、可观测性、成本控制。
这些东西,都是后端工程师的老本行。
第二,“全栈 AI 工程师"这个岗位会越来越多。
不是只会调 API 的那种"全栈”。
是既能写 Agent 逻辑,又能搞基础设施的那种。
会写 Prompt 不够了,还得会写 K8s YAML。
会调模型不够了,还得会做链路追踪。
第三,开源基础设施项目是最好的学习材料。
DeepSeek Harness、Google AX、Mem0,这些都是真实生产环境里打磨出来的东西。
读它们的源码,比看100篇"如何搭建 AI Agent"的教程有用。
我为什么觉得这比模型更值得关注
最后说个可能有点偏激的观点。
模型会越来越好,这是确定的。
但模型的进步,对大多数开发者来说是"黑盒"。
你控制不了 OpenAI 什么时候发新模型,你也改不了 Anthropic 的架构。
但基础设施不一样。
基础设施是你能控制的。
你可以选择用什么运行时、怎么编排、怎么做记忆、怎么控制成本。
这些东西,决定了你的 AI 产品是"demo 级"还是"生产级"。
18年前,我学到一件事:
真正让一个技术落地的,不是最聪明的算法,是最扎实的基础设施。
互联网能跑起来,不是因为 HTTP 协议多聪明,是因为 Apache 和 Nginx 够稳。
移动互联网能爆发,不是因为 4G 技术多先进,是因为 CDN 和云服务够成熟。
AI Agent 要真正走进生产环境,靠的也不是模型跑分,而是基础设施够硬。
所以,别只盯着模型了。
看看基础设施吧。
那才是真正有意思的战场。
2026年9月27日,凌晨,写于成都
一个做了18年后端,现在天天跟 Agent 基础设施打交道的人
