← 返回程序员的梦话

当 AI 跌入凡间:AI 时代真正需要什么基础设施?

从惊艳的 Demo,到绝望的生产环境:真正卡住 AI 落地的,从来不是模型不够聪明,而是它要进入的这套已经运行了十年、二十年的现实世界——权限、网络、数据、责任、审计。

作者:Pitt Zhang

首发时间:2026 年 9 月 3 日(北京时间 / UTC+8)

首发平台:Pitt Zhang 个人技术博客 — https://api-cloud.cc/

授权与引用声明

本文为 Pitt Zhang 基于实际 AI 工程实践与个人经验形成的原创文章,首次发布于个人技术博客 https://api-cloud.cc/

本文允许个人、媒体、技术社区及其他非恶意用途进行引用、讨论、转载或二次分析,但应明确注明原作者与原始出处。

引用或转载时,请至少保留以下信息:

作者:Pitt Zhang

原文首发:2026 年 9 月 3 日(北京时间)

原始出处:https://api-cloud.cc/

可以对本文观点进行批评、验证、反驳或进一步研究,但不应删除原始作者信息后将文章整体或核心原创分析冒充为他人原创成果。


从惊艳的 Demo,到绝望的生产环境

过去几年,模型能力涨得比大多数人预期更快。GPT、Claude、Gemini 和一众开源模型轮番升级,企业也很快学会了做 Demo:AI 客服、助手、知识库、RAG、Agent、办公自动化、智能分析,几天到几周就能跑出一版能演示的东西。

那一刻很亮。未来近得像假的。

真正卡住的地方,几乎总是下一句:

Demo 能运行,生产落不了。

不是因为模型不够聪明,而是因为企业不是实验室。AI 要进入的,是一套已经运行了十年、二十年的现实世界:权限、网络、数据、责任、审计。模型不会自己穿过这层墙。它那过分干净的能力,还没有被安放进这座满是规矩的旧房子里。


一、困难不在模型,在已有的世界

很多人仍把 AI 理解成一条直线:更大的模型、更强的 GPU、更好的 Prompt,应用就会更强。

企业环境不买这个账。

真实组织里通常已经有:Active Directory、ERP、SAP、MES、CRM、OA、文件服务器、数据库、邮件、内部应用。它们带着自己的权限体系、网络隔离、数据规范、安全红线和审计要求。AI 想进去,先面对的不是「怎么生成更好的答案」,而是:

如何连上这些已经存在、而且不能推倒重来的系统。

模型越强,这个问题越尖锐。因为能力一旦能写、能查、能调接口,风险就从「答错」变成「做错」。这时的 AI,更像一个通晓万卷、却不懂门禁的人。它能推理,不等于它知道自己此刻代表谁、能看什么、做错了谁来签字。


二、最后一公里,决定项目活不活

FDE(Forward Deployed Engineer)的工作常被误解成:帮客户调 API、写 Demo、教人用模型。

现场真正耗时间的,几乎都不是这些。

客户说:「我们要做 AI 知识库。」

接着才是真正的问题:

没有一条属于 Prompt,也没有一条属于模型训练。但它们决定系统能不能上线。

Demo 证明的是:在最好情况下,它能跑通。

生产要证明的是:在权限、隔离、异常和责任都在的情况下,它能持续跑,并且跑得可控。

中间这一截,才是 AI 落地的最后一公里。无数项目不是败给智力上限,是败给了这截没有人愿意先写进方案的路。


三、AI 时代多出来的那一层基础设施

过去几十年,IT 基础设施围绕服务器、网络、存储、数据库、虚拟化、云平台展开,目标很明确:系统稳定运行。

AI 时代并没有取消这些,而是在上面多了一层智能基础设施。它要保证的不只是「能响应」,还要保证智能在约束内行动。

更接近生产现实的栈是这样的:

计算资源 ↓ 模型服务 / 路由 / 降级 ↓ 企业身份与权限(人 + Agent) ↓ 数据连接与治理 ↓ 知识库 / RAG ↓ Agent Runtime + 工具治理 ↓ 工作流与人机卡点 ↓ 业务系统集成 ↓ 评测、观测、成本、审计、回滚

这不是再装一个 AI 软件。这是把模型、数据、工具和业务流程,接进原有 IT 秩序里。烟火可以在云端放;管线必须穿过地面。

其中有几层现在经常被 Demo 阶段直接跳过,上线后才会爆:

身份要覆盖 Agent,不只覆盖人

Agent 一旦能改 CRM、创建工单、发邮件,它本身也需要身份:代表谁、能调哪些工具、越权如何熔断。

数据连接要做成产品,而不是一次性脚本

难点不在第一次爬到文件,而在增量同步、权限映射、脱敏、源系统变更后不崩。

评测和回滚是门禁,不是研究课题

Prompt、模型、知识库、检索参数任何一项变更,都可能让上周能用的系统这周开始胡说。

成本必须能记账

并发、重试、多步 Agent、长上下文叠在一起,财务往往比安全更早叫停项目。

该人工卡的步骤必须设计进去

对外发送、金额阈值、删除和写入类操作,不能默认全自动。


四、为什么会出现新的工程师角色

过去分工清楚:开发做应用,运维做系统,算法做模型。

AI 把边界打乱了。企业需要一种同时懂两边的能力:

一边是企业 IT——网络、Linux、云、自动化、安全、权限、审计。

一边是 AI 系统——模型 API、RAG、Agent、工具调用、工作流。

这个角色正在成形,名字可以叫 AI Infrastructure Engineer,也可以叫 Forward Deployed Engineer。企业内部通常还会再拆:

角色真正解决的问题
AI 平台 / Infra模型服务、网关、观测、多租户、成本
落地工程师 / FDE现场集成、权限、数据源、客户环境里的脏问题
Agent / 应用工程师工作流、工具、评测、产品化体验

他们的价值不是造出更强的模型,而是让模型在别人的权限体系、网络和责任结构里活下来。工作不炫。可若没有人把飘着的能力接进地面,再好的模型也只是停在演示里的天气。


五、传统 IT 工程师不会被淘汰

一种流行判断是:AI 会替代 IT。落地现场看到的往往相反。

模型不会自己理解企业网络。

Agent 不知道权限边界。

RAG 不知道哪些数据能读。

自动化不会自动处理安全事故。

AI 越强,企业越需要懂基础设施的人:设计环境、连接系统、验证结果、处理异常、保证稳定,并在出事时拿得出记录。

被替代的是「只会按手册点界面」的部分;被放大的是「能把不确定的智能,放进确定的约束里」的部分。

智能能提出下一步;轨道必须由人来铺。


六、稀缺的不是会用 AI,而是能让企业拥有 AI

会调用 ChatGPT、Claude、Gemini 的人会越来越多。工具会更便宜,入口会更简单。那会慢慢变成一种普通能力,不再是稀缺本身。

真正稀缺的,会从「我会使用 AI」变成:

我可以让一家企业,在自己的系统、数据和责任结构里,稳定地拥有 AI 能力。

这是两件完全不同的事。前者是个人效率,后者是组织能力。中间隔开它们的,不是一层提示词,是整段要把光接进尘土的工程。


结语

互联网时代需要能把机器连成网的人。

云时代需要能把资源变成弹性服务的人。

AI 时代需要能把模型、数据、系统和业务流程接在一起的人。

未来真正重要的问题,不是谁拥有最强的模型,而是:

谁能让 AI 真正进入现实世界,并且在约束内持续工作。

烟火当然动人。可烟火过后,房间还在,规矩还在,责任还在。AI 的未来,属于创造模型的人;也属于那些把它从神坛上领下来,给它身份、轨道和界限,让它在凡间老实地工作的人。


关于引用与转载

本文为 Pitt Zhang 原创技术分析。

首发时间:2026 年 9 月 3 日(北京时间 / UTC+8)

首发平台:https://api-cloud.cc/

欢迎技术社区、研究人员、开发者及媒体对本文观点进行引用、讨论、验证与转载。

引用或转载时,请明确注明:

作者:Pitt Zhang

原文首发:2026 年 9 月 3 日(北京时间)

出处:https://api-cloud.cc/

允许对本文结论进行批评、反驳和进一步研究。

引用无需事先征得作者许可,但须保留作者及原始出处信息。

Total Visitors: ...