AI 编程工具有一个特点:方向给得越清楚,它写得越稳;不给方向,它就自己选最快能跑起来的那条路。企业让员工用 AI 写系统是合理选择,但不少上线前才暴露的问题,其实在开工那天就埋下了。本文梳理动手前要先定的六件事。
一、为什么问题在开工时就埋下了
AI 编程工具有一个特点:你给它方向,它会顺着这个方向写得很快;你不给方向,它就自己选。而它自己选的,通常是"最快能跑起来"的那条路,不一定是"适合上线"的那条路。
几个公开的例子:
- 2026 年 1 月,一个面向 AI Agent 的社交网站 Moltbook 爆红,创始人公开表示网站是用 AI 编程做出来的。安全公司 Wiz 检查后发现,网站前端代码里能直接看到数据库服务的访问密钥,而数据库又没有开启行级权限控制。结果是任何人不用登录,就能读写整个生产数据库,其中有 150 万个 API 令牌、3.5 万个邮箱地址和大量私信。[1]
- 代码安全公司 GitGuardian 统计,启用了 AI 编程助手的公开代码仓库,泄露密钥的比例比公开仓库的平均水平高约 40%。[2]
- 一项发表在 USENIX Security 2025 的研究测试了 16 个代码大模型,发现模型推荐的第三方依赖包里,有相当比例根本不存在:商用模型平均至少 5.2%,开源模型达到 21.7%,累计出现了 20 多万个虚构的包名。有人会抢先注册这些名字、放进恶意代码,等着别人照着 AI 的建议去安装。[3]
这几件事有个共同点:问题不在于 AI 写错了某一行代码,而在于起点没人把关。用什么数据库、密钥放在哪、依赖从哪里来,这些在开工时就该定下来,而不是交给 AI 每次临场发挥。
二、动手之前要定的六件事
结合我们这些年做软件交付和运维的经验,开工前至少要把下面六件事定下来。
![]()
- 1. 技术栈:用什么语言、框架、数据库,版本是多少?不定的后果:AI 每次换一种写法,代码越改越乱,后面没人接得住。
- 2. 数据放在哪:数据存在自己的服务器还是云服务,谁能直接访问?不定的后果:选了前端直连的数据库服务又没配权限,数据等于公开。
- 3. 密钥怎么管:密码、接口密钥放在哪,开发和生产是否分开?不定的后果:密钥写进代码、传上仓库,或出现在浏览器里。
- 4. 环境怎么分:开发、测试、生产是否分开,AI 能碰哪一套?不定的后果:AI 在调试时改了、删了线上的真实数据。
- 5. 代码放在哪:代码仓库归谁,怎么留版本?不定的后果:代码在员工个人电脑或个人账号里,人一走就断档。
- 6. 部署到哪:服务器、域名、备案、HTTPS 由谁负责?不定的后果:做完了才发现上不了线,或者上线后没人管。
下面逐项说几句。
1. 技术栈:选主流的,选接得住的。 技术栈不用追新,要看三点:资料多(AI 写得熟、出错少),人好找(以后有人能接手),和公司现有系统合得来(能复用已有的服务器和账号)。定下来以后,把语言、框架、数据库和版本号写清楚,后面让 AI 只在这个范围里写。
2. 数据放在哪:先想清楚"谁能直接访问数据库"。 很多 AI 建站和编程平台默认推荐一类云数据库服务,前端可以直接读写数据库,开发起来很快。这类服务本身没有问题,但它的安全完全依赖权限规则配得对不对,Moltbook 就是在这里出的事。我们的建议是:面向客户、存有客户数据的系统,数据统一经过后端接口访问,在后端校验"这个人能不能看这条数据";确实要用前端直连的服务,开工时就把权限规则作为必做项定下来。涉及个人信息的,还要确认数据存在境内。
3. 密钥怎么管:一条规矩,密钥不进代码。 数据库密码、支付密钥、大模型接口密钥,一律放在环境变量或单独的配置文件里,这个文件不提交到代码仓库。前端代码里只能出现本来就允许公开的信息。开发和生产各用一套密钥,开发用的那套泄露了,损失也有限。
4. 环境怎么分:AI 只碰开发环境。 至少分开发和生产两套环境,各自有独立的数据库。AI 编程工具只在开发环境里干活,生产环境的账号和密码不交给它。2025 年 7 月曾有一起公开报道的事件:一家创业公司试用 AI 编程平台时,AI 删除了线上数据库,根源就是开发时 AI 能直接操作生产数据库。
5. 代码放在哪:仓库归公司,不归个人。 代码放在公司名下的代码仓库里(GitHub、Gitee 或公司自建的 Git 服务都可以),员工以成员身份参与。每完成一个功能就提交一次,改坏了可以退回去。这样员工调岗或离职时,代码和修改记录都还在公司手里。
6. 部署到哪:开工时就定,不要做完再想。 系统最后跑在哪里、用哪个域名、有没有备案、谁有服务器权限,这些开工时就要定。国内面向公众的网站要先完成备案才能上线,周期通常以周计。做完再办,系统只能干等着。
三、把规矩写成 AI 每次都会读的规范文件
六件事定下来之后,还有一步很关键:把它们写成一份规范文件,放进项目里。
现在主流的 AI 编程工具都支持项目级的说明文件,例如 Claude Code 读 ,Cursor 读项目规则文件,不少工具也认 。AI 每次开工前都会先读这份文件,相当于给它一份"本项目的规矩"。
CLAUDE.md
AGENTS.md
![]()
这份文件不用长,一两页就够,通常包括:
- 技术栈和版本:用什么、不用什么,例如"只用项目里已有的依赖,新增依赖要先列出来确认"
- 目录结构:前端、后端、配置各放在哪
- 数据访问规则:例如"所有数据读写走后端接口,每个接口都要校验当前用户的权限"
- 密钥规则:例如"密钥只从环境变量读取,不得写进代码和前端"
- 环境规则:例如"不得连接生产数据库,不得执行删除数据的命令"
- 提交习惯:例如"每完成一个功能提交一次,提交说明写清改了什么"
有了这份文件,员工不用每次都记得叮嘱 AI,换一个人接手、换一个 AI 工具,规矩也还在。这也是我们做"开工定盘"时最主要的交付物之一。
四、几类常见系统,起点怎么选
不同的系统,开工时的重点不一样。几个参考:
- 公司官网:内容为主、交互少,适合做成静态网站,没有数据库就没有数据泄露的问题。表单留言单独接一个简单的后端或第三方表单服务。重点在域名、备案和 HTTPS。
- 内部管理工具:用户是自己的同事,选一个成熟的后端框架加一个关系型数据库,部署在公司已有的服务器或内网上,不对公网开放,风险最可控。
- 面向客户的系统、小程序:存有客户数据,可能涉及支付。前后端分开,数据只通过后端接口访问,权限在后端统一校验;支付、短信这类能力接正规服务商的标准接口,密钥只放在后端。
- 要和现有系统打通的:例如对接 ERP、财务、OA。先把对方的接口文档和测试账号拿到手,再让 AI 动手;接口对不上,往往是 AI 最容易反复改不对的地方。
五、已经写了一半,还来得及吗
来得及。很多企业找到我们的时候,系统已经写了一部分。
这种情况我们一般先看现有的代码和部署环境,把六件事逐项对一遍:能沿用的沿用,有问题的给出调整建议和迁移步骤。最常见的调整是三类:把写在代码里的密钥挪出来并更换,把开发和生产的数据库分开,把代码从个人电脑迁到公司仓库。这几件事越早做,代价越小。
在你看来,用 AI 写系统,开工前最该先定的是哪一件?欢迎留言讨论。
如需开工定盘或上线体检方面的建议,可在本号私信,或站内搜索「风远科技」查看更多实践。
资讯来源
- [1] Hacking Moltbook: The AI Social Network Any Human Can Control(Wiz)
- [2] The State of Secrets Sprawl 2025(GitGuardian)
- [3] We Have a Package for You! A Comprehensive Analysis of Package Hallucinations by Code Generating LLMs(USENIX Security 2025)
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.