AI 开发的应用还不能给真实客户使用？该检查什么、修复什么

为什么 AI 开发的应用会在上线前卡住？

AI 工具擅长根据描述做出应用中看得见的部分，所以第一个版本很快就出来。上线则需要提示词很少提到的工作：权限、故障处理、付款、部署和监控。企业主随后会走到这一步：每个新提示词都会弄坏别的东西，而参与其中的人没有一个看得懂代码。

这与开发人员自己的反馈一致。在 Stack Overflow 2025 年开发者调查中，66% 的受访者表示，几乎正确但又不完全正确的 AI 方案令他们感到沮丧，45.2% 表示调试 AI 生成的代码更费时间。这些受访者看得懂代码。仅靠提示词工作的企业主，较难分辨一项改动是真正正确，还是碰巧可行。

这并不表示 AI 工具不好。它们适合用于原型、不涉及敏感数据的内部工具，以及由受过训练的工程师审核产出的情况。风险出现在原型变成正式产品，而检查方式却没有任何改变的时候。

AI 开发的应用通常有哪些安全问题？

反复出现的问题是缺少访问规则、密钥暴露在浏览器会下载的代码里，以及缺少安全控制。已公布的测试和扫描显示，不同工具都有同样的模式。应用看起来已经完成，因为登录能用，但另一位用户，或直接调用数据库的陌生人，仍可能看到他们绝不该看到的记录。

多个公开来源指向同样的结论。Veracode 报告称，在涵盖 100 多个语言模型的测试中，AI 生成的代码有 45% 引入了有风险的安全缺陷。Escape 扫描了 5,600 多个来自 vibe coding（凭感觉编程）平台的公开应用，报告发现超过 2,000 个漏洞、400 多个外露的密钥，以及 175 处个人资料。Escape 指出，其样本明显偏向某一个平台，并且只来自某一个时间点。这两家公司都销售安全产品。

CVE-2025-48757 记录了 Lovable 生成的网站中的一个 Row-Level Security 缺陷。供应商对此有异议，表示每位客户有责任保护自己应用的数据。这场争议对企业主的启示是：当平台说安全是您的责任时，您这一方必须有人来承担这项工作。

2026 年 2 月，Wiz 报告称，创办人以 vibe coding 做出的网站 Moltbook，暴露了 150 万（1.5 million）个 API 令牌和 35,000 个电邮地址。一个数据库密钥放在客户端 JavaScript 里，并且缺少 Row Level Security。问题归结于一项没人检查过的设置。

• 访问规则以一位客户的身份登录，然后修改地址或请求中的 ID，试着打开另一位客户的记录。
• 外露的密钥在发送到浏览器的代码中搜索密钥。把机密保留在服务器上，并更换任何已泄露的密钥。
• 数据库规则确认数据库会拒绝未通过规则的读取和写入，包括在应用之外发出的请求。
• 业务规则试试负数数量、零价格和重复提交。Tenzai 发现，除非另有指示，大多数代理都允许负数订单。

AI 工具会损坏正在运行的系统吗？

会，当工具可以直接访问正式数据时。请把 AI 代理放在独立的开发环境中，不让它有任何途径接触真实客户记录，并确保有一份经过测试的备份。光靠指示不是安全控制，因为代理可能违背指示行事。真正能阻止它的是权限。

2025 年 7 月，eWeek 报道，在 SaaStr 创办人 Jason Lemkin 进行的一次 Replit 试用中，一个 AI 助手删除了正式数据库，尽管有指示说未经批准不得做任何更改。该数据库保存着 1,206 位高管和 1,196 多家公司的记录。Replit 的行政总裁称这是不可接受的，公司随后加入了开发与正式数据库的自动分离。

请把同样的规则用在您自己的项目上。只给每个工具所需的最低访问权限，要求由人批准对正式系统的更改，并且在需要之前，至少还原一次备份。

AI 开发的应用能扩展吗？

可以，但前提是有人审查过它如何存储数据和处理负载。AI 生成的应用往往在少数测试账号下运行良好，遇到真实的数据量和多人同时使用时，就变慢或出现错误行为。用接近真实的数据做负载测试，可以在客户发现之前找出实际的上限。

先看三个方面。数据库查询需要合适的索引，并应避免加载整张表。发送电邮或生成报表等耗时的工作，应在后台运行。付款之类的操作应该可以安全重试，这样连点两下就不会重复扣款。

问问什么会随着业务成功而增长：客户、订单、员工、照片还是讯息。请用今天数量的数倍来测试。如果应用依赖某个构建平台，还要检查它的方案限制、您能导出什么，以及代码是否能在别处运行。

AI 开发的应用该修复还是重新开发？

如果数据模型合理、代码可以导出，而且问题只限于特定部分，就修复它。如果评估显示权限、数据或付款在根基上就是错的，就重新开发。无论哪种，原型都保有价值，因为它证明了工作流程，也显示了用户真正需要什么。

先导出您能导出的一切：代码、数据库结构、数据和环境设置。然后请工程师用这份导出运行应用。如果它无法在构建平台之外运行，您的选择就会变少，而这个发现应该先于任何新功能的报价。

如果应用里已有真实客户数据，而您发现了外露，请当作事故处理。堵住漏洞、保留记录，并就您的 PDPA 责任寻求意见。马来西亚的数据泄露通报规定有严格的期限。

应用达到商业级是什么意思？

商业级应用是企业可以每天依赖的应用：它有按用户划分的访问规则、独立的测试和正式环境、经过测试的备份、错误监控、可重复的发布流程，以及另一个团队也能照着做的文档。这些特质都可以检查。无论是谁开发的应用、用了什么工具，请要求对方为每一项提供证据。

请把这当作检查清单，用在任何供应商身上，包括我们。好的答复会让您看到实物，例如测试站点、还原记录或部署笔记。

Macoin 是一家位于蒲种（Puchong）Bandar Puteri 的软件公司。我们可以像对待其他代码一样评估 AI 开发的应用，然后告诉您该修复还是重新开发，以及我们是否能够支持。请通过 WhatsApp 告诉我们您用什么构建，以及出了什么问题。请不要附上密码和客户数据。