更新于 2026 年 10 月。AI 应用通常是一个普通的 Web 或移动应用,其中有一个功能由语言模型完成:它回答来自您文档的问题、起草回复、对传入请求进行分类、从 PDF 中提取字段或代表用户执行操作。登录、界面和数据库的构建方式一如既往。新的是那个每次给出略有不同答案、每次调用都产生费用且可能被诱导做出错误行为的部分。
本指南旨在介绍如何构建此类应用:选择模型方法、处理数据、使用评估测试 AI、添加护栏并控制 token 账单。如果您希望使用 AI 工具为您生成整个应用,那是另一条路径;我们的指南 AI 原型设计工具 比较了 Lovable、Bolt、v0、Replit 等工具。
7 个步骤概览
- 为 AI 选择一个任务,并写下好答案的样子。
- 选择构建路径:AI 应用构建器、调用模型 API 的自有应用,或定制模型。
- 选择模型方法:提示词、检索(RAG)、微调或带工具的智能体。
- 在编写第一个提示词之前,设计数据处理和隐私方案。
- 原型化体验,包括 AI 出错时的情况。
- 从第一个冲刺开始,构建带有评估和护栏的 MVP。
- 上线,衡量每个用户的质量和成本,并控制两者。
步骤 1:为 AI 选择一个任务
“添加 AI” 不是一个功能。一个任务是:“阅读保险汇款单并起草申诉信”、“根据官方规定回答学生的问题并引用相关条款”、“将语音备忘录转换为分类费用”。第一个版本只处理一个任务。任务越窄,越容易测试、运行成本越低,用户也越容易信任。
针对该任务,写下以下四件事:
- 输入: 模型接收什么(一个问题、一个文件、一个表单、一段对话)。
- 输出: 它必须返回什么,以及以什么格式(自由文本、JSON 对象、列表中的选项、工具调用)。
- 成功标准: 你将如何判断答案。收集几十个真实示例及你认可的答案;它们将成为第 6 步中的第一个评估集。
- 谁负责审核: 在输出到达客户之前,是否由人工审核,还是应用程序直接执行。审核越少,所需的护栏机制就越强。
如果你无法写出成功标准,说明任务仍然太模糊。故事地图在此处很有帮助:先映射用户旅程,然后标记出 AI 接管的那一个步骤(用户故事地图 展示了如何操作)。
第 2 步:选择构建路径
| 路径 | 它是什么 | 适用场景 | 权衡 |
|---|---|---|---|
| AI 应用构建器或无代码 | 工具为你生成应用并接入模型 | 你需要快速测试需求,且 AI 任务简单 | 对提示词、数据访问、测试和成本的控制有限;参见 AI 原型设计工具 |
| 你的应用 + 模型 API | 调用托管模型(OpenAI、Anthropic、Google 等)的常规代码库 | 大多数产品:AI 任务清晰,且模型开箱即用即可满足需求 | 你拥有代码、提示词和评估集;按 token 付费 |
| 定制或微调模型 | 你在自己的数据上训练或适配模型并自行托管,或由提供商托管 | 通用模型无法胜任的狭窄任务、严格的数据驻留要求或极高的调用量 | 更多数据工作、更多测试、更多维护工作 |
对于大多数创始人,中间一行是默认选择:一个通过 API 调用托管模型的 Web 应用(以及后来的原生应用)。它保持 AI 部分的可替换性,这一点很重要,因为模型每隔几个月就会更新。如果你不会编程, 非技术创始人如何构建 MVP 比较了构建该代码库的各种方式。
第 3 步:选择模型方法
从能完成任务的最简单方法开始,只有当你的评估集显示需要时,才增加复杂性:
| 方法 | 工作流程 | 适用场景 |
|---|---|---|
| 仅使用提示词 | 指令加上用户输入发送给托管模型 | 模型已具备足够的能力:重写、摘要、分类、字段提取 |
| 检索增强生成(RAG) | 应用搜索您的文档,然后向模型提供相关段落以生成答案 | 答案必须源自您自有或动态变化的内容,且用户可核查来源 |
| 微调 | 您使用期望的输入输出示例对模型进行适配 | 提示词无法实现的一致格式或风格,或需要让更廉价的小模型匹配大模型的表现 |
| 带工具的智能体 | 模型决定调用哪些工具(搜索、数据库、邮件、支付)及调用顺序 | 任务需要多个步骤和操作,而非仅给出一个答案 |
智能体功能最强大,但也最难确保安全,因为错误的决策会导致错误的行动。许多“智能体”概念在固定工作流中配合一两次模型调用效果更佳。如果您正在考虑使用智能体,我们的 AI 智能体示例 展示了创始人正在用它们构建的内容。
选择哪个模型,以及价格如何
托管模型按价格分层。在 OpenAI 的 API 定价页面 上,截至 2026 年 10 月 28 日,每百万 token(短上下文)的标准价格为:
| 模型 | 输入 | 缓存输入 | 输出 |
|---|---|---|---|
| gpt-6-luna | $0.10 | $0.01 | $0.50 |
| gpt-6.1-terra | $1.00 | $0.05 | $5.00 |
| gpt-6.1-sol | $2.00 | $0.10 | $10.00 |
| gpt-6-astra | $10.00 | $1.00 | $50.00 |
顶级模型的每 token 成本是最小模型的 100 倍。实用流程:先构建评估集,在中端模型上运行,然后尝试更小的模型,在分数保持稳定的情况下保留它。其他提供商也发布类似的分层;请在您自己的评估集上比较,而非依赖基准测试。
将模型封装在代码的一个小模块中,以便随时切换。提供商会按计划退役模型:2026 年 10 月 14 日,OpenAI 宣布 GPT-4o、GPT-4o mini、GPT-4.1 和 GPT-4.1 mini 快照将于 2027 年 1 月 14 日停用,建议以 gpt-6-luna 作为替代(OpenAI 弃用公告)。如果模型名称散落在代码各处,每次退役都会引发一次迁移项目。
步骤 4:优先设计数据与隐私
每个提示词都会将数据发送到他人的服务器。在发送第一个提示词之前,先决定模型可以查看哪些内容:
- 最小化。 仅发送任务所需的字段,而非整个客户记录。在答案不依赖个人数据的地方,对其进行剥离或脱敏。
- 在检索中尊重权限。 在 RAG 应用中,用户只能检索其有权打开的文档。在搜索前按用户或账户进行过滤,而非在答案生成后。
- 检查提供商的条款。 阅读您的模型提供商如何保留和使用 API 数据,以及在哪里处理数据。例如,OpenAI 对 2026 年 3 月 5 日起发布的符合条件的模型的区域数据驻留端点收取 10% 的附加费(定价页面,2026 年 10 月 28 日)。
- 告知用户他们正在与 AI 交流。 在欧盟,自 2026 年 8 月 2 日起,无论系统风险等级如何,AI 法案第 50 条关于告知用户正在与 AI 系统交互的义务已生效;在该日期前已上市的生成式系统需在 2026 年 12 月 2 日前为合成输出添加机器可读标记(Goodwin, 2026 年 8 月)。请咨询律师,了解适用于您产品的具体规定。
- 尽早规划受监管的数据。 健康、金融和儿童数据会为涉及这些数据的每个功能带来额外规则。阅读其他创始人在 医疗保健 和 金融 中构建的内容,以了解界限通常在哪里。
第 5 步:原型化体验
AI 功能需要一些普通应用所没有的界面。将它们放入可点击的原型中,以便用户在开发前对它们做出反应:
- 等待中。 模型调用需要几秒钟。在答案生成时进行流式传输,或显示进度,以免应用看起来像卡死。
- 来源。 显示答案的来源(文档、段落、记录),以便用户可以核实。
- 发送前编辑。 允许用户在草稿发送给客户或写入数据库之前进行更正。
- “我不知道。” 设计 AI 无法提供帮助时的回答方式,以及联系人工客服的途径。
- 反馈。 点赞或点踩,或“这是错误的”按钮,在发布后为您的评估集提供数据。
您可以在原型中使用预设答案来模拟 AI,并仍能了解流程是否合理。我们对 线框图、模型和原型 的比较解释了何时使用哪种保真度,而 UI/UX 设计与原型制作 是如果您需要帮助的服务页面。
第 6 步:构建带有评估和护栏的 MVP
普通代码经过一次测试后,在有人修改之前保持正确。当您编辑提示词、切换模型或提供商更新模型时,模型的行为会发生变化。这就是为什么 AI 功能需要评估:一组固定的测试输入,每个输入都有您会接受的答案,您在每次更改后运行。
- 从第 1 步中收集的示例开始。添加困难案例:模糊的问题、缺失的数据、其他语言、试图破坏规则的行为。
- 对每个输出进行评分。对于结构化输出(正确的类别、有效的 JSON),精确检查有效。对于自由文本,使用由人工或人工抽查的第二模型评分的书面评分标准。
- 在每次提示词或模型更改之前运行评估集,并将分数与上次运行进行比较。
- 发布后,将来自用户反馈和日志的真实失败案例添加到集合中。
追踪工具记录每个提示词、响应、令牌数量和分数,使评估和调试变得更加容易。开源的 Langfuse 可以免费自托管;LangChain 的 LangSmith 提供免费的开发者计划(两者均在 2026 年 10 月 28 日核实)。
护栏
The OWASP LLM 应用十大风险 列出了需要设计防范的风险。提示词注入排在首位:隐藏在用户消息、网页或检索文档中的指令,使模型忽略您的指令。过度代理(AI 能做超出其应做之事)和无限制消耗(失控的使用和成本)也在其中。实际的防御措施:
- 将模型输出视为不可信输入。在保存、显示或执行操作之前对其进行验证。
- 遵循最小权限原则:尽可能使用只读权限,限制在当前用户的数据范围内,且不提供“删除所有数据”的工具。
- 对于涉及费用、发送消息或修改记录的操作,必须要求人工审批。
- 系统提示词中不得包含机密信息;应假设只要用户足够执着,就能诱导模型泄露这些信息。
- 在模型提供商处设置每个用户的速率限制和每月支出上限。
步骤 7:上线、衡量与控制成本
从第一天起,为每个 AI 请求记录三个指标:是否成功(依据您的评估标准或用户反馈)、使用的 token 数量以及产生的费用。随后,关注每位活跃用户的成本,而不仅仅是总账单。通常降低成本的途径如下:
- 使用更小的模型 在评估分数允许的情况下使用较小模型,仅将复杂请求路由到较大模型。
- 缓存重复输入。 将提示词中的固定部分(指令、示例)置于开头,以便提供商进行缓存。2026 年 10 月 28 日,gpt-6.1-sol 的缓存输入成本为每百万 token 0.10 美元,而常规输入为 2.00 美元(OpenAI 定价).
- 批量处理可延后的任务。 在同一天,OpenAI 的 Batch 服务对 gpt-6.1-sol 的定价为标准费率的一半(每百万 token 输入 1.00 美元,输出 5.00 美元)。
- 减少上下文发送量。 检索最相关的五个段落,而非五十个;精简旧的对话轮次。
- 限制每个功能的输出长度 。
关于每位用户的 token 用量示例,以及 2026 年发布的构建和运行成本范围,请参阅 AI 应用开发成本.
来自 7,800+ 黑客松应用的示例
我们的 7,800+ AI 商业创意合集 索引了提交至 OpenAI 黑客松的项目。其中四个项目在其描述中展示了上述步骤。这些是黑客松项目,标语为团队自述;我们未对其进行测试。
- GJU 学生规章制度助手:一个双语、以引用为先的助手,根据官方大学规章制度回答学生问题。单一任务、单一文档集、附带来源的回答:典型的 RAG 应用。
- claimjumper:用于医疗账单拒付分诊,起草有引用支持的申诉。 “AI 起草,人工始终审批并归档” 是第 6 步中写入产品的护栏。
- Penny:一个阿塞拜疆语财务助手,将文本和语音转换为结构化支出,“由测试每种解释的安全评估实验室提供支持”。
- AI 挑战室:在相同任务上比较单个 LLM、RAG 和工具代理,并选择“有证据支持的最简单且足够的选项”,这是第 3 步的产品化体现。
按行业查看更多创意,请参阅 医疗保健, 金融, 电子商务, 营销与销售, 人力资源与招聘, 房地产, 餐饮与食品 和 旅游,或我们的精选 AI SaaS 创意.
先 Web,后移动端
大多数 AI 应用最初是同时适用于手机的 Web 应用:一套代码库,即时更新,且在提示词每周仍在变化时无需应用商店审核。一旦核心功能运行稳定,且需要摄像头、麦克风、离线使用或推送通知,原生应用才有意义。届时,请参阅我们的 iOS 应用 和 Android 应用 开发页面。
常见问题
不写代码能构建 AI 应用吗?
可以,用于首个版本。AI 应用构建器和无代码平台可以生成已接入模型的应用,这足以测试需求。一旦应用处理个人数据、支付或代表用户执行操作,请让开发者进行审查。我们的指南 AI 原型设计工具 比较了各种选项。
我需要训练自己的 AI 模型吗?
通常不需要。大多数 AI 应用通过 API 调用托管模型,并在答案必须来自其自身内容时添加检索功能。只有当评估显示通用模型无法完成任务,或数据或规模要求需要时,微调或自定义模型才值得投入。
开发一个 AI 应用需要多长时间?
2026 年发布的关于 AI MVP 或试点项目的估算范围从 4-10 周(Unico Connect,2026 年 9 月)到 6-12 周(Iternal,2026 年 9 月)以及 8-12 周(Empat,2026 年 7 月);在这些指南中,检索类应用和智能体(agents)所需时间更长。AI 任务的范围、您数据的状态以及集成需求决定了最终所需的时间。
每月运行 AI 应用的成本是多少?
这取决于模型、每次请求的 token 数量以及用户数量。 Unico Connect 的 2026 年指南 指出,在小企业规模下,LLM API 使用费用每月为 100 美元至 5,000 美元以上,这还不包括托管、向量数据库和监控费用。我们的 AI 应用开发成本 指南根据当前 OpenAI 的价格,详细计算了每位用户的 token 成本。
