SPT术语库

ai

AI 与智能体

AI 的基础、上下文、输出方式、智能体工具以及成本限制。

24个已发布内容
24 / 24

AI 基础

4 个内容

先理解 AI 应用、幻觉、Vibe Coding 和多模态能力。

AI 应用基础AI Application Basics

用户问“明天下午有空吗?”,应用需要让模型请求日历工具,再把真实日程安全地交回用户。

USER明天下午有空吗?
MODELcalendar.read
APP CONTROLpermission ✓
REAL RESULT2 PM available

AI 幻觉AI Hallucination

AI 旅行助手说博物馆周一营业到晚上十点,应用需要查官方页面并保留来源,避免用户按错误时间安排行程。

USER QUESTION博物馆周一营业到几点?
MODEL CLAIM22:00未核验
OFFICIAL SOURCECLOSEDupdated Jul 28
GROUNDED ANSWER周一闭馆 · 有来源

多模态Multimodal AI

用户上传手机结算页截图,并问哪里会让人看不清;应用先识别界面结构,再把视觉发现和文字目标合成具体修改建议。

TEXT + IMAGE看不清?
优惠码 [ 应用 ]立即支付 →
VISUAL CLUES按钮太挤
ACTIONABLE ANSWER放大点击区 · 调整一行布局

VibeCoding

用户想做一个周末待办清单,先告诉 AI 目标、保存要求和验收条件,再看原型、指出按钮太挤,继续迭代到可以使用。

BRIEF周末待办 · 刷新后保留
PROTOTYPE买菜 · 已保存手机按钮好点
ACCEPTANCE3 / 3 通过

上下文

5 个内容

上下文工程、Token、上下文窗口、系统提示词和对话历史。

上下文工程Context Engineering

一个页面要连续修改多轮,用户已经确认目标、约束、已做决定和当前证据;下一轮需要带上这些信息,避免 AI 重复提问或改错方向。

GOAL + RULES目标 · 约束 · 决定 · 证据
CONTEXT PACK4 项当前上下文
NEXT TURN按已确认要求继续执行

上下文窗口Context Window

用户继续修改一个页面时,把系统规则、当前问题、代码文件和旧聊天一起发给 AI;应用需要展示这一轮还剩多少容量,接近上限时先压缩旧内容或拆成多轮。

REQUEST CAPACITY840 / 1000 tokens
SYSTEM + QUESTION + login.jsOLD CHAT → SUMMARY
TRIM / SPLIT给回答留空间,下一轮继续

对话历史Conversation History

用户先让 AI 写三个标题,下一轮只说“把第二条改短”;应用需要从保存的消息中找回相关标题,截取或摘要无关历史,再把当前请求和必要内容一起发给模型。

MESSAGE TIMELINE01 USER → 01 ASSISTANT三个标题已保存
TRIM / SUMMARIZE相关标题保留 · 旧话题整理
CURRENT REQUEST把第二条改短

系统提示词System Prompt

产品给账单助手设置内部规则:只能处理订单与退款咨询、不能泄露凭据、回答必须使用固定 JSON;用户的请求进入后,模型要先遵守这些规则,再生成受约束的结果。

SYSTEM RULESIDENTITY · BOUNDARY · JSON
USER REQUEST订单问题保留,越权请求挡住
CONSTRAINED OUTPUTanswer + next_step

Token

用户把一段中文需求和代码标识发给 AI,应用先把输入拆成 token,再显示它占用了多少上下文以及本次输入的估算费用。

INPUTcheckoutButton
TOKENScheckout · Button · 放大 · …
8 / 32 tokens约 $0.0008

请求与输出

3 个内容

无状态请求、结构化输出和流式响应。

无状态请求Stateless Request

用户第一轮让 AI 整理订单表格,下一轮只说“继续”。应用必须知道服务端不会自动保留上一轮,并在第二次请求中显式带上表格、目标和必要结果。

REQUEST Aorders → sorted第一次调用完成
SERVERMEMORY: EMPTY
REQUEST B继续 + table + taskpayload 自带上下文

流式响应Streaming Response

用户让 AI 生成一份较长的周报,页面不必等全文完成才显示;它要先建立连接,再逐段渲染,最后明确完成或失败。

CONNECTIONOPENstream ready
CHUNKS01 → 02 → 03逐段抵达
LIVE RENDER回答边到边显示
TERMINALDONE · CANCEL · ERROR

结构化输出Structured Output

应用要让 AI 返回订单摘要,后续代码需要读取 status、total 和 next_step,而不是从一段自由文本里猜字段。

SCHEMAstatus · total · next_stepfixed fields
MODEL OUTPUTtotal: "3"type error
FIELD CHECKREJECTED → FIX
CONTENT CHECK结构 OK · 事实待核验

Agent 与工具

9 个内容

Agent、MCP、Skill、子智能体、工具调用、ReAct 和 Agent Loop。

AgentLoop

用户让 Agent 处理一笔异常订单,系统需要记录每一步状态,并在成功、失败、超时或预算用尽时明确结束。

INTAKEPLANACTOBSERVEDECIDE
CONTINUERETRY · 1/1STOP · 3/3
STOP CONDITION完成 / 预算用尽

AIAgent

用户让 AI 检查订单异常,Agent 先拆解任务,再调用订单查询工具,根据返回结果决定继续查库存还是给出结论。

GOAL检查订单异常
PLAN读取 → 判断 → 查库存
TOOL CALLREAD ORDERS · ALLOWEDPAYMENTS · BLOCKED
OBSERVE结果决定下一步
STOP完成条件满足,停止循环

HarnessEngineering

一个 Agent 正在处理批量退款任务,Harness 负责注入权限、保存检查点、记录每一步,并在超时或评估失败时暂停。

TASK批量退款资格检查
HARNESSTOOLS · STATE · POLICY权限和重试先配置
AGENT STEP订单 #2048
CHECKPOINTstep saved
GUARDRAILPASS · CONTINUE

Human-in-the-loop

Agent 准备批量退款,先展示将要执行的订单、金额和风险差异,等待负责人批准、修改范围或拒绝执行。

PROPOSAL退款 12 笔订单
RISK / DIFF¥8,420 · 不可撤回
HUMAN DECISION批准 · 编辑 · 拒绝
OUTCOMECONTINUE / STOP

MCP

一个 AI 开发工具需要读取项目文件、调用搜索能力和使用团队提示词,MCP 让 Host 通过 Client 连接不同 Server,而不用为每个工具重写一套协议。

HOST / AGENT读取项目资料
MCP CLIENT连接 · 发现
MCP SERVER宣布能力
CAPABILITIESTOOLS · RESOURCES · PROMPTS
RESULT统一返回 Host

ReAct

用户问订单为什么延迟,模型先提出检查订单记录,再观察到仓库延迟,随后更新思路去查承运商状态,最后整理出有证据的下一步。

THOUGHT先查订单记录
ACTIONget_order(2048)
OBSERVATION仓库延迟
NEXT THOUGHT → ACTION检查承运商 · loop

Skill

Agent 收到一次仓库审计任务后,从 Skill 目录选择 repo-audit,加载 instructions、检查清单和配套资产,再按这套能力包执行并产出审计结果。

TASK仓库审计
SKILL CATALOG2 skills found
SELECTED PACKAGErepo-auditinstructions + checklist
LOAD → RESULTaudit plan ready

Sub-agent

主 Agent 需要审查一次发布配置,于是把“只检查环境变量和回滚风险”委派给 Sub-agent,并提供输入、输出格式和停止边界;Sub-agent 在自己的上下文中完成检查,再返回证据和结论。

MAIN AGENT审查发布配置
DELEGATION范围已锁定
SUB-AGENT独立执行
RETURN → SUMMARY2 findings + evidence

工具调用

用户询问订单状态时,模型提出 get_order_status 和订单号,应用检查参数并执行查询,把真实状态交回模型后生成回答。

MODELget_order_status
CHECKorderId ✓
APP RUNTIME执行查询
RESULT → CONTINUEshipped · 订单已发货

性能与成本

3 个内容

首字延迟、吞吐、Token 用量、费用和速率限制。

速率限制

多个用户同时访问 AI 服务,客户端需要知道什么时候继续发送、什么时候排队等待,以及 429 后如何安全恢复。

QUOTA WINDOW60s · 10 reqRESET
80% USED
RATE LIMITED429
RETRY-AFTER
12s
QUEUE → WAIT → RETRYWINDOW RESET

Token 用量与成本

团队想比较一次 AI 请求为什么更贵,需要把输入、输出、总用量和模型单价放在同一张账单里看。

REQUESTPOST /chatESTIMATE ONLY
INPUT1,240 tokens
OUTPUT680 tokens
TOTAL USAGE1,920 tokens+ MODEL RATE
ESTIMATED COST$0.00164
token 数量
不是价格

TTFT /TPS

用户发送一条 AI 请求,页面需要区分首个反馈何时出现,以及首 token 之后答案生成得有多快。

REQUESTWAITFIRST TOKEN
TTFT820 ms
TPS42 tok/s
READ THE METRICS低 TTFT ≠ 高 TPS