AI 应用
共 12 篇 · 按时间倒序,可连读
11-17
让它输出 JSON,十次有三次多一句话:Schema 与一次重试
提示词里写“只返回 JSON”只是请求。换到接口层用 json_schema 约束、把校验错误喂回去重试一次、再按五类失败分别改,同一批 300 条数据的解析失败从 27 次降到 …
11-17
AI 给的引用点开是 404:把出处当成数据来校验
链接 404、页面里没有那句话、数字被改写——三种失真里只有第一种能靠状态码发现。要求模型输出 url 加逐字 quote 加 claim 的三元组,程序侧做包含性与数字校验,再抽…
11-17
三条 few-shot 改了两条:样例挑选与采样参数的实测
三条示例改掉两条,输出就开始系统性跑偏。示例要按类收、必带一条边界样本、顺序要固定;温度也不能拍脑袋,得拿同一批样本跑网格、每组三次、看标准差而不只是看均值。
11-17
一个月账单翻了四倍:把 token 成本拆成三笔账
账单翻了四倍,请求量却没变,涨的全是输入。拆成固定前缀、检索内容、对话历史三笔账之后才发现:缓存要求前缀逐字节一致,而我们一直把时间戳写在系统提示的最前面。
11-17
工作流跑了两次,工单建了两遍:Agent 的重试与幂等
上游重投、节点重试、人工重跑,一次客户反馈建了三张工单。真正管用的不是入口去重,而是从业务事实派生幂等键、只对超时和 5xx 重试,并把写操作拆成“待确认”和“确认后续跑”两段。
11-17
AI 编程助手总改错文件:三份规则文件把范围收住
它把 dist 里的构建产物当源码改,顺手动了公共包,还忘了会话开头说过的边界。三份规则文件加一张任务卡,把“改哪里、别碰哪里、改完怎么验”写死,返工率降了大概七成。
11-16
本地跑 7B 模型:显存、量化与首字延迟的三个数字
16 GB 卡上 FP16 能加载但一开长上下文就 OOM。权重、KV cache、并发数是三个必须提前算的数字,算明白了才知道该选哪个量化档位。
11-16
截图丢给 AI 生成页面:四道校验让它能进代码库
生成出来的页面视觉挺像,却全是硬编码色值、魔数间距和 div 按钮。补上设计令牌、组件边界、可访问性与性能预算四道校验,才从不能用变成改十分钟能合。
11-16
知识库回答答非所问:切分、召回、重排的三处偏差
答得流畅但答的不是问的。抽查三十条差评后发现,只有五条是生成的问题,十七条款压根没被检索到。改切分和混合检索比调提示词有效得多。
11-16
给 AI 助手接内部系统:MCP 工具的粒度与权限边界
给它一个万能接口,十次里错三次,还敢自己去调写接口。改成动作级工具、白名单参数、默认 dry run 之后,才敢放进日常排查流程里用。
11-16
让 AI 做代码评审:从「帮我看看」到可复用的检查清单
第一版评论一半是“建议加注释”。改成只喂 diff、按固定检查项判定、强制 JSON 输出后,评论从每条 MR 十八条降到四条,有效率从三成涨到八成。
11-16
提示词改了二十版还是不稳:先建评测集,再动措辞
每次改完自己试十条都觉得变好了,上线三天又开始错分。问题不在改得不够勤,而在验收标准是“我看着还行”。二十条带标注的样本,让每一版改动都能被算出来。