AI 应用
共 6 篇 · 按时间倒序,可连读
11-16
本地跑 7B 模型:显存、量化与首字延迟的三个数字
16 GB 卡上 FP16 能加载但一开长上下文就 OOM。权重、KV cache、并发数是三个必须提前算的数字,算明白了才知道该选哪个量化档位。
11-16
截图丢给 AI 生成页面:四道校验让它能进代码库
生成出来的页面视觉挺像,却全是硬编码色值、魔数间距和 div 按钮。补上设计令牌、组件边界、可访问性与性能预算四道校验,才从不能用变成改十分钟能合。
11-16
知识库回答答非所问:切分、召回、重排的三处偏差
答得流畅但答的不是问的。抽查三十条差评后发现,只有五条是生成的问题,十七条款压根没被检索到。改切分和混合检索比调提示词有效得多。
11-16
给 AI 助手接内部系统:MCP 工具的粒度与权限边界
给它一个万能接口,十次里错三次,还敢自己去调写接口。改成动作级工具、白名单参数、默认 dry run 之后,才敢放进日常排查流程里用。
11-16
让 AI 做代码评审:从「帮我看看」到可复用的检查清单
第一版评论一半是“建议加注释”。改成只喂 diff、按固定检查项判定、强制 JSON 输出后,评论从每条 MR 十八条降到四条,有效率从三成涨到八成。
11-16
提示词改了二十版还是不稳:先建评测集,再动措辞
每次改完自己试十条都觉得变好了,上线三天又开始错分。问题不在改得不够勤,而在验收标准是“我看着还行”。二十条带标注的样本,让每一版改动都能被算出来。