余广坝
实践与记录

技术笔记

记录技术方案、实现过程与实践经验。

内容由 AI 辅助整理,原始研究与观点归原作者所有。

最近一篇45 篇

2026年10月22日|Flint 接入 vLLM:单卡长上下文解码如何压低延迟

  • 推理服务

解析 Recursive Flint 的局部/全局注意力、NVFP4 装载和小 batch 内核优化,区分前向延迟与端到端速度。

阅读全文 ↗

往期归档

2026年10月45 篇
2026年10月22日2026年10月22日|Modal 的可观测性:把多云故障放回同一条调查链
2026年10月21日2026年10月21日|扩容不等于恢复:用 MTSS 衡量用户等待
2026年10月21日2026年10月21日|Thin Orchestrator:把领域推理移出路由层
2026年10月21日2026年10月21日|LocalPay:把支付失败变成可重复的本地测试
2026年10月20日2026年10月20日|无人值守 Agent:上线前应验证的七类失败场景
2026年10月20日2026年10月20日|Agent Skills:遵循指令,是否真的带来收益?
2026年10月20日2026年10月20日|TorchNeuron:原生 PyTorch 后端带来的迁移机会与兼容边界
2026年10月20日2026年10月20日|MiniMax M3.1 Flash:把低单价放回完整 Agent 任务中衡量
2026年10月19日2026年10月19日|Jev 诊断流水线:低成本判断的边界在证据里
2026年10月19日2026年10月19日|Elastic EP:把扩缩容停顿压缩到拓扑交接
2026年10月19日2026年10月19日|Cloudflare 审查 Agent:降本之后还要核对发现质量
2026年10月19日2026年10月19日|从微服务到 Agent:把决策质量纳入可靠性
2026年10月17日2026年10月17日|DeepSeek Search/Fetch:把网页证据接入 Agent
2026年10月16日2026年10月16日|Kimi K3 专用解码:速度收益与验证边界
2026年10月15日2026年10月15日|Scout:把故障调查训练成专门能力
2026年10月14日2026年10月14日|Claude Agent 可观测性:把执行过程接进现有 OTel 系统
2026年10月12日2026年10月12日|AI SRE从原型到生产:答案之外的工程
2026年10月8日2026年10月8日|Dynamo:以会话为单位调度 Agent 推理与缓存
2026年10月8日2026年10月8日|Google AQuA:从生产轨迹发现质量问题
2026年10月7日2026年10月7日|PAI:从监控目标检查 Agent 遥测缺口
2026年10月3日2026年10月3日|GPU集群就绪:健康检查之外的真实负载验证
2026年10月1日2026年10月1日|历史故障回放:先确认Agent能看到足够证据