主题： AI 基础设施
关注支撑 AI 训练、推理和 Agent 运行的平台、算力、数据与工程基础设施。
这里收录 21 篇围绕「AI 基础设施」的文章。主题页只聚合长期维护的知识领域，具体产品、人物和技术名词保留为文章关键词。
从这里开始
-
AI 算力输出最大化：FLOPs 电网与 Anthropic 的 P0
这期访谈最有价值的起点，是把 AI scaling 从买更多 GPU 改写成如何把已有 GPU 变成真实训练进展。
-
面向非确定性 AI Agent 的确定性基础设施
Nishant Gupta 认为，随着组织从聊天机器人走向自主 AI Agent，核心挑战正在从模型智能转向生产可靠性：模型可以是概率性的，但承载 Agent 的基础设施必须提供确定性的验证、编排、观测、安全与恢复能力。
-
端侧前沿成果
演讲者 Rachel Lee Nabors（来自 Arize）介绍了如何通过评估和选用端侧小语言模型（SLM）替代 GPT、Claude 等大型云端模型，从而降低推理成本、提升隐私安全与响应速度。
全部文章
-
当所有上下文都重要：扩展型缓存增强生成
Luis Romero Sevilla 讨论了一个约束很强的知识表示场景：所有文档都与用户问题相关，文档之间关系密集，并且数据会频繁整体替换。
-
用 TurboQuant 加速你的 Agent 检索
这场演讲介绍了 TurboQuant 如何把 Agent 检索中的嵌入向量和 KV 缓存从 32 位压缩到约 3 到 4 位，从而在基本保持检索质量的前提下降低约 5 倍内存占用。
-
端侧前沿成果
演讲者 Rachel Lee Nabors（来自 Arize）介绍了如何通过评估和选用端侧小语言模型（SLM）替代 GPT、Claude 等大型云端模型，从而降低推理成本、提升隐私安全与响应速度。
-
绕过多模态税：混合 RAG、SQL RRF 与 UI 遥测
本演讲由 Ogilvy 高级后端开发者 Abed Matini 在 AI Engineer World Fair 2026 线上专场发表，主题是"绕过多模态税"：介绍如何构建一套无需付费框架的混合 RAG 系统。
-
面向非确定性 AI Agent 的确定性基础设施
Nishant Gupta 认为，随着组织从聊天机器人走向自主 AI Agent，核心挑战正在从模型智能转向生产可靠性：模型可以是概率性的，但承载 Agent 的基础设施必须提供确定性的验证、编排、观测、安全与恢复能力。
-
AI 算力输出最大化：FLOPs 电网与 Anthropic 的 P0
这期访谈最有价值的起点，是把 AI scaling 从买更多 GPU 改写成如何把已有 GPU 变成真实训练进展。
-
GitHub 的 AI 编程压力测试：Agent 时代的软件平台重构
这篇访谈的底层问题是：AI coding agent 让代码产量、提交频率、构建次数和权限检查同时放大，GitHub 这类平台开始承受一种新的系统压力。
-
Cursor Composer 2 训练基础设施与高性能 RL
这期访谈把编程 Agent 的能力提升拉回到系统工程：真实环境、rollout、reward、权重同步、数值一致性和上下文压缩，决定模型能否从会写代码变成能完成软件工程任务。
-
Claude Managed Agents：AI 平台正在变成结果交付层
Anthropic 团队把 Managed Agents 定位为一套可运行、可部署、可拥有身份、可被组织接管的执行基础设施。真正的竞争点开始落在状态、工具、沙箱、权限、长期运行和多 Agent 编排上。
-
Shopify CTO Muel Parkin 访谈：内部 AI 工具落地、自研 ML 基础设施与前沿技术应用
访谈一开始就在回应 Jensen Huang 关于工程师应大量消耗 token 的观点。