01
ZhangYvJing's
Daily Brief
00
Film / Book Chapter
Still Walking
Still Walking (2008) · Hirokazu Kore-eda
今天适合看《Still Walking》，因为它更像一次生活和判断方式的校准，能把注意力从持续输入里稍微抽出来，重新放回你真正想怎样生活和做事上。
Thinking in Systems
Thinking in Systems · Donella H. Meadows
Chapter 1: The Basics
A clean way to see feedback loops, stocks, flows, and delays before turning every technical or life problem into a single-variable optimization.
01
Insight
今天的技术脉搏在“可操作性与理论边界”之间摇摆，实用工具与学术探索交织成一条双向河流。Hacker News 的 Waymo Dallas 开放与 Shieldstral 的多模安全分类、以及 DeepSeek V4 在 MI300X 上的落地，展示了从自动驾驶到安全推理的“从实验室到生产”的落地路径；而 arXiv 的 GradCuit、UEmbed、AtumAI 等论文则在推理信用分配、稀疏检索与数据中心策略生成上提供了理论框架，却仍停留在实验室验证阶段，缺乏与真实业务的直接映射。YouTube 的 Dwarkesh 讲解“几乎无数据的理论”与 Sequoia 的“规模阈值”讨论，强调了计算资源与模型规模的决定性作用，却忽略了工程实现中的细节与成本；Bilibili 的个人成长与教育视频则更侧重人文与学习路径，缺乏技术深度。整体来看，技术讨论正从“单一功能”向“多模、可持续推理”转移，但研究热度与现实需求之间仍存在错位：安全与可解释性在学术上被频繁提及，却在产品层面被边缘化；规模化讨论在市场层面被放大，却在工程层面面临显著的实现难题。今天的关注点应放在：把学术提出的可解释与安全机制落地到实际产品中，同时在规模化过程中保持对成本与可维护性的严格把控。Still Walking (2008)。
03
Hacker News
02
03
04
05
06
07
08
09
10
04
YouTube
01
Full episode: https://www.youtube.com/watch?v=QbdbAhaJoCQ Me on twitter: https://x.com/dwarkesh_sp
02
This fireside chat between Gergely Orosz and Simon Eskildsen explores the technical journey and engineering philosophy behind the database company Turbopuffer. Video Timestamps 0:00 Introduction and Simon’s early history with computers 3:02 The International Olympiad in Informatics and early competitive programming 4:13 How Simon was recruited by Shopify while still in high school 8:46 Engineering challenges and scaling infrastructure at Shopify 14:56 Decision to leave Shopify and the creation of the "napkin math" project 20:40 The origin and technical motivations behind Turbopuffer 24:46 Des
03
Jerry Tworek, co-founder of Core Automation and former VP at OpenAI, on a quiet assumption in AI research: prove your architecture at small scale first, then earn the compute to scale it. But reinforcement learning showed almost nothing interesting until it crossed a compute threshold — and if that's true of RL, other architectures may have been written off before they were ever given enough compute to show what they could do.
04
05
06
Most people treat biology as a bespoke, messy science. Josh Meier and Matt McPartlon, co-founders of Chai Discovery, treat it as an engineering problem. They make the case that drug design obeys the bitter lesson: scale data, models, and compute, and the model can learn what a hand-built pipeline simply couldn't capture. The results are concrete: Chai-2 pushed de novo antibody design from a sub 0.1% hit rate to 16%, turning a needle-in-a-haystack search into something more like designing a key to fit a lock. Josh argues, counterintuitively, that biology is more verifiable than code, and explai
07
Full episode: https://www.youtube.com/watch?v=QbdbAhaJoCQ Me on twitter: https://x.com/dwarkesh_sp
08
From routing a 200,000-token prompt across GPUs to having GLM-5.2 profile, rewrite, and optimize the kernels serving itself, inference engineering is becoming one of the most important layers of AI. In this episode, Baseten’s Philip Kiely and Ali Taha join swyx to explain what actually happens after a new open model is released and what it takes to turn “we generated a token” into a fast, reliable, production-ready API. We go deep on cache-aware routing, disaggregated prefill and decode, quantization, speculative decoding, KV-cache movement, model parallelism, GPU kernels, and the race to mak
07
Papers
01
解决：在有限样本下，岭回归估计量的分布不易把握，尤其在存在异方差或自相关时。做法：作者提出一种简单的高斯近似，利用非标准渐近（正则化参数随样本量线性增长，系数视为相对参考向量局部）来捕捉偏差-方差权衡，并允许一般异方差/自相关。值得看：该近似既可直接估计预测误差，又能给出两种基于平均或极端风险的 λ 选择策略，为 AI/Agent 系统在模型调参与不确定性评估时提供可操作、理论支持的工具。
02
本文指出生成式与 Agentic AI 在持续推理、适应行为、持久记忆与自我调控方面仍显薄弱，缺乏统一的评估与设计框架。作者通过构建五维度（persistent state modeling、goal‑directed autonomy、self‑monitoring & control、environment interaction、learning & adaptation）分类，梳理现有进展与瓶颈，并提出 Adaptive Cognitive Intelligence Architecture (ACIA) 与认知评估方法。对想要打造可靠长时推理、持续学习 Agent 的工程师而言，它提供了系统化的缺口清单与未来研发路线图，能直接指导架构设计与实验验证。
03
RAG 预填充与 KV‑cache 成本高，导致边缘 LLM 交互慢。作者提出 PRECOG：利用 SSM 固定隐藏状态的完整摘要，离线预编码语料库，查询时直接注入最佳状态，O(1) 预填充。再加 SMC 结构化记忆，层级聚类、可调精度，O(1) 会话初始化。TENNs‑LLM 1.2B 模型在边缘硬件上，预填充从 27 s 降至 <6 ms，速度提升 4500×，突破交互阈值。
04
在数据中心控制平面策略设计日益复杂、空间庞大、原型耗时数月的背景下，AtumAI 提供了一套完整的自动化生成方案。它先用 Datacenter Task Compiler 将自然语言需求编译成可搜索、可验证的正式规范，再通过 Evolutionary Design Discovery Loop 结合扩散模型、进化算法和代理模型，系统地探索设计空间，直至找到满足约束的最佳策略。对工程师而言，这意味着从几个月的手工调优到只需写一句描述即可快速迭代，且生成的策略在工作负载放置、资源扩缩和功耗管理等任务上均优于专家手工方案。
05
解决多模态检索中稀疏与稠密嵌入分离、跨模态模块繁重的问题。UEmbed 采用 decoder‑only 结构，插入可学习特殊 token 并把词表拆分为 N 个子集；每个 token 在因果前向推理中直接预测其子集的稀疏权重，随后拼接成完整稀疏向量，同时输出稠密表示。该模型在公开数据上训练，9B 版在 MMEB‑v2 与 BEIR 上均优于现有公开多模态嵌入，且仅需一次前向推理，极大提升检索效率与工程可维护性，值得 Agent/AI 产品工程师关注。
06
解决 LLM 测试时的“隐式推理”难题：现有方法把连续状态与推理轨迹通过解码词串联，导致信用分配间接且难以解释。GradCuit 在 Transformer 的某层插入可优化的 latent state，并利用因果自注意力让每个生成词的 log‑probability 直接可微地连到所有前置 latent，从而把奖励加权梯度直接赋给 latent。实验表明在多种 backbone 与推理基准上，GradCuit 的准确率平均提升 6.6pp，鲁棒性更强，梯度归因显示 latent 主要影响推理连接词，且最佳优化层在早中层。对 Agent/AI 产品工程师而言，它提供了一种在不改模型参数的前提下，实时调整 LLM 推理路径、提升性能且可解释的技术。
07
论文证明在稀疏最小二乘中，条件数 κ{s+k} 的线性依赖无法被多项式时间算法突破，前提是随机精确体积 Small‑Set Expansion 假设成立。作者通过将该假设在加权正规图形式下归约到稀疏优化，给出了 κ{s+k}^{1-γ} 的下界。此结果揭示了稀疏线性求解的根本难度，对需要高效稀疏矩阵运算的 Agent/AI 产品工程师提示：在设计算法时必须接受条件数限制，避免盲目追求更快收敛。
08
论文指出 AI 在电力系统教学中缺乏可复用、工程化的教材，导致新人只能靠大模型摸索。作者推出一套开放可执行的模块库，按难度梯度把 DNN、CNN、DRL、PINN 等核心 AI 技术与负荷拟合、潮流代理、储能控制、摆动方程等典型电力任务绑定，全部以 Jupyter Notebook 形式发布，既可本地运行也可在 Colab 上体验，并通过 IEEE 课程与网络研讨会推广。该方案显著降低了 AI 入门门槛，获得 590 人现场参与和 344 次仓库访问，展示了工程化 AI 与电力领域深度融合的可行性，值得 Agent/AI 产品工程师关注。
08
Issue Monitor
Ready now—Actionable issues
Needs review—Awaiting a fresh check
Data statusCheck statusLive status unavailable