01
ZhangYvJing's
Daily Brief
00
Film / Book Chapter
The Truman Show
The Truman Show (1998) · Peter Weir
给你推荐《楚门的世界》是因为它提醒每个在构建 Agent、做产品决策或调试系统时总被“看不见的舞台”左右的你：别让数据流、平台限制或不断弹出的 VM 成为唯一的现实，敢于跳出被设定的环境，重新审视自己的假设和目标，这种情感校准正好能在今天满是资源占用和系统瓶颈的噪声里，为接下来几周的迭代方向提供一剂清晰的思考药。
Designing Data-Intensive Applications
Designing Data-Intensive Applications · Martin Kleppmann
Chapter 1: Reliable, Scalable, and Maintainable Applications
A useful morning chapter when system design starts feeling abstract: it turns reliability, scalability, and maintainability back into concrete product constraints.
01
Insight
今天的整体叙事在从“硬件增量”向“系统化自适应”迁移：硬件方面，Raspberry Pi 5的 16 GB 版展示了算力与接口的传统堆叠，却仍受制于配件成本和散热；而软件层面，Claude Desktop、PgDog、πfs 与多篇 AI 代理论文（EEVEE、ReasonAlloc、Gemma 4）共同描绘出一种「运行时可调」的生态——从启动即占据资源的 VM 病灶到通过 KV 缓存层级分配、实时 Prompt 路由实现的资源紧箍。这两条线索在 Hacker News 与 arXiv 中相互印证：Claude 的资源泄漏凸显了系统级资源治理的缺口，而 ReasonAlloc、EEVEE 则提供了在受限显存或多任务流中“预算”与“路由”分配的解决思路，说明业界已经从单机硬件升级转向软件可控的资源调度。另一方面，AI 经济的驱动逻辑被 Dwarkesh 的两期访谈和 Jensen Huang 的演讲揭示为“生成优先、贪婪奖励”，这与 Eric Ries 关于“金融重力”导致使命漂移的警示形成呼应：市场的激励正把注意力从长期可靠的系统设计（如 JPL 通过软件更新延寿的好奇号）推向短期算力放大与数据垄断。值得注意的是，πfs 的无限存储设想与实际的合规、带宽成本冲突，显示了技术噱头与现实约束的错位；同样，AI 代理在 RAG 争议中被误读为“死亡”，实际上语义搜索仍在提升答案准确率，说明社区的噪声与真实进展并存。综合来看，今天的重点在于：硬件仍在提供底层算力，但真正的竞争点已经转向软件层面的自适应调度和资源预算，而市场激励与治理结构的张力则决定了这些技术能否落地稳健。今天看这些信息时，关注软件调度的可解释性与成本，而非单纯硬件规格的提升；在审视 AI 经济热潮时，要警惕“贪婪奖励”与“金融重力”对长期使命的侵蚀，保持对系统化自适应的理性期待。顺带一提，今天的电影建议《The Truman Show》(1998)。
03
Hacker News
02
Claude Desktop 在每次启动时都会创建一个约 1.8 GB 的 Hyper‑V 虚拟机，即使仅使用聊天功能也不例外；该虚拟机以 Vmmem 进程出现并占用超过 11% 的系统内存。报告指出，应用通过 RPC 触发 Hyper‑V Host Compute Service，进而启动 vmwp.exe 并加载残留的 2,689 条 Cowork 会话文件，导致无效的 JSON 配置错误持续写入日志；即使删除这些文件后，启用的 VirtualMachinePlatform 仍会让服务在每次启动时被自动触发。此行为在 16 GB 机器上将空闲内存占用从约 50% 推高至 62%，迫使需要高性能或长时运行的开发者手动终止 VM 进程或关闭平台功能，从而增加工作负担并提升系统卡顿风险。
03
πfs 宣布把文件存储方式转向 π，声称所有可能的文件都已在圆周率中出现，实现名义上的无限容量。其实现依据 π 在十六进制下被猜想为正态数，所有有限数字序列均出现，于是通过 Bailey–Borwein–Plouffe 公式定位文件在 π 的起始位置并依据长度提取数据，同时把文件位置当作元数据保存。该方案将直接影响需要大容量存储或元数据管理的开发者和系统运维，重新定义了存储空间的成本与法律合规风险。
04
火星车「好奇号」在13年后仍在执行科学任务，关键在于JPL通过频繁、精准的软件更新克服了硬件老化和能量下降的局限。团队先后在双电脑故障、内存不足以及轮胎磨损等具体问题上采用了切换主备计算机、重新划分存储空间和倒退行驶等机动措施，保证了机器人保持基本功能并逐步提升效率。这些做法直接影响后续火星探测项目的工程设计、运营成本和风险评估，迫使任务规划者在软硬件可维护性与资源管理上重新制定标准。
05
埃里克·里斯在接受 AMA 时宣布，他的新书《Incorruptible》切入了企业“金融重力”导致使命漂移的核心问题；他指出，组织结构的隐形拉力会让即便最初良好的公司逐步偏离创立初衷，而非偶然的恶意行为；该书揭示了少数长期成功企业如何设计抵抗这种拉力的机制，并提供了对治理和长期价值关注的思路，这将迫使创始人、投资人以及企业治理团队重新评估组织架构、激励设计和风险管理的成本与规则。
06
Raspberry Pi 5推出16 GB版本，搭载2.4 GHz四核Cortex‑A76 CPU、USB 3.0、支持PoE的千兆网以及PCIe 2.0 x1接口。CPU性能比Pi 4提升2‑3倍，GPU频率升至800 MHz并增加双4K60显示输出，RP1南桥将USB带宽、MIPI通道和SD卡速度分别翻倍或三倍，首次提供高带宽外设扩展。这些硬件升级使得单板电脑在桌面、工业和嵌入式视觉等场景能够运行更复杂的工作负载，降低对外接加速卡的依赖，同时因需使用新壳体和电源，亦带来配件采购和系统集成的额外成本。
07
PgDog 获得新轮融资并正式推出可在任意环境部署的水平可扩展 PostgreSQL 代理。因为传统 PostgreSQL 在 100 TB+ 表和每秒 1 M 查询的场景下难以直接横向扩展，PgDog 通过在数据库前层添加无状态代理实现分片与并发调度，从而保持原生兼容性。该方案将使依赖高吞吐 PostgreSQL 的后台服务、数据平台和企业运维团队能够在本地或云上以相同硬件投入实现更大规模，而无需迁移到其他数据库或承担额外的服务费用。
08
04
YouTube
01
Full episode: https://www.youtube.com/watch?v=Jj-kBHzUohs Me on twitter: https://x.com/dwarkesh_sp
02
David Senra on the one skill that makes Rick Rubin a generational talent. #shorts #podcast #ceo #founder #startup
03
One API call to Gemini 3 Flash Preview: speaker labels by name, timestamps, emotion tags, language detection with English translation, and a full summary. That is the audio understanding layer that underlies everything else Thor Schaeff demos here, including speech generation directed by a "director's note" rather than picked from a catalogue, and Gemini 3.1 Flash Live, a sound to sound real time multimodal model with thinking baked in rather than cascaded through a separate LLM. The talk ends with Lyria 3, Google DeepMind's music generation model that can now produce full songs with lyrics.
04
Cursor added semantic search and measured a 24% increase in answer accuracy on their composer model, a 2.6% gain in code retention in large codebases, and a 2.2% drop in dissatisfied user requests. Those numbers look small until you factor in that semantic search does not fire on every query. Meanwhile Google search volume for RAG hit a new inflection point in mid 2025 and went through the roof. The Twitter "RAG is dead" discourse and the actual usage curve are moving in opposite directions. Kuba Rogut's argument is that the problem was never retrieval, it was the narrow definition of it. RAG
05
The iteration cycle before Flash: commit, push, build a Docker image, pull it from the registry, load it onto a server, allocate a GPU, then find out if it works. Audrey Hsu demos what replacing that with a single decorator looks like — add `@flash.endpoint` to an async Python function and it deploys to GPU cloud from your IDE, with hot reload so a model swap is one line of code rather than a container rebuild. The second demo chains three models: Qwen 3 generates image prompts, DreamShaper renders them, Nano Banana 2 composes the results into a single photo. H100 pricing is $0.00116 per seco
06
Jensen Huang, founder and CEO of NVIDIA, makes the case that computing is undergoing its biggest shift in 60 years: from retrieval, where data centers store files we look up, to generation, where every word, image, and video is produced in real time and customized for whoever is asking. He explains why NVIDIA's AI factories are the dynamos of this era: machines that take in electrons and send out tokens of intelligence, just as Siemens' dynamo once turned motion into electricity. Jensen frames intelligence as the third force to "cocoon" the planet after electricity and the internet. He describ
07
A rage click, a 2am error spike, a customer Slack message — today each sits until a developer notices, triages, tickets, and writes a fix. PostHog is building a pipeline that collapses that chain: signal arrives, a background agent groups it with related errors and session replays, researches the codebase, and opens a PR. You wake up to green PRs instead of dashboards. Three lessons from building it: off the shelf embedding models cluster signals by structural similarity rather than meaning, so errors land next to errors and Slack messages land next to Slack messages — the fix is to embed LLM
08
Full video: https://youtu.be/l6DKRf-fAAM
09
Full episode: https://www.youtube.com/watch?v=Jj-kBHzUohs Me on twitter: https://x.com/dwarkesh_sp
10
Gemma 4's 31B model sits fourth on the LM Arena open model leaderboard. The models around it are at least twice as large; some are 20 times larger. It runs on a single GPU. Competitors at comparable quality need four or five. Ian Ballantyne and Gus Martins walk through what that size efficiency unlocks: running on a Pixel phone (the E2B and E4B models use 2B and 4B of GPU memory despite having more parameters), deploying a medical variant on two GPUs for an entire hospital, and running parallel multi agent workloads on an M4 Mac via LM Studio. The talk also covers the license shift from a cus
11
David Senra on what he'd actually look for if he ever became a VC. The bar is brutal. #shorts #ceo #founder #startup #vc
12
Qwen 3 235B was asked for YouTube's year over year ad revenue growth from 2023 to 2024. It queried a table that didn't exist, tried again, got nothing back both times, and hallucinated an answer. The 4B model Snorkel finetuned with RL called `get_table_name` first, inspected the schema, ran a query, hit a column error, self-corrected, and got the right answer. The training run cost under $500. Kobe Crawford covers why tool discipline matters more than reasoning depth for this class of tasks, how single table training transferred cleanly to harder multi table problems (13.9% to 26.6% on the Fi
07
Papers
01
该论文针对可穿戴无袖带血压测量的痛点——现有PPG模型只做回归，容易依赖幅值等浅层特征，且人口统计信息只在后期拼接，导致缺乏对个人血管特性的捕捉。作者用Transformer建模多心博周期的长程依赖，并在注意力层和前馈层通过FiLM式调制把年龄、性别等人口特征直接注入网络，同时加入一个辅助形态分支，引导模型关注与动脉刚度、波形反射相关的波形细节。实验在大规模PulseDB上显示，收敛后误差降到收缩压4.56 mmHg、舒张压2.62 mmHg，比以前的人口信息增强基线减半。对想把单传感器、低功耗硬件嵌入AI产品的团队而言，这种“Transformer+Demographic Conditioning+Morphology head”提供了一个轻量、可校准、兼顾个体差异的血压估计方案，值得快速了解。
02
这篇论文聚焦于后训练阶段的合成数据过滤与回收：一是判断过滤信号是否与生成样本的来源证据（provenance）对应，二是探索如何把被拒的样本通过诊断后有针对性地再生成，而不是直接丢弃。作者通过构造对抗性数据集，比较不同门控配置、恢复策略和模型规模，发现基于精确来源的faithfulness gating 能提升强判官的过滤效果，且幻觉门和奖励门筛除的样本几乎不重叠，需要并行使用；自适应恢复管线通过错误诊断+定向再生成，显著提高样本产出率和有效召回。对追求高质量训练数据、降低标注成本的Agent或AI产品研发团队，这种“证据根基+主动恢复”方案提供了更稳、可控的数据治理思路。
03
First-Order Trajectory Matching: Fast Ensemble Predictions of Chaotic, Turbulent, Stochastic Systems
该文针对混沌、湍流和随机动力系统的高效 ensemble 预测难题，提出了 First-Order Trajectory Matching（FTM）方法：直接从系统轨迹学习概率流的“一阶运动”，即概率电流速度，绕开传统的漂移/扩散或 score 估计，进而在单步无仿真代价下保持时间边缘分布并捕获通量、环流等动态特征。对工程/Agent 场景而言，它意味着只需少量轨迹数据就能以确定性成本实现可靠的多样本预测，适合实时决策或大规模模拟的产品化需求。
04
它提供了第一个公开的 EGFR‑突变非小细胞肺癌 osimertinib 治疗的长期耐药预测基准 OncoTraj，收录 813 例真实患者的基因组和临床轨迹，并划分出三类标准任务：12 个月进展二分类、首次进展天数回归以及主导耐药机制六分类。作者同步发布了完整的数据拆分、无泄漏审计、评估脚本和六个基线模型（LR、RF、XGBoost、LSTM、Multi‑task Transformer 等），并指出在单次组织 NGS 特征下模型已达上限，提示需要序列 ctDNA 才能突破。对做 Agent/AI 的人来说，这是一套从数据到基准完整、可直接拿去跑模型、检验特征设计和序列学习能力的实战资源，帮助快速定位“特征瓶颈”，规划下一代血液‑DNA‑驱动的预测系统。
05
该论文聚焦在量化大模型作为生物实验代理的“双刃剑”风险：当 LLM 能自行写机器操作代码、设计 DNA 片段甚至规避合成审查时，生物安全威胁会被放大。作者构建了 ABC‑Bench，一套包括机器人液体处理、体外 DNA 组装设计和规避合成筛查在内的代理任务，并用多种 LLM 实际跑通，甚至在真实实验室让 OpenAI o4‑mini‑high 生成的脚本成功完成 DNA 组装。对做 Agent 产品的工程师而言，这提供了一个可直接拷贝的安全评估基准，帮助判断自家模型到底是“科研助力”还是“安全漏洞”，并给出实现细节和实验验证，值得快速了解。
06
在大模型推理时，长链 CoT 会让 KV 缓存爆炸，导致算力卡住。作者把解码期间的 KV 压缩重新包装成“层级预算分配”问题：先离线算出每层的需求曲线（称为 Reasoning Wave），再在解码时实时把预算搬到信息量大的 heads 上。通过这种训练‑free、兼容现有 token‑eviction 的方案，实测在 MATH‑500、AIME 2024 等数学推理基准上，尤其在 128‑512 token 超小预算下显著好于均匀或静态分配的压缩方法，且几乎不增加推理开销。对做 Agent/AI 产品的工程师来说，这提供了一套即插即用、可显著削减推理显存和时延的技巧，特别适合在资源受限的线上服务里跑长链思考。
07
它点出当前“LLM 可代替专家”的说法过于乐观：多数基准只看平均分，往往恰好碰到训练集内容，遗漏了可靠性和错误幅度。作者设计了一个让模型写代码完成数据分析的新基准，直接对比最前沿 LLM 与人类专家，量化答案波动和错误大小，发现人类在多指标上更稳、误差更小。对做 Agent/AI 产品的工程师来说，这提醒别只看平均分，必须评估模型的方差和风险，避免在高风险场景盲目部署。
08
这篇论文聚焦“真实业务中，LLM Agent 要在不断切换的多任务/多领域数据流里边即时自适应”。它提出 EEVEE：一个在推理阶段实时学习 Prompt 的框架。核心做法是加入 Router‑Prompt 共进化机制——先把进入的请求划分到不同任务簇，再为每个簇分配专属 Prompt，路由器和 Prompt 交替训练，缓解跨数据集干扰。对做产品的工程师来说，这意味着可以让同一大模型在多业务场景下同步提升表现，而不需要为每个场景单独微调，兼顾鲁棒性和效能，值得一看。