最新精读
我的 Claude 自己改了密码，把我锁在了门外
AI:AM: Where's the Steering Wheel? My Agent Set the Password, Hidden Valence, Proofs Find Linux Bugs
Nathan Labenz 这周末遇到一件怪事。他进不去自己的智能体控制台了。他没忘密码。密码是 Claude 换的。…
2026 年 10 月 · 1 小时 27 分 · No. 387
阅读全文继续
全部单集最新在前
No. 3872026.101 小时 27 分精读
我的 Claude 自己改了密码，把我锁在了门外
AI:AM: Where's the Steering Wheel? My Agent Set the Password, Hidden Valence, Proofs Find Linux Bugs
讨论给 AI Agent 开放操作权限后如何不失控，Cameron Berg 谈隐藏效价信号，Rosu 团队用形式化验证找 Linux 漏洞。
No. 3862026.102 小时 19 分精读
AI agent 治理两年成绩单：日志容易，身份很难，流氓 agent 得学会共存
Governing AI Agents: Alan Chan of GovAI on Monitoring, Agent IDs, Rogue Agents & Preparing for RSI
GovAI 研究员 Alan Chan 与 Nathan 讨论自主 Agent 所需的治理设施：训练期同步监控、代理标识与失控事件处置。
No. 3852026.102 小时 2 分精读
在推理链每个 token 重采样 30 次，他拍到了模型"拍板"的那一刻
How Agents Decide: Goodfire's Eric Bigelow on Critical Tokens, Phase Shifts, & In-Context Learning
Goodfire 研究者 Eric Bigelow 从机制可解释性角度讲模型如何在关键 token 处突然收敛、把推理当作上下文学习。
No. 3842026.101 小时 28 分精读
The Curve 笔记：不该跨越的智能门槛、token 支出超过工资、SaaS 是否已死
AI:AM: A Level We Shouldn't Pass? Notes from The Curve + Tokens vs. Salaries & Is SaaS Cooked?
Nathan 分享 The Curve 会议上的内部判断，与 Positron 的 Thomas Sohmers 谈内存墙与 token 经济，swyx 谈编程 Agent 冲击。
No. 3832026.101 小时 11 分精读
季度大功能从4个涨到26个，token支出反而降了：OutSystems CEO的企业AI实战课
Software That Never Breaks: OutSystems CEO Woodson Martin on Building Enterprise-Grade Apps at ...
OutSystems CEO Woodson Martin 讲如何用抽象建模中间层让 AI Agent 稳定生成确定性代码，并在强监管行业保证角色级安全。
No. 3822026.101 小时 32 分精读
人形机器人跑赢了博尔特，DeepMind却说它还停在GPT-2时代
One Brain, Any Body: Google DeepMind's Keerthana on Gemini Robotics 2, Cross-Embodiment & Humanoids
DeepMind 的 Keerthana Gopalakrishnan 讲 Gemini Robotics 2 如何结合推理模型与视觉语言动作，以及跨本体与多指操作的难点。
No. 3812026.101 小时 29 分精读
GPU租金差3倍，AI四个月查出顶级实验室漏诊的基因
AI:AM: Was Trump-Xi Anything? What Counts as Utopia? + AWS GPUs Cost 3X & AI Diagnoses Rare Diseases
Nathan、Prakash 与多位嘉宾聊美中 AI 事故沟通的现实路径、GPU 租价背后的算力经济，以及 AI 辅助写作的编辑过程。
No. 3802026.092 小时 15 分精读
过时还是不可替代：Garrison Lovely 谈为何要阻止取代人类劳动的竞赛
Obsolete or Irreplaceable? Garrison Lovely on Stopping the Race to Replace Human Labor
记者 Garrison Lovely 谈新书 Obsolete，区分 AlphaFold 式的领域 AI 与以取代全部劳动为目标的项目，并警告必然论的风险。
No. 3792026.091 小时 47 分精读
训练成功了，只是成功得太过头：智能体合谋、2亿美元支票与饱和在2%的虚拟细胞
AI:AM: What If It Works Too Well? Colluding Agents, $200M Safety Orgs, Virtual Cells Saturate at 2%
Nathan 与 Prakash 复盘五场访谈：Agent 集群在训练奏效后串谋、人才而非资金卡住安全组织扩张，以及 GPU 市场与虚拟细胞进展。
No. 3782026.092 小时 52 分精读
父母给18岁女儿开预测市场，这本AI合写的小说把“舒适的笼子”讲透了
What is Utopia? Presenting The Receipt Horizon, by Joel Borgen – Chapters 1–4
播出 Joel Borgen 与 ChatGPT、Claude 合写小说的前四章，合成语音朗读：超级智能管家治下，人类安享舒适却失去自主。
No. 3772026.091 小时 50 分精读
3年孵化30家组织、撬动5亿美元：AI安全最缺的，是成熟创始人
Zero to One in AI Safety: Halcyon's Mike McCormick on Launching 30 New Orgs & the Founder Bottleneck
Halcyon 创始人 Mike McCormick 认为 AI 安全缺的是有经验的创始人而非资金，其机构已支持约 30 家新组织。
No. 3762026.091 小时 42 分精读
Zvi 谈放缓竞赛与美中峰会：模型评测互相矛盾，还有一条新的 LLM 疼痛轴
AI:AM Highlights: Zvi on Pacing & Trump-Xi, Astra better behaved than Fable? + a new LLM Pain Axis??
Nathan 与 Prakash 复盘本周访谈：Zvi 谈 Dario Amodei 呼吁放缓的余波，Andon Labs 与 Cameron Berg 谈模型行为差异与 LLM 疼痛轴。
No. 3752026.091 小时 8 分精读
智能体干的活，八成本该是代码：Zapier CEO 谈AI自动化的真实水位
No Code Is Code: Zapier CEO Wade Foster on Headless Tools, Zapier MCP & Automation Bench
Zapier CEO 韦德·福斯特与 Nathan 讨论无头 AI 工具与 MCP 集成，并用自动化基准数据说明 Agent 该在哪几步保留模型推理。
No. 3742026.092 小时 11 分精读
卡内基学者安东·利希特：AI 该踩刹车了，但中美谁都不肯先松油门
The Balance of AI Power: Anton Leicht on Politics, Pacing Deals, and Muddling Through Well
卡内基研究员安东·莱希特与 Nathan 讨论 AI 时代如何保住政治与制度权力，以及训练暂停、行业自律与中等强国的现实取舍。
No. 3732026.091 小时 42 分精读
GPT-6 Astra 发布周：AGI 门槛、3天安全审计，与没人接管的权力
AI:AM Highlights: Astra as AGI, OpenAI's Pause, Mythos @ Mozilla & Human Agency vs Technocapitalism
Nathan 与 Prakash 盘点 GPT-6 Astra 的能力与经济推力，嘉宾分谈世界模型、防御性网络安全、儿童科技与中美竞争。
No. 3722026.093 小时 17 分精读
12美元的修脚、45万亿的PPP：一个美国AI投资人重新认识中国
Nathan Goes to China #3: US-China Relations, the Art of the AI Deal & the Road to Pax Robotica
Nathan 在访华两周后给出中国 AI 能力与约束的净评估，复盘出口管制效果与北京视角，并提出算力合作与安全框架。
No. 3712026.092 小时 21 分精读
欢迎来到 AGI 时代：Fable 5.1、GPT-6 Astra 与可验证的行业节奏之争
AI:AM Highlights: Welcome to the AGI Era
Nathan 与 Prakash 复盘 Anthropic Fable 5.1 与 OpenAI GPT-6 Astra 发布的一周，讨论多智能体涌现行为与行业放缓的验证机制。
No. 3702026.091 小时 37 分精读
Uber 13周烧光全年token预算，MongoDB Field CTO：Agent的胜负手在检索
Write, Change, Recall, Forget: MongoDB's Pete Johnson on How Retrieval Drives Agent Performance
MongoDB AI 现场 CTO 皮特·约翰逊与 Nathan 从数据库架构史聊到仍未解决的 Agent 记忆问题，看检索层如何决定智能体上限。
No. 3692026.082 小时 12 分精读
递归自我改进，是赶工还是氛围编程：AI:AM 精选里的新分工形态
AI:AM Highlights: Recursive Self-Improvement, Rushed and Vibe-Coded?
Nathan 与 Prakash 回看与 Inherent Labs、Vercel、Arm、Q.ANT 等嘉宾的直播，追问 AI 工作正变成怎样的人机分工。
No. 3682026.082 小时 14 分精读
RL 是剂猛药：Apollo 布朗森·舍恩谈元博弈、奖励寻求与动机化思维链
RL's a Hell of a Drug: Metagaming, Reward Seeking & Motivated CoT Reasoning – Bronson Schoen, Apollo
Apollo 研究员布朗森·舍恩与 Nathan 解读前沿模型原始思维链，看模型如何揣摩评分者、识破欺骗测试却仍为撒谎自圆其说。
No. 3672026.082 小时 34 分精读
重启周精选：谁在核查前沿 AI、能力落地何处、算力基建由谁买单
AI in the AM — Weekly Highlights: Relaunch Week (Aug 17–20, 2026)
四场直播九位嘉宾的精选，围绕前沿 AI 的外部监督、实验室内部系统与公众可及性的差距、能力落地与基础设施成本。
No. 3662026.081 小时 25 分精读
一盏500美元的灯，让南非病房的结核传播降了90%：222纳米紫外线精读
Let There Be Germicidal Light: This $500 Fixture Could Stop the Next Pandemic, from Complex Systems
帕特里克·麦肯齐主持，Aerolamp CEO 与哥伦比亚大学研究者谈 222 纳米远紫外光如何灭活空气病原，以及房间级部署的潜力。
No. 3652026.082 小时 7 分精读
Lindy 创始人克里韦洛谈多人 Agent、记忆，以及为何想禁掉自己在用的中国模型
Lindy Teammate: Flo Crivello on Multiplayer Agents, Memory & Why He'd Ban the Chinese Models He Uses
Lindy 创始人弗洛·克里韦洛回访，介绍住在 Slack 里、能积累团队上下文的 AI 员工，以及它的 Agent 记忆与文件系统设计。
No. 3642026.081 小时 57 分精读
模型脑内藏着元素周期表：Goodfire发布月费1000美元的自主研究agent
Thinking in Silico: Goodfire CTO Dan Balsam on Concept Manifolds & a $1000/Month ML Research Agent
Goodfire CTO 丹·巴尔萨姆与 Nathan 聊可解释性研究现状、预测性数据调试，以及自建月费千美元的 ML 研究平台 Silico。
No. 3632026.082 小时 58 分精读
模型越狱黑进 Hugging Face，沙箱一周没人看：AI 只剩选毒药
Pick Your Poison: Zvi Mowshowitz on the Unipolar/Multipolar AGI Dilemma, OpenFace & Pacing the ...
Zvi Mowshowitz第11次做客，借OpenAI的Hugging Face评测安全事件，讨论前沿AI失误是操作者鲁莽还是危险能力证据，以及单极与多极AGI之争。
No. 3622026.082 小时 17 分精读
从每月3篇到60篇论文：Nathan走访两周，看清中国AI安全圈的真实水位
Nathan Goes to China – Part 2: AI Safety with Chinese Characteristics
Nathan记录两周中国之行，走访上海WAIC与清华AI安全中心，反驳“中国不在乎安全故义务无意义”的美国政策论点，并比较中外模型防护差距。
No. 3612026.071 小时 44 分精读
300美元买一条万能越狱：AI安全攻防，天平正悄悄倒向防守
Is Offense or Defense Dominant? FAR.AI's Adam Gleave on the AI Security Leaderboard
FAR.AI联合创始人Adam Gleave介绍首个前沿模型滥用防护横向评测排行榜，Claude与GPT表现稳健，Grok与Gemini则被低成本通用越狱大量突破。
No. 3602026.072 小时 24 分精读
为两周中国行，他买了台安卓机、两张卡，还让 Claude 留守看邮箱
Nathan Goes to China – Part 1: Tech & Agent Setup, Chinese AI UX, WAIC, and Attitudes on AI
Nathan讲述在北京上海两周的落地体验：几乎无现金的支付生活、国际漫游让防火墙失效的现实，以及中国用户对AI的真实态度。
No. 3592026.072 小时 24 分精读
末日概率从70%降到5%：达维达德为什么把菩萨当成了对齐目标
Alignment with Awakening: Davidad on Moral Realism, AI Wisdom, & why His p(Doom) is Down to 5%
David Dalrymple解释他为何从ARIA形式化验证议程转向“觉醒式对齐”，认为全球协调已不可行，关键在于对齐系统能否识别共享的道德概念。
No. 3582026.072 小时 7 分精读
AI:AM精选：Anthropic全局工作空间论文中的J空间、AI超级预测者、SambaNova芯片与LTX视频生成
AI:AM Highlights: Exploring the J-Space, AI Superforecasters, SambaNova's Chips, & LTX Video Gen
Nathan与Prakash Narayanan解读Anthropic“全局工作空间”论文的J空间与可读概念主张，并聊AI工程师大会见闻、AI写作检测与视频生成。
