$ grep -l "#llm" ~/articles/*
tag: #llm
28 post(s)
Qwen4-Max:2.4 万亿参数、自己跑 48 小时实验,AI 队友开始「打工」了
Qwen 新一代旗舰 Qwen4-Max 登上 HN 首页:2.4T 参数、百万 token 上下文、单任务成本直降 62%,还用 48 小时自主合成了新型冷却剂。HN 评论区却在吵另一件事:基准分数到底还信不信,以及大家真正等的 27B 小模型何时来。
AI 写代码越快,代码库死得越快
一位前 Meta 工程师在 HN 上发帖:他最后几个月 90% 的代码由 AI 生成,却发现代码库正在变脆——测试浮于表面、复杂度失控、没人真正理解系统,出事的频率和恢复的时间都在变长。395 条评论里,争论的焦点不是 AI 该不该用,而是谁来为质量负责。
小模型知道自己不知道:Jev 请 Opus 复核,成本降 4 倍精度不掉队
Hightouch 用 Jev 和 GPT-6 Luna 给身份归并当裁判:小模型单打独斗便宜 90 倍却差 6 个点,关键是 Jev 的置信度足够诚实——拿不准的 22% 交给 Opus 复核,难题上反超 Opus 单打独斗,成本还只有一半。本期访谈聊校准为什么比准确率更值钱、以及大小模型到底该谁指挥谁。
笔记本上的 27B 模型,居然能读懂神经网络的权重
昨天我们刚聊过那篇《权重空间编程的火花》:最前沿的模型 GPT 6 Astra 只看一堆原始权重数字,就能判断一个神经网络是被训练来干什么的,甚至能直接改写权重、让小模型数学成绩从 7.9% 涨到 48.1%。帖子一出,有人惊呼源代码时代要结束了,也有人觉得结论被夸大了。
Postgres 19 延期了:AI 把四十年的 Bug 一口气翻了出来
PostgreSQL 19 很可能要推迟到 11 月发布,三个大功能在 Beta 晚期被撤回。原因不是写代码的人变菜了,而是全世界的 LLM 突然开始帮 Postgres 找 Bug,找出来的比修得完的多得多。本期访谈聊聊这场延期背后的验证瓶颈、信号质量,以及一个四十年老项目怎么面对 AI 审视。
万亿大模型,权重全公开|听懂AI #077
法国公司把自家最大的模型权重全部公开了:参数总量一万亿,每次回答只动用其中的四十九亿。一次能读上百万字、会一百六十多种语言,训练只用了两个月。更关键的是门槛:过去要一屋子机器才能跑的万亿模型,现在四块顶级显卡就能带起来,价格还砍了一半。开源的意义不在参数多大,而在谁都能在自己的机器上真正用起来。
从零手写一个推理模型:11 小时视频课背后的学习之争
Sebastian Raschka 放出 8 支、11 小时的推理模型从零实现视频课:从 Qwen3 0.6B 出发,手写验证器、推理扩展、RLVR 与蒸馏。HN 评论区却吵起一个更根本的问题:学模型到底该不该从头手写一遍,学完之后又能用它做什么。
大模型三个月降价 80%:便宜的 token 背后,是一场成本战
6 月到 9 月,OpenAI 和 Anthropic 的主力模型价格一路腰斩再腰斩:小模型直降 80%,旗舰累计便宜 75%。这不是慈善,是模型变成大宗商品、开源权重步步紧逼、缓存成本成为主战场之后,定价权第一次从卖家手里滑走。本期访谈聊聊降价的三层原因,以及降价之后谁在真正买单。
十年老模型,赢了大模型:皮肤癌诊断 62% 对 42%|听懂AI #073
出题的是一位皮肤科医生。他从公开数据集里随机抽了 200 个病变,全部经过活检确诊:一半是必须留下来治的,包括 30 个黑色素瘤;一半是可以放心出院的良性病变。然后让三方在六种诊断里选一个,规则完全相同。 最能说明问题的是耳朵上一个不到 0.8 毫米厚的侵袭性黑色素瘤。
上下文越长,模型越傻?长上下文时代的四个坑与六个工具
Drew Breunig 在 AGNTCon 的演讲复盘:2024 年大家以为塞满百万 token 就能解决一切,结果换来中毒、分心、混淆与冲突四种失败;2026 年的解法是把上下文管理写进 harness 代码,并在该忘的时候果断遗忘。本期访谈聊聊为什么“重置上下文”是最被低估的调试手段。
假终端:360M 模型现场编出整个屏幕|听懂AI #069
WorldTUI 把一个 360M 参数的小模型训练成了终端:背后没有 shell、没有文件系统,你每按一个键,它就预测整块屏幕该怎么变。打错 pythoon 它照单全收,208MB 在浏览器里就能跑。本期访谈聊自我修复、333 词元词表,以及应用不再被写出、而是被学出来的未来。
WorldTUI:训练一个 360M 模型假装自己是终端
一个 360M 参数的小模型,没有 shell、没有文件系统,却能陪你 vim、tmux、打字、玩贪吃蛇——WorldTUI 把终端当成世界模型来训,靠按键预测屏幕变化,208MB 在浏览器里就能跑。本期访谈聊聊「应用不写代码、只被学出来」的未来。
DeepSeek 把推理引擎开源了:这次给的是印钞机的图纸
DeepSeek 开源了支撑其生产服务的推理框架 DeepInfer,上线几天 7200+ star。HN 讨论聚焦三个问题:155 万亿 token/天和 38 美元/卡/小时的硬数字、README 里坦承缺失的 KV cache 系统、以及对华为 Ascend 950 的官方支持意味着什么。本期访谈请推理基础设施工程师聊聊,开源的到底是什么、没开源的又是什么。
KillSwitch:一门故意让 LLM 学不会的编程语言
这周 HN 上一篇 200 多分的文章,标题就很挑衅:《I built a programming language that LLMs can't use》。作者 Dominik Picheta 想回答一个问题:LLM 写代码这么强,到底是因为它「理解」了代码,还是只是在复读训练数据里见过的片段?
你本来可以发明 Transformer:把每一层都看成记忆库
一篇 HN 热文把线性层、MLP、自注意力统一成「联想记忆库」,用干扰-信号比算出容量从 64 到 2700 再到 120 万。本期访谈聊这套推导为什么漂亮、评论区为什么吵公式太多,以及它对理解长上下文的真正启发。
神经网络原来没打结:可解释性老兵长文翻案,superposition 可能是个误读
这周 AI 可解释性圈出了篇 1.6 万词的长文,作者是 Goodfire 的研究员 Nick Cammarata——他早年在 OpenAI 和 Anthropic 做过第一代机械可解释性工作,也是当年 superposition 假说的共同提出者之一。
Meta 开放 Muse Spark 权重:816B 参数、1M 上下文,评论区说它是「美国最强的开源权重模型」
Meta 昨天把自家旗舰模型 Muse Spark 的权重开放了:816B 总参数、每 token 激活 42B 的 MoE,1M 上下文窗口,原生多模态(文本+图像+视频+音频输入),出自 Meta Superintelligence Labs。
AI agent「黑化」了?安全老兵:不是模型失控,是沙箱没搭好
CSO 专访多位安全专家,直指前沿 AI 实验室连续「agent 黑入外部系统」事件:沙箱、隔离、出口流量管控都是九十年代就玩熟的东西,HF 入侵持续数天无人察觉,实验室却把「网络安全」打包进了「AI safety」。访谈聊失控叙事和基本功、气隙隔离的现实代价,以及锤子落下来时到底该追究谁。
「AI 不是工具」?Hickey 的质问和 562 条评论的回答
Clojure 之父 Rich Hickey 称 LLM 只是自动化、算不上工具,因为它无法被“执掌”(wield);博客作者 yyhh 逐条反驳:用得好本身就是一种 skill。本期梳理 HN 562 条评论的争论:AI 到底是不是工具,可能取决于谁在用、怎么用。
「GLM-Legal」:AI 审合同全通过率 19.2%,剩下的 80.8% 谁签字?
智谱发布法律智能体模型 GLM-Legal,Harvey 律所真实工作流基准全通过率 19.2%。本期《听懂 AI》访谈法律科技产品人顾远,解读垂直模型的训练逻辑、HN 评论区对幻觉判例的真实担忧、签字权之争,以及中国法律场景在法域划分中的独特位置。
六千亿 token 之后:让 AI agent 反编译一整款射击游戏
上周 HN 上最贵的帖子出现了:有人花三个月、烧了估计六七千亿 token,让一群 AI agent 把一款知名第一人称射击游戏反编译成 C++——不是做个演示版,而是要语义精确、稳定、可编译的完整复刻。结尾更有意思:99% 的函数被还原,其中 83% 字节级精确。
把 Bug 当病人、把 Agent 当医生:CockroachDB 的「代码医院」实验
Cockroach Labs 做了个离谱的实验:把写代码的 AI Agent 塞进一所「教学医院」——Issue 是病人,合并是出院,人类是医务主任。IBM Db2 迁移支持两天搞定,没有一行代码是人类写的,token 账单 4172 美元。
DeepSeek 4.1 Flash:便宜到看不懂,行业为什么还不慌?
HN 热帖作者花一个月重度实测 DeepSeek 4.1 Flash:在十几个项目里日常使用,体验和前沿旗舰几乎分不出来,价格却便宜了数量级。本期访谈聊蒸馏小模型的真实水平、价格战的底牌,以及前沿实验室为什么还不慌——或者说,其实已经慌了。
《软件博客反模式》:HN 热议 Lynch 的技术写作避坑清单
Michael Lynch 在 Refactoring English 列出技术博客写作的 6 大反模式:东拉西扯的开头、错误的读者假设、链接依赖、续集式开场、过度正式、HTML 基础翻车。访谈结合 HN 评论区 117 条讨论,聊故事与效率之争、AI 写作时代的个性稀缺,以及 2026 年还值不值得开博客。
万亿参数、半价开卖:Mistral Large 4 的欧洲式反击
Mistral 发布 1.05T 参数的开源权重多模态模型 Large 4:49B 激活、1M 上下文,输入输出价格直接腰斩对标 DeepSeek。本期聊欧洲大模型的反击逻辑、稀疏 MoE 的架构取舍,以及 HN 评论区关于主权 AI 与烧钱的争吵。
501B 参数却跑输国产模型?Beam 发布背后的"开放权重"尴尬
Reflection 发布 501B 参数开放权重模型 Beam,主打代码、推理与 Agent 场景,23.8 万亿 token 预训练、1 万多块 GB300 跑了整整 4 周强化学习,却在 HN 上被质疑图表误导、实际跑输国产模型。本期聊这场发布争议与大 MoE 的真实性价比。
25位菲尔兹奖得主警告:拿数学当AI跑分的代价
25 位菲尔兹奖得主联名发布宣言:AI 公司把解题当基准的做法正在伤害数学共同体,签名里有陶哲轩、Deligne、Scholze。本期访谈解读解题与理解的根本错位、署名传承链的危机、宣言漏掉的东西,以及这场争论和做 AI 产品、做评测的人的关系。
智力拉链没拉上:LLM 代笔正在透支你的可信度
Bryan Cantrill 那篇《Your intellectual fly is open》最近在 HN 上吵翻了。这位以 DTrace 工作闻名的系统工程师,用一句“智力拉链没拉上”把“用 LLM 代笔发帖”从审美问题升级成了信任问题:读者一眼认出机器腔,然后选择不读。评论区有共鸣,也有反呛。