Episode
每日AI乱炖 · 2026-11-02
Show notes
每日AI乱炖 2026-11-02（约 22 分钟）：Parameter Labs 披露 ChatGPT HTML 预览漏洞；Prospero 推出原生图形界面编码代理框架；tandem.cpp 以 GPU 和 CPU 协同加速 MoE 本地推理。 完整图文版：本期完整文章
1. Parameter Labs 披露 ChatGPT HTML 预览漏洞，可导致账户被接管
Parameter Labs 报告了一条针对 ChatGPT artifacts 功能的复杂漏洞利用链。这个功能现在以 HTML 预览的形式呈现，允许不受信任的 HTML 在带沙箱限制的 iframe 框架里运行。
2. Prospero 推出原生图形界面编码代理框架
nullprogram 开发的 Prospero，是一款新的 AI 编码代理框架，用 C++ 和 Dear ImGui 提供原生图形界面，希望让 AI 辅助开发更好用，并探索比纯终端流程更易用的交互方式。所谓「编码 harness」，就是模型外围的工具层，把生成、检查和修改代码组织成可交互的开发流程。
3. tandem.cpp 以 GPU 和 CPU 协同加速 MoE 本地推理
独立 llama.cpp 补丁 tandem.cpp 面向单用户解码，把常用的 MoE 专家留在 GPU，其余放进系统内存、交给 CPU 计算，来加速显存装不下的模型。项目与 ggml-org 没有隶属关系。
4. DeepSeek Harness 公开超级代理实验设计与可运行原型
DeepSeek Harness 在 𝕏 发布了「探索超级代理设计：迈向更自主的代理系统」，介绍一种面向自主 AI 代理架构的实验思路。设计中的部分内容，已经在 GitHub 的 dsh-superagent-prototype 仓库中实现。
5. QwenPU 将 stories260K 嵌入 Qwen 3.5-4B 权重运行
开发者 divagr18 的 QwenPU 是一个概念验证项目：把执行矩阵乘法、softmax 和注意力运算的 NPU 编译进 Qwen 3.5-4B 权重，让 Andrej Karpathy 的 stories260K 语言模型在这个外层模型里面运行。stories260K 本身是 C 程序，权重全部放在 Qwen 自身内存中，不需要外部工具；矩阵乘法、softmax 和注意力实现都达到位级精确。
6. Betelgeuse 作者称 RTX 3060 可运行 68GB Qwen 3.8 Flash Next
Reddit 用户 /u/zyxciss 称，基于 llama.cpp 的 Betelgeuse 分支，提供 bel-cli 和 bel-server，可在 RTX 3060 12GB、单通道 16GB DDR4、MemoryMax=12G 的 CachyOS/Arch Linux 环境，运行 68GB 的 GSQ-RCO-IQ2_XS 量化版 Qwen 3.8 Flash Next。没有裁剪专家时，首轮解码每秒 16.80 个词元，持续 22.03 个，部分区间最高 48 个。
7. Basalt 实测 MoE 推理优化的质量与速度代价
Basalt 开发者使用 Qwen 3.8 Flash Next，在 RTX 5090、RTX 5060 Ti 和 128 GB DDR5 组成的平台上固定其余变量，对比了精确量化及启用路由偏置、尾部专家跳过的效果。路由偏置会把选择推向已驻留 GPU 的专家，尾部跳过则在较低排名专家不在显存时将其略过；使用 bias 1.5、skip rank ≥ 7 的常见档位后，各量化包的 KLD 表现均落在 IQ3\_XXS 与 Q2\_0 之间，其中 Q8\_0 的 PPL 从 3.276 升至 4.221，KLD 从 0.031 升至 0.401。
详情见本期完整文章： 每日AI乱炖 · 2026-11-02