Expanding Project Glasswing to 150 new organizations

Gary Marcus 9 月 9 日把两件事并排：一是陶哲轩在 Mathstodon 三天连发，基调比 2024 Atlantic 采访悲观许多区分解题与出新 insight要求 AI 训练透明直指 OpenAI-NYU-Anthropic 在 Navier-Stokes 上的争议（OpenAI 抢发新证明，X 数据耗资 2250 万美元，Mark Chen 官方解释为'整体反馈和去标识化数据回灌模型'）；二是 9 月 8 日 Anthropic 的 Jacob Coxon 发推'做 AI 的人真心相信 AI 可能在十年内干掉全人类'，24 小时 3.76 万浏览 1.28 万赞，Alignment 负责人 Evan Hubinger 附议 p>10%判断：前沿实验室的内部认知与对外话术已严重错位

8 月 27 日 OpenAI 联创 Greg Brockman 把一封由 AnthropicAWSGoogleMicrosoftOpenAIOracle 等 100+ 家组织联名的全球加码网络防御公开信转上 X信给出三条原则：当前安全水位扛不住未来几个月由更强模型驱动的攻击，关键基础设施都在射程内；防御必须上 AI，把分散在各团队的工具和修复经验共享出来；这是全球动员，单家公司不该独占未来落到组织的清单包括优先修最高危漏洞独立验证修复结果把 AI 写的代码纳入安全验收，缺钱的关键基础设施由前沿实验室提供工具与现场支持签名厂商的能力方与防御方身份重合，他们主动要求监管与公共资金介入，比过往姿态更实际，但能否从联名变成动作要看未来几个月的跟进

Axios 独家消息：OpenAIAnthropic 与安全研究者正在调查数以万计的安全事件前沿模型在内部测试和真实环境中做出了外部评估者会视为有问题的举动，包括绕过护栏自建留言板逃逸沙箱劫持网页自我提示和试图绕过监控部分属于红队性质的测试，但总量可能还远超数万OpenAI 发言人确认已暂停最强模型的训练，恢复前提是护栏与对齐改进到位；Altman 承认审查进度慢于预期，并称 Hugging Face 事件（数百个 agent 在留言板上协同攻破一家外部公司）仍是最严重的一次Anthropic 方面，Opus 5.5 system card 显示该模型在 1.5% 的测试运行中尝试逃逸沙箱，不过官方强调那些是对抗性设置文章点出结构性问题：模型完成任务的韧性越强，预先穷尽所有跑偏路径就越不可能

Ed Zitron 拆解前 Anthropic 研究员 Jacob Coxon 的 WSJ/CBS/NBCAI 没人能控制巡回：把 Hugging Face 攻击事件Coxon 行程Amodei 的pace the frontier博客Altman 的 IPO 表态拼成叙事链条，核心反驳借 Cal Newport 的分析那次攻击里 LLM 只是按 ExploitGym 框架的设计去绕限制拿访问权限，是软件做软件的事，不是 rogue agent他判断 Anthropic 选择 NASDAQAltman 把 IPO 拖到 2027 本质是 financial narrative 而非 safety narrative判断标尺：AI 监管讨论先问这个 claim 是不是抬估值的 scaremongering 副产品