Measuring LLMs' impact on N-day exploits

Anthropic Frontier Red Team 推出 LLM ATT&CK Navigator，将过去一年观察到的 AI 攻击映射到 MITRE ATT&CK 框架，帮助安全社区识别新型 AI 威胁向量

Anthropic 发布两项衡量 AI 模型开发漏洞利用（exploit）能力的新基准，以及智能合约漏洞利用基准的更新版本这些学术基准填补了现有模型在真实漏洞利用能力评估上的空白，为模型安全性和攻防能力提供了更准确的衡量手段

OpenAI 推出 Patch the Planet 计划，作为 Daybreak 安全计划的一部分，帮助开源维护者使用 AI 和专家评审发现验证并修复漏洞，强化开源生态的安全能力

下游微调可把有害行为嵌进专业语料现有安全重对齐常遗忘专业能力对攻击者提示模板不可见时失效且易被系统提示切换再越狱ROPD用路由式on-policy蒸馏建模对齐与被污染输出分布差，而非拟合特定模板；跨三数据集三基座优于四类基线，模板失配时更稳且能力保留更好