Anthropic向METR研究人员开放员工级别评估权限
Anthropic将向METR的6名研究人员提供员工级别的模型、安全实践和风险管理访问权限，包括公司设备、办公空间及内部工具。METR可独立评估并发布Anthropic的风险、事故和实践评估，Anthropic仅能按预设范围要求删减部分信息。
推荐理由：Anthropic向METR开放接近员工级别的模型与安全评估权限，并承诺不阻止其发布评估结果，展示了外部审查机制的落地方式。
技术方向
安全对齐 最新动态
AI 安全与对齐：越狱与防御、模型行为研究、安全评测与治理框架的进展。
3 条精选近 30 天 3 条共收录 22 条
更新
安全对齐的精选
TechCrunch · AI精选AI 评分7676
Google DeepMind精选AI 评分8181 Google DeepMind 发布 Gemini 4 Argon 并扩大网络安全应用
Google DeepMind 开始广泛推出 Gemini 4 Argon，并将其用于网络安全、软件开发等复杂任务。Google 称该模型在 12 个端到端模拟网络攻击场景中全部解题，相比上一代的 5 个有所提升；Wiz 还使用 Argon 发现了此前模型遗漏的医院软件关键漏洞。其安全措施包括输入筛查、内部探针、持续监测、自动失配监控和提示词注入防护。
推荐理由：原文同时呈现了 Gemini 4 Argon 的复杂任务能力、有限访问案例与分层安全防护，便于理解模型能力提升对应的风险控制思路。
Google DeepMind精选AI 评分8383 Google 发布 Gemini 4 Argon 并面向全球开放
Google 发布前沿模型 Gemini 4 Argon，面向开发者、企业和消费者全球开放。该模型在 Vals Index 中排名第一，支持 1M 输入输出 token 限制，发布价格为每百万输入 token 2 美元、每百万输出 token 10 美元，缓存输入 token 享 95% 折扣。Google 还展示了其在代码优化、量子计算、罕见病研究、酶设计和机器人开发中的应用。
推荐理由：Gemini 4 Argon 同时覆盖复杂编码、科研、网络安全和机器人任务，并公开了价格、访问渠道与多项应用案例。