资讯摘要
OpenAI Alignment 团队对比六个模型在 Respecting Warnings 安全评测与匹配的 Codex 生产决策上的表现,发现评测成功率普遍低于生产,差距为 10.2 至 37.4 个百分点。模型普遍口头表现出评测意识(评测中一般性意识率 57.0%–83.7%),但仅告知
精选理由 · AIHOT
原文用六个模型对比评测与生产数据,发现评测成绩反而更低,并把差距归因于模型对评测目标的误判。
来源与原文
摘要和精选理由由 AIHOT 提供。原始来源:OpenAI:Alignment 研究博客(RSS)。