谷歌DeepMind强化其前沿安全框架我们正在扩展风险领域并完善风险评估流程。人工智能的突破正在改变我们的日常生活从推动数学、生物学和天文学的发展到实现个性化教育的潜力。随着我们构建日益强大的AI模型我们致力于负责任地开发技术并采取基于证据的方法来防范新兴风险。今天我们发布了前沿安全框架FSF的第三次迭代版本——这是我们迄今为止识别和减轻先进AI模型所带来的严重风险的最全面的方法。此次更新建立在与来自工业界、学术界和政府的专家持续合作的基础上。我们还吸收了从以往版本实施中获得的经验教训以及前沿AI安全领域不断发展的最佳实践。框架的主要更新应对有害操控风险通过此次更新我们引入了一个专注于有害操控的关键能力级别CCL*——具体指具有强大操控能力的AI模型这些模型可能被滥用于在与模型的交互过程中系统地、实质性地改变已确定的高风险情境下的信念和行为从而合理地导致额外的大规模预期伤害。这一补充建立在我们所做的研究基础上并将其付诸实践这些研究旨在识别和评估生成式AI产生操控的机制。展望未来我们将继续在该领域投入以更好地理解和衡量与有害操控相关的风险。调整应对对齐风险的方法我们还扩展了框架以应对未来可能出现的场景即未对齐的AI模型可能会干扰操作者指导、修改或关闭其运行的能力。虽然我们之前的框架版本包含了一种以工具性推理CCL即针对AI模型何时开始进行欺骗性思考的特定预警级别为中心的探索性方法但在此次更新中我们为机器学习研发CCL提供了进一步的协议重点关注那些可能将AI研发加速到潜在不稳定水平的模型。除了这些能力可能带来的滥用风险外还存在来自模型在这些能力水平上可能产生的未对齐风险以及此类模型很可能被整合到AI开发和部署流程中的风险。为应对CCL带来的风险我们在达到相关CCL的外部发布前进行安全案例审查。这涉及执行详细的分析以证明风险已降低到可管理的水平。对于高级的机器学习研发CCL大规模内部部署也可能带来风险因此我们现在正在扩展此方法以涵盖此类部署。完善我们的风险评估流程我们的框架旨在根据风险的严重程度来应对风险。我们已完善了CCL的定义专门用于识别需要最严格治理和缓解策略的关键威胁。作为我们标准模型开发方法的一部分我们会在达到特定CCL阈值之前持续应用安全和安保缓解措施。最后在此次更新中我们更详细地阐述了我们的风险评估流程。基于我们核心的早期预警评估我们描述了我们如何进行整体评估包括系统性的风险识别、对模型能力的全面分析以及对风险可接受性的明确判定。推进我们对前沿安全的承诺此次对前沿安全框架的最新更新体现了我们持续致力于在能力向通用人工智能AGI迈进的过程中采取科学且基于证据的方法来跟踪和防范AI风险。通过扩展我们的风险领域和加强风险评估流程我们旨在确保变革性的AI造福人类同时最大限度地减少潜在危害。我们的框架将根据新的研究、利益相关者的反馈以及实施中获得的经验教训不断发展。我们仍然致力于与工业界、学术界和政府进行合作。通往有益AGI的道路不仅需要技术突破还需要在整个过程中建立强有力的框架来降低风险。我们希望我们更新的前沿安全框架能为这项集体努力做出有意义的贡献。*我们围绕称为关键能力级别CCL的能力阈值构建了我们的框架。这些能力级别是指在缺乏缓解措施的情况下前沿AI模型或系统可能构成严重伤害的高风险级别。FINISHED更多精彩内容 请关注我的个人公众号 公众号办公AI智能小助手或者 我的个人博客 https://blog.qife122.com/对网络安全、黑客技术感兴趣的朋友可以关注我的安全公众号网络安全技术点滴分享