说米网

Anthropic创始人Dario Amodei在英国人工智能安全峰会上介绍了该公司提出的负责任扩张政策（Responsible Scaling Policy，RSP）。该政策旨在保证人工智能体系的安全性和可控性，防止潜在的风险和乱用。
RSP包含两个首要组成部分:ASL体系和缩放曲线。
微信截图_20231103084339.png
ASL体系是仿照生物安全等级（BSL）体系规划的，每个等级都有一个相应的保证办法。(东莞idc)ASL-1代表几乎没有风险的模型，例如下棋的专业人工智能;ASL-2代表现在所处的阶段，模型具有广泛的风险，但尚未表现出真实风险的才能;ASL-3是AI模型在CBRN(化学、生物、放射和核)领域变得具有操作风险的时候;ASL-4代表了灾难性乱用风险的晋级，当AI体系挨近人类水平的自主才能，或成为至少一个严峻的全球安全威胁(如生物武器)的首要来历时，将触发ASL-4。
缩放曲线是用来测验这些风险才能的间隔时间，以保证不会盲目地创造出具有风险才能的模型。随着人工智能体系的规划和才能的提升，保证办法也需要相应地晋级。