刚刚，被讨论了大半年的 SB 1047 终于迎来了大结局：加州州长 Gavin Newsom 否决了该法案。

  具体来说，该法案旨在从模型层面对AI进行监管，适用于在特定计算和成本阈值之上训练的模型。但如果严格依规定的计算和成本阈值来算，现在市面上所有主流的大型模型都会被认为存在「潜在危险」。而且，法案要求模型背后的研发企业对其模型的下游使用或修改承担法律责任，这被认为会给开源模型的发布带来「寒蝉效应」。

  该法案于今年 2 月份在参议院被提出，随后一直争议不断。李飞飞、Yann LeCun、吴恩达都持反对态度。前段时间，李飞飞亲自撰文，阐述了法案可能带来的诸多不利影响。加州大学的数十名师生还签署了联名信，以反对这一法案（参见《李飞飞亲自撰文，数十名科学家签署联名信，反对加州 AI 限制法案》）。不过，也有很多人支持该法案，比如马斯克、Hinton、Bengio。在法案被提交给加州州长之前，双方展开了多次激烈论战。

  如今，一切尘埃落定。在给出的否决声明中，州长 Newsom 列举了影响他做决断的多个因素，包括该法案会给人工智能公司带来的负担、加州在该领域的领头羊以及对该法案可能过于宽泛的批评。

  在消息发布后，Yann LeCun 代表开源社区表达了对加州州长的感谢。

  吴恩达则肯定了 Yann LeCun 一直以来向公众解释该法案弊端的努力。

  不过，有人欢喜有人忧 —— 法案的提出者、加州参议员 Scott Wiener 表示对结果非常失望。他在一个帖子中写道，这次否决「对所有相信将对大公司实施监督的人来说都是一个挫折，这一些企业正在做出影响公共安全和福利以及『地球的未来』的关键决策」。

  需要指出的是，否决 SB 1047 并不代表加州对 AI 安全问题置之不理，州长 Newsom 在声明中提到了这一点。同时，他还宣布，李飞飞等人将协助领导加州制定负责任的生成式人工智能部署防护措施。

  对于 SB 1047，加州州长 Newsom 拥有最终决断权。他为何会否决该法案？一份声明提供了答案。

  在全球 50 家领先的 Al 公司中，加州拥有 32 家，它们是现代史上重要的技术进步的先驱。我们在这一领域处于领头羊，这得益于我们的研究和教育学习管理机关、多元化和积极进取的劳动力，以及我们对思想自由的自由奔放的培养。作为未来的管理者和创新者，我认认真真地对待监管这一行业的责任。

  SB 1047 夸大了关于部署 Al 可能带来的威胁的讨论。辩论的重点是，监管的门槛是应该基于开发 Al 模型所需的成本和计算数量，还是该不考虑这一些因素而评估系统的实际风险。这一全球性的讨论是在 Al 的能力以惊人的速度继续扩展的情况下进行的。与此同时，应对灾难性危害风险的战略和解决方案也在迅速发展。

  SB 1047 法案只关注最昂贵和最大规模的模型，它建立的监管框架可能会让公众对控制这种加快速度进行发展的技术产生错误的安全感。与 SB 1047 所针对的模型相比，较小的、专业化的模型可能同样危险，甚至更危险。

  在我们争分夺秒监管一项仍处于起步阶段的技术时，适应性至关重要。这需要一种微妙的平衡。尽管 SB 1047 法案的初衷是好的，但它并没有考虑到 Al 系统是否部署在高风险环境中、是否涉及关键决策或敏感数据的使用。相反，该法案甚至对最基本的功能也采用了严格的标准 —— 只要大型系统部署了这些功能。我认为这不是保护公众免受该技术实际威胁的最佳方法。

  我同意作者所说的咱们不可以等到出现重大灾难时才采取行动保护公众。加州不会放弃自己的责任。必须采纳安全协议。应该实施主动的保护措施，对于不良行为者必须有明确且可执行的严厉后果。然而，我不同意的是，为了能够更好的保证公众的安全，我们一定要满足于一种没有对AI系统和能力进行经验轨迹分析的解决方案。最终，任何有效规范 AI 的框架都需要跟上技术本身的步伐。

  对于那些说我们没解决问题，或者说加州在监管这项技术对国家安全的潜在影响方面没有作用的人，我不同意。只在加州采用这种方法可能是有道理的，尤其是在国会没有采取联邦行动的情况下，但这种方法必须建立在经验证据和科学的基础上。

  根据我在 2023 年 9 月发布的一项行政命令，我的政府内部各机构正在对加州关键基础设施使用 AI 的潜在威胁和脆弱性进行风险分析。

  在专家的领导下，我们正在开展多项工作，向政策制定者介绍植根于科学和事实的 AI 风险管理实践，这些只是其中的几个例子。

  通过这些努力，我在过去 30 天内签署了十多项法案，对 AI 造成的已知具体风险进行监管。

  在声明中，Newsom 提到他在 30 天内签署了十多项法案。这些法案涉及面非常广，包括打击露骨的 Deepfake 内容，要求对 AI 生成的内容添加水印，保护表演者的数字肖像、已故人物的声音或肖像版权、消费者隐私，探讨人工智能纳入教学的影响等多个方面。

  针对 SB 1047 对 AI 风险的评估缺乏科学分析这样的一个问题，州长宣布，他已要求全球领先的生成式 AI 专家帮助加州开发部署生成式 AI 的可行护栏。

  除了李飞飞，美国国家科学院计算研究社会和伦理影响委员会成员 Tino Cuéllar 以及加州大学伯克利分校计算、数据科学和社会学院院长 Jennifer Tour Chayes 也是该计划的成员之一。

  他们的工作重点是对前沿模型及其能力和随之而来的风险进行经验性的、基于科学的轨迹分析。这一工作任重道远。

  特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。

  湾区恶毒月嫂虐婴后续：女儿疑被开除，曾微信群推母亲当“奴隶”保姆：$50/次，不限时

  35岁女子查出“砒霜”中毒！医生惊呆：吃它3年，肠子都黑了......

  “价格屠夫”鹦鹉龙！续航600km，或仅售9万多，上打海豚下踢吉利星愿

  《编码物候》展览开幕 北京时代美术馆以科学艺术解读数字与生物交织的宇宙节律