在转变的热土硅谷，李飞飞、吴恩达等 AI 科学家正在与监管部门伸开一场对于安全与转变的拉锯战。

这场拉锯战的中枢是一个名叫 SB-1047 的法案。该法案的全称是「Safe and Secure Innovation for Frontier Artificial Intelligence Act（《前沿东说念主工智能模子安全转变法案》）」，试图为高风险的 AI 模子拓荒明确的安全规范，以驻防其被滥用或激发祸害性后果。

该法案于本年 2 月份在酌量院被提倡，随后引起了很大的争议。许多科学家以为，法案的条件过于辩认理，将对科技转变变成烧毁性的影响。

法案纠合：https://leginfo.legislature.ca.gov/faces/billTextClient.xhtml?bill_id=202320240SB1047

具体来说，该法案旨在从模子层面对东说念主工智能进行监管，适用于在特定策画和老本阈值之上试验的模子。

模子遮盖范围如下：

1、使用越过 10^26 次整数或浮点运算的策画才气进行试验的东说念主工智能模子，其老本越过一亿好意思元（100,000,000 好意思元），该老本是字据开发者合理评估的试验运转时云策画的平均市集价钱策画得出的。

2、哄骗等于或大于 10^25 次整数或浮点运算三倍的策画才气，对范围内的模子进行微调而创建的东说念主工智能模子。

这一范围基本遮盖了咫尺市面上通盘主流的大型模子。若是法案通过，这些模子都将被界说为存在「潜在危机」或需要额外监督。

法案还要求模子开发者对其模子的下流使用或修改承担法律牵累。在试验运转之前，开发东说念主员需要阐发他们的模子不会启用或提供「危机功能」，并实施一系列保护要领来驻防此类使用。这将膺惩开源社区的发展。

监督新法律履行的将是一个「前沿模子部门（frontier model division）」，这是一个新成立的监督和监管机构。该机构将制定安全规范并就东说念主工智能法律提供建议，向该机构诬陷模子的功能可能会使开发东说念主员因伪证而下狱。

法案中还加入了吹哨东说念主保护条件，保护和荧惑 AI 开发实体里面的举报者，确保职工不错在不受报复的情况下报恩企业的辩认规情况。

若是法案获取通过，州长 Gavin Newsom 的一个签名就不错将其纳入加州法律。a16z 无为合推动说念主 Anjney Midha 示意，若是这项法案在加州获取通过，将为其他州种植前例，并在好意思国国表里产生四百四病 —— 践诺上对转变情景带来纷乱的蝴蝶效应。

在太平洋夏日时分 8 月 7 日朝晨，干系部门将举行对于该法案的听证会。留给科学家们的抗议时分还是未几了。因此，李飞飞躬行撰文，陈明法案猛烈。还有些科学家正在签署一封联名信，以膺惩法案通过。

李飞飞的著述发表在《资产》（Fortune）网站上

李飞飞撰文抨击 SB-1047

李飞飞在著述中示意：「加州的 SB-1047 将产生要紧而出东说念主预料的后果。若是通过成为法律，SB-1047 将毁伤正在萌芽的东说念主工智能生态系统。SB-1047 将不必要塞刑事牵累开发东说念主员，抹杀开源社区，并膺惩东说念主工智能学术推测，同期无法科罚其旨在科罚的确凿问题。」

她写说念：

领先，SB-1047 将过度刑事牵累开发者并抹杀转变。若是东说念主工智能模子被滥用，SB-1047 要求牵累方和该模子的原始开发者承担牵累。每个东说念主工智能开发东说念主员（尤其是崭露头角的门径员和企业家）不成能预测到其模子的每种可能用途。SB-1047 将迫使开发东说念主员寥寂并接受驻防行动 —— 这恰是咱们试图幸免的。

其次，SB-1047 将持续开源开发。SB-1047 要求通盘越过特定阈值的模子都包含「隔断开关」，这是一种不错随时关闭门径的机制。若是开发东说念主员惦记他们下载和构建的门径会被删除，他们在编写代码和结合方面就会愈加游荡。这个隔断开关将谋害开源社区，这是无数转变的源流。其影响不限于东说念主工智能范围，而是在从 GPS 到 MRI 到互联网自己的各个范围。

第三，SB-1047 将缩小群众部门和学术东说念主工智能推测。开源开发对于私营部门很病笃，但对于学术界也至关病笃。若是莫得结合和对模子数据的拜谒，学术界就无法越过。若是咱们的机构无法获取合乎的模子和数据，咱们将怎样培训下一代东说念主工智能相同者？隔断开关以致会进一步缩小学生和推测东说念主员的悉力，与大型科技公司比拟，他们在数据和策画方面还是处于过失。当咱们应该加倍加大群众部门东说念主工智能投资时，SB-1047 将为学术东说念主工智能敲响丧钟。

最令东说念主担忧的是，该法案并未科罚东说念主工智能越过的潜在危害，包括偏见和深度伪造（deepfake）等等。相背，SB-1047 成就了一个任意阈值，调度使用一定策画才气或破耗 1 亿好意思元试验的模子。这项要领远非提供保险，只会贬抑包括学术界在内的跨部门转变。如今，学术东说念主工智能模子低于这一门槛，但若是咱们要重新均衡私营和群众部门东说念主工智能的投资，学术界将受到 SB-1047 的监管。咱们的东说念主工智能生态系统将会因此而变得更糟。

SB-1047 的贬抑过于已然，咱们必须接受相背的作念法。

我并不反对东说念主工智能料理。立法对于东说念主工智能的安全有用发展至关病笃。但东说念主工智能计策必须赋能开源开发，提倡补救且合理的国法，并拓荒糟塌者信心。SB-1047 未达到这些规范。

数十位科学家联名反对

针对 SB-1047，除了李飞飞，由加州大学 7 个校区的师生以及来自其他 20 多个机构的推测东说念主员组成的团体也在积极行动。他们共同草拟并签署了一封反对 SB-1047 的公开信，从推测者的角度启程，述说该法案对加州东说念主工智能推测和教诲目标的毁伤。

数据统计显示，上证信用债隐含评级AA以上指数近一个月上涨0.69%，近三个月上涨1.91%，年至今上涨3.94%。

联名信从以下几方面伸开施展 SB-1047 的辩认感性：

1、法案会给开源模子的发布带来「寒蝉效应」，从而毁伤推测

法案中要求对「前沿模子」进行「安全审核」和具备「都备关闭」才气，可能会严重膺惩开源和怒放权重模子的发布。这些严格的法则对于独到实体贬抑的专有模子来说可能更易于齐全，而对于非渔利组织或大学定约使用的怒放模子则较为费事。法案中对于安全展示和审核的条件表述不够具体，依赖于可能尚未存在且可能短少科学严谨性的测试。这种审计的潜在老本对于有盈利居品的买卖实体来说可能容易承担，但对于像 Meta 的 LLaMA 系列这么的买卖实体的科学性怒放发布，或是由非渔利组织或大学定约试验的怒放模子，情况可能并非如斯。

由于这些繁琐的贬抑，开源模子的开发者可能选拔在加州或好意思国以外构建系统，并在幸免牵累的前提下发布其模子。在这种情况下，不顾合规的私东说念主行动者可能会私密使用这些模子，而受到群众责轻易质敛迹的学术推测东说念主员将被遗弃在外，这促使他们改动推测主题或调动到不滋扰其学术解放的司法统帅区。开源模子的可获取性对于当代学术 AI 推测至关病笃，因为它们使学术界省略探索模子的责任旨趣、试验流程中的才气进步以及怎样进行改造和破解。

2、东说念主工智能风险预测与「才气」评估存在不科学性

行为东说念主工智能、机器学习和范围的众人，这些推测者强调：SB-1047 中提到的评估模子风险的建议方法相配值得怀疑。科学界就谈话模子或其他前沿东说念主工智能系统是否以及怎样对公众组成威迫尚未达成共鸣。

3、对开源模子的保护不及

尽管法案提到将来可能对开源模子提供特例，但由于参数数目的快速增长和策画老本的缩小，现存的保护要领可能难以捏续。在莫得强有劲的保护要领的情况下，这些模子濒临的后果可能很快就会知道。此外，性能很是的袖珍模子比拟大型模子需要更高的策画老本。因此，法案中的修正案展望无法缓解对开源模子发布的负面影响，而严格的报恩和审核要求还将不必要塞影响推测行动。

4、对学生的处事安置和职业后果的担忧

SB-1047 将来可能会膺惩对东说念主工智能感好奇的学生进一步学习干系常识，以致可能会膺惩新东说念主才干涉策画机科学等枢纽范围。此外，跟着科技行业从大公司向初创公司的转变，额外的监管贫苦可能和会过相沿更大、更好的企业来缩小新兴转变者。这种转变可能会缩窄学生的职业说念路。

联名信部分学者签名。

除了公开信，还有一些推测者选拔在外交媒体发声。其中，一位系统生物学家指出，SB-1047 就像在咱们还不知说念病原体是什么、何时会感染咱们以及感染会发生在那里之前就激活了炎症响应。

此前，吴恩达也屡次就此事发声。他以为，监管机构应该监管应用而不是本事。举例，电动机即是一项本事。当咱们将其放入搅动机、电动汽车、透析机或制导炸弹中时，它就成为了一种应用。念念象一下，若是法律法则，当任何东说念主以无益的模式使用电机时，电机制造商都要承担牵累。那电机制造商要么停产，要么将电机制造得相配小，以至于对大大都应用来说毫无须处。若是咱们通过这么的法律，可能会膺惩东说念主们制造炸弹，但咱们也会失去搅动机、电动汽车和透析机。相背，若是咱们保重特定的应用，就不错更合理地评估风险并判断怎样确保它们的安全，以致辞让某些类型的应用。

AI 确实还是危机到要如斯监管的地步了吗？对此，你何如看？

参考纠合：https://a16z.com/sb-1047-what-you-need-to-know-with-anjney-midha/

https://drive.google.com/file/d/1E2yDGXryPhhlwS4OdkzMpNeaG5r6_Jxa/view

https://fortune.com/2024/08/06/godmother-of-ai-says-californias-ai-bill-will-harm-us-ecosystem-tech-politics/?abc123

本文来自微信公众号“机器之心”，剪辑：张倩、小舟，36氪经授权发布。