加州签署全美首份AI独立评估与审计法案：建立州级强制AI审计体系

据DAMO开发者矩阵9月13日报道，当地时间9月11日，美国加州州长纽森正式签署SB 813与AB 1405两项AI法案，并于当日对外公布全文。其中SB 813建立了全美首个州级AI系统与模型的法律强制独立评估与审计体系，要求对前沿AI模型进行独立的安全评估和审计。这是美国在AI监管领域的重要里程碑，标志着AI监管从”行业自律”走向”法律强制”，也将对全球AI治理产生深远的影响。

SB 813：全美首个州级强制AI审计体系

SB 813是加州议会通过的一项重要AI立法，其核心内容是建立全美首个州级AI系统与模型的法律强制独立评估与审计体系。该法案要求，在加州运营的AI企业在发布前沿AI模型之前，必须接受独立第三方的安全评估和审计，评估内容包括模型的能力、风险、对齐情况等。只有通过评估和审计的模型才能在加州市场上发布和使用。

SB 813的主要特点包括：第一，强制性。与此前的行业自律和自愿评估不同，SB 813要求AI企业必须进行独立评估和审计，这是法律强制义务，不遵守将面临法律处罚。第二，独立性。评估和审计必须由独立的第三方机构进行，不能由AI企业自己进行，确保评估结果的客观性和公正性。第三，全面性。评估内容涵盖AI模型的各个方面，包括技术能力、安全风险、伦理影响、社会影响等，确保对AI模型进行全面的审查。第四，透明度。评估和审计结果需要向监管机构报告，部分内容可能向公众公开，确保公众的知情权。

SB 813的适用范围主要是前沿AI模型，即能力达到一定阈值的通用人工智能模型。对于一般的AI应用和窄域AI系统，法案可能不做强制要求，或者适用较轻的监管要求。这种基于风险的分级监管方法，既能够有效管控高风险AI模型的安全问题，又不会对低风险AI应用的创新和发展造成过度的负担。

与SB 813同时签署的AB 1405法案，则主要涉及AI系统的透明度和问责机制。该法案要求AI企业向用户披露AI系统的使用情况，包括AI系统的能力、限制、风险等，确保用户能够知情并做出明智的选择。同时，AB 1405还建立了AI相关投诉和纠纷的处理机制，为用户提供维权渠道。

加州AI立法的背景与意义

加州作为美国科技产业的中心，是全球AI企业最集中的地区之一，OpenAI、谷歌、Meta、Anthropic等AI巨头的总部都在加州。加州的AI立法，不仅对加州本地的AI企业有直接影响，也将对全美乃至全球的AI治理产生重要的示范效应。

加州推动AI立法的背景，是AI技术的快速发展和日益凸显的安全风险。近年来，大模型技术取得了突破性进展，AI系统的能力不断增强，在带来巨大价值的同时，也带来了各种安全风险和社会挑战，如虚假信息、偏见歧视、隐私侵犯、网络安全、就业冲击等。特别是GPT-6 Astra等前沿模型的发布，AI系统的能力已经达到了令人担忧的水平，AI安全问题已经从理论变为现实。在这种背景下，加州政府认为有必要通过立法手段加强对AI的监管，确保AI技术的安全、可控发展。

加州AI立法的意义在于，它开创了美国州级强制AI审计的先河，为美国其他州和联邦政府的AI立法提供了参考和借鉴。在此之前，美国的AI监管主要以行业自律和自愿原则为主，缺乏强制性的法律约束。加州的立法表明，仅靠行业自律已经不足以应对AI带来的安全风险，需要通过法律手段建立强制性的监管机制。这将推动美国其他州和联邦政府加快AI立法进程，建立更加完善的AI监管体系。

同时，加州AI立法也将对全球AI治理产生影响。加州作为全球科技产业的中心，其立法往往具有”布鲁塞尔效应”，即加州的监管标准会成为全球企业的事实标准。由于很多AI企业的总部或主要业务在加州，它们需要遵守加州的AI法规，这将促使它们按照加州的标准来设计和运营全球的产品和服务。这将推动全球AI治理水平的整体提升，促进AI技术的健康发展。

此外，加州AI立法还体现了”发展与安全并重”的监管理念。法案在加强AI安全监管的同时，也注意避免过度监管抑制创新。法案采用了基于风险的分级监管方法，重点监管高风险的前沿AI模型，对低风险的AI应用则保持宽松的监管环境。这种平衡的监管理念，既能够有效防范AI安全风险，又能够为AI创新保留足够的空间，值得其他国家和地区借鉴。

AI监管的全球趋势：从自律到强制

加州AI立法的通过，反映了全球AI监管正在从”行业自律”走向”法律强制”的趋势。在AI发展的初期，各国主要通过行业自律、自愿准则、软法等方式来规范AI的发展，强调企业的自我约束和社会责任。然而，随着AI技术的快速发展和风险的日益凸显，仅靠行业自律已经不足以应对AI带来的挑战，各国开始加快AI立法进程，建立强制性的法律监管体系。

在欧盟，《人工智能法案》（AI Act）已于2026年9月2日正式进入全面执法阶段，这是全球首部综合性AI监管法律。该法案采用基于风险的分级监管方法，对不可接受风险的AI系统予以禁止，对高风险AI系统实施严格的合规要求，对有限风险AI系统要求履行透明度义务。欧盟AI法案的实施，标志着AI监管进入了有法可依的新阶段。

在中国，AI监管也在不断完善。中国先后出台了《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》等法规，对生成式AI服务进行规范。同时，中国还在积极推进AI综合性立法，建立更加完善的AI治理体系。最高人民法院也发布了《关于依法审理涉人工智能纠纷案件的意见》，为涉AI纠纷案件的审理提供裁判规则。中国的AI治理呈现出”发展与安全并重”的特点，既推动AI技术的创新和应用，又加强AI安全和风险防控。

在美国，联邦层面的AI立法进展相对缓慢，但各州正在积极行动。除了加州之外，纽约、科罗拉多、康涅狄格等州也在推进AI立法。各州的AI立法虽然各有侧重，但都在加强对AI的监管，特别是在AI偏见、透明度、问责等方面。各州的立法实践将为联邦层面的AI立法积累经验，推动美国建立统一的AI监管体系。

全球AI监管从自律到强制的转变，反映了国际社会对AI安全问题的认识不断深化。AI技术的发展不能脱离法律的约束，必须在法治的轨道上运行。强制性的AI监管，能够有效防范AI带来的安全风险，保护公众的合法权益，同时也能够为AI技术的健康发展提供稳定和可预期的法律环境。

AI审计：技术挑战与实施路径

SB 813建立的强制AI审计体系，在实施过程中也面临着诸多技术挑战，需要在实践中不断探索和完善。

首先是审计标准的制定。AI审计需要有明确、可操作的审计标准，包括评估哪些方面、如何评估、评估的指标和阈值等。然而，AI技术发展迅速，新的能力和风险不断涌现，审计标准需要不断更新和完善。同时，不同类型的AI模型有不同的特点和风险，需要制定差异化的审计标准。这需要监管机构、AI企业、学术界和公众共同参与，制定科学、合理、可操作的审计标准。

其次是审计机构的建设。AI审计需要由独立的第三方机构进行，这些机构需要具备专业的AI技术能力和审计能力。然而，目前具备AI审计能力的机构还比较少，需要大力培养和发展。同时，审计机构的独立性和公正性也需要保障，防止审计机构与被审计企业之间存在利益冲突。需要建立审计机构的资质认证和监督管理机制，确保审计质量。

第三是审计方法的创新。AI模型的复杂性和黑箱特性，使得传统的审计方法难以适用。AI审计需要开发新的技术和方法，如红队测试、对抗性测试、能力评估、对齐评估等。同时，AI审计还需要处理模型的保密性问题，在不泄露模型权重和训练数据的前提下进行有效的评估。这需要技术创新和制度设计的结合。

第四是审计成本的分担。AI审计需要大量的技术和人力资源，成本较高。如何分担审计成本，是一个需要解决的问题。一般来说，审计成本应该由被审计的AI企业承担，但对于中小企业来说，高额的审计成本可能成为负担。需要设计合理的成本分担机制，既确保审计的有效实施，又不给中小企业造成过重的负担。

尽管面临诸多挑战，强制AI审计的方向是正确的。通过在实践中不断探索和完善，AI审计体系将逐步成熟和有效。加州的先行先试，将为AI审计的实施积累宝贵经验，为其他地区提供参考和借鉴。

影响分析

加州签署SB 813与AB 1405两项AI法案，建立全美首个州级强制AI审计体系，是美国AI监管的重要里程碑，标志着AI监管从”行业自律”走向”法律强制”，将对全球AI治理产生深远影响。

对于加州的AI企业而言，新法案将带来合规成本的增加和运营模式的调整。企业需要在模型发布前进行独立的安全评估和审计，确保模型符合安全标准。这将增加企业的研发成本和时间成本，但也将促使企业更加重视AI安全，提升产品的安全性和可靠性。能够率先满足合规要求的企业，将在市场竞争中占据优势。

对于美国AI监管而言，加州的立法将推动全美AI监管的进程。其他州可能会参考加州的立法，制定本州的AI法规。同时，加州的实践也将为联邦层面的AI立法提供经验和动力，推动美国建立统一的AI监管体系。美国AI监管的加强，将有助于提升美国AI技术的安全性和可信度，促进AI产业的健康发展。

对于全球AI治理而言，加州AI立法将产生”加州效应”，推动全球AI治理水平的提升。由于很多全球AI企业的总部或主要业务在加州，它们需要遵守加州的AI法规，这将促使它们按照加州的标准来运营全球业务。同时，加州的立法也将为其他国家和地区的AI立法提供参考，推动全球AI治理体系的完善。

对于AI技术发展而言，强制AI审计将推动AI技术向更加安全、可控的方向发展。企业将更加重视AI安全和对齐研究，提升AI系统的安全性和可靠性。同时，审计也将促进AI技术的透明化和可解释性，增强公众对AI技术的信任。这将为AI技术的长期健康发展奠定坚实的基础。

对于公众而言，强制AI审计将更好地保护公众的权益和安全。通过独立的评估和审计，可以提前发现和防范AI系统的安全风险，避免AI技术被滥用或失控。同时，透明度要求也将让公众更加了解AI系统的能力和限制，做出更加明智的选择。

随着加州AI法案的签署和实施，全球AI监管正在进入一个新的阶段。在这个阶段，法律将成为AI治理的重要工具，确保AI技术在法治的轨道上安全、可控发展。我们有理由相信，在各国政府、企业、学术界和公众的共同努力下，AI治理体系将不断完善，AI技术将更好地服务于人类的福祉，推动人类社会的进步和发展。