2024年9月29日，美國加利福尼亞州州長加文·紐森以“不應只考慮模型成本和算力”、“缺乏靈活解決方案”等為由否決了《CA SB1047前沿人工智能模型安全與創新法案》（以下簡稱《加州AI安全法案》）。該法案一經提出便備受爭議，此次法案被否決也反映出美國在AI立法中強調創新發展優先的一貫傾向。今年以來，全球多個國家和地區加快構建和完善AI治理框架，我國應密切關注相關政策法規的進展，包容審慎地推進AI監管，促進AI技術創新與監管的平衡發展。
《加州AI安全法案》的主要特征
《加州AI安全法案》自2024年2月經加州議會起草，經歷了12輪修訂和審議，9月被加州州長否決。該法案旨在監管包括Google、Meta、Anthropic和OpenAI等全球主要AI領先企業，內容涵蓋設立新的監管機構、制定監管大模型的標準、全流程的監管要求及嚴格的行政處罰，主要體現出以下五個特征。
明確的監管主體。法案明確將在政府內部設立獨立于技術部的前沿模型委員會，該委員會將負責動態更新模型監管閾值、審計要求、并提供安全指南等職能。
前沿的監管對象。法案將監管訓練成本高于1億美元，訓練期間使用達到10^26 FLOPS（浮點運算）的超大規模AI模型。現有大部分AI大模型尚未達到該門檻，但OpenAI、谷歌和微軟等科技巨頭表示未來可能很快就會在大模型開發中突破該計算閾值。
全流程的監管要求。法案列出了AI企業應當遵守的各種關鍵測試和安全要求，主要包括：在模型訓練前的必須具備“可立即全面關閉能力”，在模型使用或公開前應開展安全測試與評估，在模型開發中應每年開展保護措施、安全保障等方面的評估，在實際應用中需聘請第三方審計師評估AI安全實踐。
嚴格的行政處罰。違反法案規定的大模型開發者（包括個人）將會被提起民事訴訟，賠償金額最高可達算力成本的30%；法院可以對出具虛假審計書的審計師、違反信息記錄規則的云服務商處以最高5萬美元的罰款。加州勞動用工監管機構則可以根據《勞工法典》起訴報復檢舉人的企業。
廣泛的影響力。美國加州是全球50強AI公司中32家總部所在地，擁有多家高影響力的研究和教育機構，發表四分之一的AI相關專利和會議論文。Crunchbase數據顯示，2023年全球超過50%的AI風險投資資金都流向了總部位于美國加州的公司，加州無疑是全球AI創新和發展最主要的中心。隨著AI技術的全球化發展，《加州AI安全法案》的立法探索也引發了包括歐盟在內眾多主要經濟體的關注，為各國探索AI監管提供了經驗。
各界針對《加州AI安全法案》的主要分歧
《加州AI安全法案》一經公布便引發了廣泛爭議。加州的主要科技公司、高校與研究機構及加州眾議院的民主黨成員等均對法案表示強烈反對，并多次公開呼吁抵制。但同時，以埃隆·馬斯克為代表的科技領袖、圖靈獎得主Yoshua Bengio以及美國非盈利組織人工智能安全研究中心（CAIS）等則公開支持該法案，認為應通過立法手段對技術發展進行規制。綜合來看，針對法案的主要分歧集中在AI立法的主導權競合、AI模型的風險監管標準設定及技術創新與監管的平衡三個方面。
AI立法主導權的競合。在美國聯邦層面，拜登政府試圖改善AI監管碎片化、地方化的困境，但實際上美國國會AI立法屢次陷入僵局。參議院多數黨領袖舒默在領導兩黨AI工作組經過三個多月籌備討論后，也僅提出了一份類似“AI政策路線圖”的報告，并表示“不應追求單一的全面AI法案”，與此前宣稱要推進全面監管AI的立法的態度大相徑庭。在美國州政府層面，科羅拉多州率先通過首部全面AI監管法案，加州也積極跟進開展AI立法探索，力圖通過州法案對聯邦立法產生積極影響。加州州長加文·紐瑟姆直言，在聯邦層面AI立法停滯不前的情況下，推動州立法是合理的。然而，以OpenAI為首的科技企業則公開聲稱，企業已在內部采取相應的安全防護措施，政府在聯邦層面實施AI安全監管即可。這一立場反映了加州科技企業的一貫態度，即否定州立法的必要性，強調法律環境的復雜性可能增加企業的合規負擔，主張從聯邦層面制定統一的法律框架。考慮到聯邦與州政府就AI立法的主導權競合關系，美國AI監管的進程很可能呈現出縱向基于場景的AI立法先于“大而全”的AI橫向立法、州立法先于聯邦立法的情況。
AI模型風險的監管困境。法案提出AI的監管標準應基于開發AI模型所需的成本和計算能力，提前規避可能由AI引發的風險。支持者認為，AI可能會對人類構成“毀滅性的打擊”，應為大型AI模型設定一系列監管標準，促使行業更加重視安全性與合規性。反對者則認為，“AI毀滅論者”夸大了技術威脅，不僅忽視了較小的、專業化的模型可能帶來的風險，也未充分關注到深度偽造、虛假信息等已出現的安全問題。此外，加州州長加文 紐瑟姆在否決聲明中表示，加州需要主動采取防護措施來應對AI風險，但法案沒有評估AI大模型是否被應用于高風險領域，而是對所有大型系統一概施加嚴格的標準，可能存在“一刀切”的監管執法情況。由此可見，如何就AI模型存在的風險設定監管標準，各方意見尚難達成一致，這也凸顯了基于AI模型的風險標準設定的復雜性。
創新與監管的平衡問題加劇。如何平衡AI創新與安全，始終是《加州AI安全法案》爭論的核心問題。一方面，法案支持者強調，通過法律手段實施監管可以防止潛在的災難性后果，尤其是據此對以利益為導向的企業行為進行約束；強制性的安全測試和法律監管有助于確保AI技術的安全性，進而保護公眾權益。另一方面，法案反對者認為，一旦法案通過將會抑制創新。法律環境的高度不確定性及合規成本的增加，尤其會限制小型AI企業和開源開發者的創新潛力。從加州整體立法趨勢來看，2024年9月加州州長加文·紐瑟密集批準了17項與AI相關的其他監管法案，重點規制加州已經面臨的深度合成、虛假信息和版權威脅問題，呈現出了以州治理需求為主，立足實際應用場景中的風險治理特點。這一系列舉措表明加州政府對AI技術發展及其安全合規使用高度重視，也展現了加州在推動創新與強化監管之間尋求平衡的政策取向。
結語與展望
《加州AI安全法案》在立法過程中，也引起了歐盟委員會的高度關注。《加州AI安全法案》與歐盟的《AI法案》在基于風險的方法上具有概念上的一致性，在監管內容上又能構成操作協同性，將有助于推動AI全球監管的一致性。相較而言，兩項法案在監管范圍、監管對象、監管內容等方面又存有差異。監管范圍上，歐盟的風險范圍界定更加廣泛，除《加州AI安全法案》提到的嚴重傷害外，歐盟還增加了加劇社會不平等和歧視的風險。在監管對象上，《加州AI安全法案》側重監管前沿大模型，所設定的監管門檻尚無AI企業達到；歐盟的《AI法案》則針對現有大模型開展監管。在監管內容上，《加州AI安全法案》細化了基礎模型監管，尤其在透明度方面，強調了規定的訓練前、部署前的通報義務，比歐盟《AI法案》的訓練數據披露要求則更加詳細。
《加州AI安全法案》被否反映了美國在AI領域強調發展優先的一貫態度，眾議院議長南希·佩洛西在法案否決后公開表示贊賞，“AI領域發展與主導不僅僅是大型科技公司，還有小型企業和學術界”。此外，美國加州政府并未停止對AI監管的探索，在否決法案當日，加州州長單獨簽署了有關生成式AI對關鍵基礎設施風險的評估法案，并要求“對可能導致大量傷亡事件的威脅的立法”，闡明了加州將通過分散式的審慎立法方式持續探索倫理、透明和可信的AI發展路徑，為保持全球AI的領先地位提供保障。
從各界對《加州AI安全法案》的爭議，以及近期全球AI立法的探索中，我們也可得到有關完善我國AI監管體系的一些啟發，尤其在優化促進創新和依法治理相結合的監管路徑方面。一方面，積極開展針對AI在應用中的潛在威脅和脆弱性風險分析，基于科學發展規律和實踐經驗，探索構建多層次AI安全防護措施和高水平技術保護手段。另一方面，加快構建鼓勵創新的風險容錯機制，構建具有靈活性和可操作性的監管框架，兼顧技術發展的動態性與安全監管的必要性，推動AI健康安全可持續發展。
