隨著人工智慧技術的發展，業界對AI模型的安全性與監管需求愈加迫切。近日，位於美國的AI新創公司Anthropic積極推動一項新法案，意在確立前沿AI技術的安全防護措施。根據報導，Anthropic已向美國國會議員介紹該法案草案，該草案明確規範政府對於AI模型發布的介入時機及條件。
確立干預邊界，清晰風險標準
根據報導，該草案規定，只有在AI模型造成可預見、迫在眉睫的風險情況下，政府才有權介入阻止其發布或使用。具體而言，當該模型可能造成超過10億美元的損失，或導致50名以上的人死亡或重傷時，政府才會考慮干預。這項明確的門檻設定，也在一定程度上減少了不必要的干預，給予創新業者足夠的自由空間。
同時，法案要求風險必須源於特定情境，例如生物武器的開發或釋放、AI模型的控制失效，或是由AI導致的網路攻擊。這些明確的要求讓不同角色的利益相對集中與可控，從而引發了對社會與經濟影響的深思。
專家評估的重要角色
與此同時，法案中還提出了對AI實驗室的獨立評估機制，要求其定期向商務部登記並接受評估。這些獨立機構對AI模型的評估將不僅限於技術層面，還將包括對其潛在風險的分析，並確保開發者公開測試的結果。
Anthropic發言人表示，該法案反映了其稍早公布的「先進AI框架」中所提出的建議，期望透過專業評估機構的參與，強化對於AI安全的監管與測試機制。這種合作模式可能在未來成為其他國家監管AI的重要參考，提供有效的合作與監管框架。
技術進步與法律監管的平衡
在推動該法案的過程中，Anthropic及其代表的意圖不僅是為了自身的商業利益，而是希望能夠設立一個更具前瞻性的框架，讓各方在技術進步與法律監管之間找到一個平衡。面對迅速發展的AI技術，如何在保障社會公眾安全的同時促進創新，已成為全球科技企業和政府機構亟待解決的課題。
此外，要求評估機構在發現模型存在風險後，須在72小時內通報商務部的條款，亦為這項法案增加了緊迫性與必要性。若評估機構認定某模型具潛在風險，商務部可進一步向法官申請法律暫停，防止潛在的傷害擴大。
結語：未來的AI監管可能性
在這背景下，Anthropic的這項法案或將對AI法規的制定以及未來AI技術的安全發展起到積極的推動作用。從政府對AI的監管、發展的限制，到如何系統性地進行評估，這些都為業界提供了更加明晰的指引，並有助於建立安全、負責任的AI生態系統。
隨著全球對於AI技術的關注愈加升溫，這項新法案的提案與討論，無疑為各國在應對AI的挑戰上提供了一種思考角度，未來若該法案得以通過，將有可能成為其他國家進行AI監管的重要參考範本。
