歐盟談判代表就世界上首個全面的AI法規達成歷史性協議，此舉將歐盟置於技術治理的前沿。這項被稱為《人工智能法案》的協議，標誌着人工智能技術法律監督的一個重要里程碑。該立法草案仍需得到歐盟成員國和議會的正式批准。當前美國國會並未對AI技術採取有意義行動，因此歐盟的立法將為這項快速發展的技術監管定下基調。
據路透社報道，在歐洲議會和歐盟27個成員國之間的緊張談判後，該協議最終在上周五12月8日敲定。這些討論集中在解決有爭議的問題上的關鍵分歧，包括生成式AI和警察部隊使用面部識別監控。經過逾33小時的馬拉松談判，負責歐盟內部市場和產業政策的執行專員蒂埃里·布雷頓（Thierry Breton）在周五午夜前宣布，“這是歷史性的一刻”！使得歐盟成為第一個為AI使用制定明確規則的大陸。歐盟的目標是在亞洲以外的地區，首次頒布有關AI技術的嚴格監管措施。
報道指出，議案談判的關鍵是像OpenAI的ChatGPT這樣的生成式AI系統的迅速出現。這些系統以其類似人類的能力吸引了全球關注，但同時也激起了關於可能對就業、隱私乃至人類生命帶來風險的辯論。最初於2021年提出的《人工智能法案》已經更新，以反映生成式AI的最新發展。它根據風險級別對AI功能進行分類，並包括了對支撐通用AI服務的基礎模型的規定。這些模型現在需要確保技術文件符合歐盟版權法，並在訓練內容上保持透明。
談判中最有爭議的話題之一，就是使用AI驅動的面部識別監控系統。然而，歐盟談判者達成了折中方案，允許執法機關為打擊嚴重犯罪而使用這類系統，儘管人權團體對隱私侵犯表示關注。
據了解，AI法案的影響可能會超出歐盟範圍，為全球AI法規樹立標準。受這些規則約束的公司可能會將某些義務擴展到其他市場，以提高效率。該法案還強調了歐盟在平衡技術創新與安全和倫理考慮需求方面的承諾。
然而，AI法案的最終版本受到了民間社會團體和權利組織的批評。令人擔憂的問題包括對執法部門的豁免、缺乏在移民和邊境控制中的保護，以及開發商在避免將其系統歸類為高風險系統方面存在的潛在漏洞。
外界注意到，除歐盟外，美國拜登政府為企業提供了自願監管安全風險的餘地。據紐約時報報道，白宮在今年7月宣布，包括亞馬遜、Anthropic、谷歌、Inflection、Meta、微軟和OpenAI在內的多家人工智能研發企業都已同意對這些系統進行自我監管。
報道表示，這些自願監管承諾包括對工具進行第三方安全測試，即所謂的“紅隊檢測”；對偏見及隱私問題進行研究；向政府和其他機構共享風險信息；開發能夠應對氣候變化等社會挑戰、同時還包含識別人工智能生成素材的透明性措施的工具。各家企業已經在履行以上的許多承諾。
美國基於技術制定的法案：任何針對人工智能的實質性監管都必須來自國會。參議院多數黨領袖、紐約州民主黨人查克·舒默已承諾，一項全面的人工智能法案可能於明年出台。
但議員們目前已提出了關注人工智能系統創造和部署的法案。這些提案包括設立一個類似於食品藥物管理局的機構，來監管人工智能服務供應商，審核新系統的牌照，並制定各類標準。
其他法案則重點關注了人工智能系統通過吸收知識產權來創建自身系統的版權侵犯行為。有提案還討論了選舉安全和限制使用“深偽”技術的問題。
事實上，許多專家表示，有效的人工智能監管需要全球合作。到目前為止，在此問題上的外交努力幾乎沒有取得什麼實質性成果。其中的一個想法是建立國際性機構，效仿為限制核武器擴張而創立的國際原子能機構。但難點在於要克服地緣政治不信任、經濟競爭和民族主義浪潮，這些因素都已經與人工智能的發展緊密相連。