歐盟推出全球首個監管人工智能法案
經過成員國和歐洲議會三天的緊張談判,歐盟終於同意在全球範圍內史無前例地立法監管人工智能 (AI)。這也是全球第一個人工智能監管法案。
發表時間:
歐盟聯合立法者就一項文本昨天稍晚達成了“政治協議”,該文本應促進歐洲的創新,同時限制這些非常先進技術可能的過度使用。
據歐盟委員蒂埃里·布雷東 (Thierry Breton) 對此表示歡迎說,“是歷史性的!歐盟成為第一個為人工智能的使用制定明確規則的經濟體”。
出台人工智能監管議案在 2021 年 4 月就提出計畫。 從那時起,討論就一直被拖延着。最後一輪談判於周三下午開始,持續了近 35 個小時……
去年年底,ChatGPT 的出現對這一過程產生了推動影響,ChatGPT 是來自加州公司 OpenAI 的文本生成器,能夠在幾秒鐘內寫出論文、詩歌或翻譯。
這個系統,就像那些能夠創造聲音或圖像的系統一樣,向公眾展示了人工智能的巨大潛力。 但也存在一定的風險。 例如,社交網絡上散布的虛假照片似乎比真人還要惟妙惟肖,這提醒人們注意操縱輿論的危險。
應歐洲議會議員的要求,這種生成式人工智能現象已被納入當前的談判中,他們堅持對此類高影響力技術進行具體監督。 他們特別呼籲提高這些系統核心的算法和巨型數據庫的透明度。
但歐盟成員國擔心過度監管會導致開發成本過高,從而將德國的 Aleph Alpha 和法國的 Mistal AI 等新興領軍企業扼殺在萌芽狀態。
據法新社說,周五晚上達成的政治協議必須輔以技術工作以最終敲定法案。 據法國數字部長讓-諾埃爾·巴羅(Jean-Noël Barrot)回應道,“我們將仔細分析今天發現的妥協方案,並確保在未來幾周內,該文本保留歐洲開發自己的人工智能技術的能力並保留戰略自主權。”
科技行業至關重要。 據CCIA(其主要遊說團體之一)的歐洲經理丹尼爾·弗里德蘭德(Daniel Friedlaender)擔心,“速度似乎戰勝了質量,這可能會給歐洲經濟帶來災難性的後果。” 據他說,現在在關鍵細節上“技術工作”是“必要的”。
在生成人工智能方面,折衷方案提供了兩種速度的方法。 規則將強加給每個人,以確保算法開發中使用的數據的質量,並驗證它們不違反版權法。
開發人員還必須確保所產生的聲音、圖像和文本被明確標識是人造的。
強化約束僅適用於最強大的系統。
該法案文本採用了現有歐洲產品安全法規的原則,這些法規主要基於公司實施控制。該項目的核心包括一系列僅適用於被視為“高風險”的系統的規則,主要是在關鍵基礎設施、教育、人力資源、執法等敏感領域使用的規則。
這些系統將承擔一系列義務,例如提供機器的人工控制、建立技術文檔或實施風險管理系統。
該立法規定了對與人類互動的人工智能系統的具體監管。 它將迫使他們通知用戶他正在與機器智能接觸。
未來禁令或將很少見。 監管將關注與歐洲價值觀相悖的應用,例如中國使用的公民評級或大規模監控系統,或在公共場所對人員進行遠程生物識別,以避免對人群進行大規模監控。
然而,就最後一點而言,各國已獲得某些執法任務(例如反恐)的豁免。
與某些國家的自願行為準則不同,歐洲立法將配備監視和制裁手段,並在歐盟委員會內設立歐洲人工智能辦公室。 對於違規行為,最高可處以營業額 7% 的罰款,罰款上限為 3500 萬歐元
據讀賣新聞今天報道稱,歐盟這部全球首部全面人工智能監管法,預計最早將於今年獲得通過,並於 2026 年生效。
據該報稱,在三方會談中,歐洲議會和歐盟理事會之間發生了激烈的衝突,歐洲議會呼籲對生成人工智能中使用的語言模型進行強有力的監管,而歐盟理事會則表示不贊成過度監管。