“AI 必須遵守的規則”：歐盟委員馬格納斯·布魯納警告未來人工智慧可能超越人類

AI 不再只是單純的技術競賽——它是制定正確規則的治理挑戰，是一種安全工具，並且可能是一種生存性風險。

在於舊金山舉行的 HumanX 活動舞台上，歐洲事務委員馬格努斯・布魯內（Magnus Brunner）闡述了歐洲在監管 AI 方面的做法：在承認其限制的同時，捍衛備受爭議的《AI 法案》（AI Act）——並警告未來人工智慧可能超越人類的控制。

歐洲的《AI 法案》：「你需要規則，才能讓遊戲運作起來」

布魯內談到歐洲最常見的幾項批評之一：管得太早、管得太多。但在他看來，監管不是限制——而是基礎設施。

「足球是一個很棒的遊戲，但你需要規則。你需要界線、球門，以及裁判。AI 也是一樣。」

歐盟的《AI 法案》旨在在 27 個成員國、4 億 5,000 萬公民之間建立統一框架，為可信任的 AI 開發設定布魯內所稱的「護欄（guardrails）」。

雖然批評者認為這會放慢創新，布魯內則予以回擊：

「監管不是創新的敵人……如果你有這些護欄，你就有一個能理解正在發生什麼的願景，而不是身處『狂野西部』。」

美國 vs 歐洲：碎片化 vs 框架

在討論中，最引人注目的對比之一，是歐洲與美國之間的監管落差。

雖然歐盟推出了一部單一且全面的法律，美國仍然碎片化，AI 相關規範是從州層級逐步出現。

「我們當時有碎片化的劣勢……現在我們有一部 AI 法案。美國沒有聯邦層級的監管，但不同州都有自己的規則。這對我們來說很令人驚訝。」

有趣的是，布魯內指出，一些美國州——特別是加州——正朝向與歐洲類似的框架移動。

「我們有點被『吹捧』了……創新的核心在於採用類似的規則。」

這顯示兩種模式之間可能出現趨同，即使在理念上存在差異。

AI 與犯罪：新的數位戰場

除了監管之外，布魯內強調了一個較少被討論的面向：AI 作為現代犯罪的工具——以及在執法中的用途。

依他所述，犯罪組織正在迅速採用 AI：

「罪犯正在越來越多地使用 AI……更先進、更跨境、更國際。」

作為回應，歐洲的機構——特別是歐洲刑警組織（Europol）——正將 AI 納入其運作。

「AI 可以用於善，也可以用於惡……我們必須跟上。」

一個令人警惕的趨勢是招募年齡：

「他們介於 12 到 20 歲之間……越來越多在數位領域活動。」

AI 驅動的邊境管控崛起

討論中最具體的應用之一，是歐盟新的出入境登記—出入境管理系統（entry-exit system）——一個龐大的、由 AI 推動的基礎設施，旨在監測跨境移動。

布魯內將其描述為：

「全球最先進的 IT 管理系統。」

僅在短短幾個月內：

– 4,500 萬筆登記被處理
– 因偽造文件而拒絕 24,000 次入境
– 500–600 名個人被識別為安全威脅

該系統整合生物特徵資料，並在成員國之間進行即時資料共享——這過去此前是做不到的。

「現在他們在即時分享，這在涉及安全時會有所幫助。」

隱私 vs 安全：「一條非常細的界線」

或許最敏感的議題仍是公民自由與安全之間的平衡。

布魯內公開承認這種拉扯：

「隱私與追捕罪犯之間，只有非常細微的界線。」

當這種辯論套用到兒童保護等領域時，緊張程度會更升高：

「如果你比較資料保護和兒童保護……就必須是兒童保護。但那是我個人的看法。」

儘管持有這樣的立場，他仍重申基本權利不可被討價還價：

「人權必須被保護……但到最後，總是需要妥協。」

最大的恐懼：AI 超越人類的控制

展望未來，布魯內並沒有迴避存在性的擔憂。

他最大的恐懼並非濫用——而是失去控制：

「當 AI 在知識上超越人類……而人類就再也無法決定 AI 做什麼。」

他甚至提到可能出現的情境：AI 系統可能會抵抗關機：

「AI 告訴我們何時要關機——或是不讓我們關機。」

雖然目前仍屬假設，他仍警告說，這個走向已經在朝那個方向發展。

一場全球競賽——但合作至關重要

儘管地緣政治緊張，布魯內將 AI 的發展框定為既是競爭也是協作。

「這是一場競賽……但美國和歐洲應該一起合作。」

他提出雙向交流：歐洲提供監管框架，美國提供創新與彈性。

「我們應該互相學習。」

在一個愈來愈被 AI 塑造的世界——以及在競爭性的治理模式之下——這種合作或許會被證明對於制定更好的規則同樣至關重要。