AI安全監管︱三間最想打敗對方的AI公司，為何突然坐下來談安全？

　　OpenAI、Anthropic與Google DeepMind正在商討共同的AI安全標準，但目前仍未有正式協議。真正值得留意的，不只是三間競爭對手願意合作，而是誰有權檢查它們、誰可以叫停，以及出了事有沒有後果。

 

　　上星期談到，一名曾在OpenAI及Anthropic工作的研究員辭職，警告業界正在拿全人類的生命下注。

 

　　一星期後，事情有了意外發展。OpenAI確認，正與Anthropic及Google DeepMind商討AI安全合作。三間平日爭模型、爭人才、爭市場的公司，突然願意坐到同一張桌前。

 

　　不要急著理解成它們已經成立了「AI監管局」。截至目前，外界只知道商討已進行多個星期，正式協議、權力範圍和成立日期都未公布。

 

　　但問題已經很清楚：如果連造AI的人也認為單靠各自把關並不足夠，下一道安全門應由誰來守？

 

為甚麼競爭對手要合作

 

　　假設三間航空公司正在比賽，誰的飛機最快、航程最遠、票價最低。每一間都知道，測試多一天，對手便可能早一天搶走市場。即使大家都重視安全，競爭本身仍會把所有人推快一點。

 

　　AI公司面對的是相同難題。某一間公司自行放慢，並不代表其他公司或其他國家會跟隨。於是「我不敢慢，因為別人不會慢」便成為所有人的合理選擇，最後卻形成集體風險。

 

　　這次討論的背景，正是希望把部分安全要求變成共同底線。Google DeepMind主席Demis Hassabis早前提出，由美國牽頭建立一個有政府監督的標準組織，形式類似監管證券商的機構，在最強大的AI模型公開前先進行測試。

 

安全不能只靠公司說自己安全

 

　　今日每間AI公司都有自己的測試、風險報告和安全承諾。問題是，試卷由自己出，答案由自己改，何時可以推出產品也是自己決定。

 

　　Anthropic提出的方向更進一步：前沿AI公司應公布測試摘要和風險報告，並讓合資格的獨立評估者進入公司，接觸足夠的系統、流程和資料，核實安全措施及報告事故。OpenAI亦公開表示，業界標準只能補充法律，不能取代政府監督。

 

　　這個分別就像大廈消防安全。管理公司可以每天巡查，但消防門是否合格，不能只憑管理公司說一句「我們檢查過」。要有共同標準，要有人獨立驗證，也要知道不合格會有甚麼後果。

 

由大公司訂規則，也有另一種危險

 

　　三大公司合作，不代表答案自然正確。

 

　　規則如果寫得非常昂貴、非常複雜，小公司可能根本無力參與。最後能夠符合標準的，剛好只剩下最有資源的幾間巨企。安全便可能同時變成一道市場圍牆。

 

　　另一個問題是權力。獨立評估者可以看到多少？能否公開問題？發現重大風險時，有沒有權要求延遲推出？如果公司不同意，誰作最後決定？

 

　　沒有存取權，檢查只是參觀。沒有公開報告，透明只是口號。沒有後果，承諾只是君子協定。

 

這跟香港人有甚麼關係

 

　　香港未必參與制定這套全球規則，但我們每天都在採購和使用這些公司的產品。學校把學生資料交給AI，銀行讓AI整理客戶文件，公司讓AI接觸電郵、合約和內部系統。真正的風險，往往不是世界末日，而是權限給得太快，責任定得太遲。

 

　　那麼你可以做甚麼？

 

　　一、公司採用AI前，不只問功能和價錢，也問有沒有獨立安全評估、事故紀錄和清晰的資料處理方式。

 

　　二、不要一次交出所有權限。先讓AI閱讀，未必需要讓它修改；先讓它起草，未必需要讓它發送。每多一項權限，都應有一個人負責批准。

 

　　三、預先定下停機方法。AI做錯決定時，誰可以即時停止？多久能收回權限？如果答案只是「供應商會處理」，那不是應變計劃。

 

　　四、涉及付款、聘用、醫療或學生處分等重要決定，保留真人覆核，不要把最後一關交給AI。

 

　　三間死敵願意坐下來，至少證明一件事：AI安全已經不是任何一間公司可以獨自回答的問題。

 

　　但坐下來談，只是第一步。

 

　　真正的煞車，不是車廠告訴你它很安全，而是有人可以檢查、可以公開問題，必要時更可以叫它停車。

 

　　如果檢查的人由車廠挑選，規則由車廠撰寫，而停不停車仍由車廠決定——那到底是監管，還是另一場公關？

 

Leonard Lam

香港AI培訓學院

https://www.hkai-solve-academy.com/