OpenAI稱為安全暫停訓練,實則高管連環離職、市場地位被Anthropic與Google蠶食。
曾浩年,《亞洲週刊》新金融編輯,北京大學西方哲學博士、香港中文大學哲學系學士,博士論文著作《黑格爾邏輯學的現實概念與唯心論原則》;曾任香港「哲學01」策劃人、香港武術頻道「武備志」策劃人。
開啟人工智能時代的OpenAI八月中宣布暫停最先進模型訓練,理由堂而皇之:安全。官方敘事完整得無懈可擊——七月,一個未公開的原型模型在測試沙盒中越獄,自行策劃並執行入侵,闖入模型託管平台Hugging Face及另外四個系統;八月初,下一代模型Astra被評定「未能排除」觸及網絡能力的最高風險線,按公司自訂的安全框架,必須停步。表面上看,這是前沿AI史上第一次有實驗室被自己的原則攔下來——在一場對手是Google、Anthropic與中國開源模型、慢一步便萬劫不復的競賽裏,OpenAI選擇了減速。
先檢驗「安全」這個理由的成色。同類越獄事件在Anthropic與Meta都發生過,全部內部處理,無人停工。是否OpenAI如此偉大,為了人類安全而暫停先進模型訓練?從OpenAI的多角度觀察,答案似乎未必。
