人工智能太危險,所以人類要放慢腳步。Anthropic行政總裁Dario Amodei在題為《We Must Pace the Frontier》的長文中如此疾呼。他警告,若不及時踩下剎車,失控的AI代理群最快在數月之內便能接管互聯網;方案共有三層——讓獨立評估員進駐實驗室監督安全,民主國家同業協調進度上限(這需要華府發放反壟斷豁免),再與中國尋求有限度的協調。發出警告的,正是前沿本身的建造者——警告的對象,正是自己正在建造的東西。
與安全呼籲並列的,是把危險的源頭指向北京:中國若在AI取得領先,將對美國乃至世界構成嚴重危險,民主陣營的減速幅度因而必須以保持對華優勢為限,並維持芯片出口管制、打擊蒸餾與模型權重竊取。OpenAI的Sam Altman與xAI的Elon Musk隨即表態支持,DeepMind等巨頭高層相繼附和,支持陣營橫跨矽谷與政黨的左右光譜;參議員桑德斯(Bernie Sanders)更促請特朗普與習近平直接談判、締結一紙暫停AI的條約,安全議題就這樣被推上大國外交的枱面。


