美Anthropic報告稱中國AI公司蒸餾美國大模型,中國發現蒸餾安全隱患,國內數據被洩露,包括利用美國AI模擬攻台。
美國人工智能公司Anthropic九月十日發布《檢測與打擊AI濫用》威脅報告,在中美雙方都產生巨大影響。美國驚呼自己的AI能力被「抽走」,而中國則發現,蒸餾國外模型存在巨大安全隱患——有人把監控錄像交給自以為在用的 Kimi,但請求被轉到 Claude;另有公安系統、境外數據庫憑證等被轉發,乃至模擬攻台都被傳至美國AI來分析。中國高層震怒之際,不但發文要求重視AI安全,更開始調查AI公司洩密情況。
Anthropic報告稱識別並阻斷了針對Claude模型的多起「未經授權蒸餾」活動,並以高置信度將其中一部分歸因於七家中國實驗室或企業。被點名的是:阿里巴巴通義實驗室(Qwen)、月之暗面(Moonshot AI,Kimi)、深度求索(DeepSeek)、智譜、小米、商湯,以及MiniMax。
蒸餾本身並非新概念。業內通行做法是:用更強模型的輸出去訓練更小、更便宜的模型,以降低訓練成本,但大規模蒸餾閉源模型而彎道超車,在業界仍有爭議。
按Anthropic的報告,規模最大的一波與阿里巴巴相關。


