美國人工智能巨頭Antrophic提醒關於AI的風險和隱患,卻想不到美國政府防範的就是它。 禤駿遠,Ian Huen,企業家,美國普林斯頓大學畢業,香港中文大學比較及公共史學文學碩士。著有《The Rising Sons: China's Imperial Succession & The Art of War》及《What Bruce Lee Didn't Know About Kung Fu and Other Revelations About China》;新作《你說的是從前——清末與今日中國》由商務印書館(香港)出版。電郵:[email protected]
美國人工智能AI巨頭Anthropic行政總裁Dario Amodei大概沒有想過,自己多年來講AI風險,最成功一課竟由美國政府親自示範。 六月十二日,Anthropic收到美國政府出口管制指令。政府以國家安全為由,要求公司停止任何外國國民接觸其最新、號稱最強大的大型語言模型Fable 5和Mythos 5。所謂外國國民,不只指海外用戶,也包括身在美國、任職Anthropic的外國籍員工。Anthropic只好暫停向客戶提供這兩個模型,其他Claude模型不受影響,但公司最耀眼的新產品,便遭一紙禁令按下暫停鍵。政府沒有交代疑慮,Anthropic理解是,政府相信有人可繞過Fable 5安全護欄並以此識別少量已知軟件漏洞。Anthropic辯稱,此等漏洞並不深奧;其他模型即使不繞過,也可能找出。 此事尤其尷尬,因為Fable 5和Mythos 5本是Anthropic安全敘事的一大武器。Fable 5面向一般用戶,Mythos 5則面向網絡安全專家和關鍵基建機構。
