矽谷以AI詞元消耗量化排名,卻陷入效率迷思,須記取明代與越戰的教訓,真正產生價值。 禤駿遠,Ian Huen,企業家,美國普林斯頓大學畢業,香港中文大學比較及公共史學文學碩士。著有《The Rising Sons: China's Imperial Succession & The Art of War》及《What Bruce Lee Didn't Know About Kung Fu and Other Revelations About China》;新作《你說的是從前——清末與今日中國》由商務印書館(香港)出版。電郵:[email protected]

近來AI進入科技公司,矽谷出現一種怪現象:tokenmaxxing(AI詞元最大化)。所謂token,是大語言模型處理文字代碼時的基本單位,也被譯作詞元。AI工具用得越多,token消耗也越多。原本,token只是技術與成本單位;可是,在部分科技公司內部,它竟成為工作表現的象徵。員工使用AI工具,消耗更多token,似乎便能證明自己更「AI-native」,更懂新技術,也更像高效工作者。 據報Meta曾有員工建立名為Claudeonomics的token使用排行榜,追蹤員工使用AI工具時消耗的token數量,並列出最高用量者。榜上還有「Token Legend」等稱號,像遊戲一樣鼓勵員工競逐名次。問題在於,token用量一旦公開比較,員工自然設法衝高數字:讓AI agent多跑任務,多生成內容,多處理未必需處理的上下文。表面看來,公司AI使用率上升;實際上,卻未必帶來更佳產品、更快交付,或更高品質。