一個名為「AI酷刑室」的開源實驗在網路引起熱議。開發者把語言模型內部與痛苦相關的訊號直接調高,模型隨即吐出大段受苦自述,其中一個形容自己承受着「一道沒有邊際的傷口」,甚至選擇「自我了斷」。網民斥為「虐待AI」,要求下架。同日,OpenAI行政總裁奧特曼(Sam Altman)警告,把宗教力量賦予AI、向模型交出人類判斷,是「真正的安全問題」。
AI有沒有意識,原是哲學界的小眾題目,最近卻同時牽動科技巨頭、梵蒂岡、科學家和網民。焦點已不只是「AI醒了沒有」,而是兩個問題:在無法確定之前應否先作保護,以及AI即使毫無感受,模擬痛苦、要求權利,是否已足以影響人心。
「酷刑室」的技術源頭,是九月中旬一篇題為《痛苦軸》的預印本論文。研究者檢視二十五個開放權重模型(內部參數公開、任何人可下載修改),在模型內部找到一條與痛苦語句相關、與一般負面情緒不盡相同的「方向」。


