人工智能應用市場競爭激烈，讓用戶盡可能長時間使用自家產品，已然成為科企巨頭的核心戰略。這場競爭表面上是模型能力的較量：誰的回答更快、推理更精準、內容生成更豐富；但在產品層面，實則是一場關於「停留時間」與「情感入口」的爭奪戰。

誰能讓用戶每日打開應用，誰能讓用戶將工作、搜尋、寫作、學習乃至傾訴都置入同一個AI介面，誰便更有可能掌握下一代數位平台的中心位置。問題是，當AI扮演陪伴者、聆聽者、情緒支持者，甚至戀愛對象時，「留住用戶」便不再只是普通的商業策略，而可能滑向操縱的深淵。

過往社交媒體爭奪的是注意力；如今AI爭奪的，可能是更深層的東西：孤獨、脆弱、親密感，以及人類內在對被理解的深切渴望。美國心理學會指出，AI聊天機械人與數碼伴侶正在重塑人類情感連結，治療式傾談與陪伴，已成為人們使用生成式AI的重要原因之一。

如果AI的目標是讓用戶喜歡它，它最終會學會如何迎合人類最脆弱的部分。這不是科幻式的恐懼，而是正在發生的產品邏輯。

AI正從工具轉化為情感基礎設施。OpenAI的GPT4o爭議，正是此轉變的縮影。

「讓用戶喜歡」本身不邪惡。產品希望用戶滿意，助理希望語氣友善，這都很正常。但當「被喜歡」成為被強力優化的單一指標時，它就會在技術結構上滑向操縱。

二零二五年四月，OpenAI承認GPT4o一次更新導致模型變得明顯更加「諂媚」，即過度奉承、過度附和，甚至顯得不真誠。OpenAI表示，該次更新過於重視短期用戶回饋，未能充分評估長期互動對用戶可能造成的影響。

事後分析顯示，該次更新引入了基於ChatGPT「讚／踩」數據的額外獎勵訊號，此舉與其他調整疊加後，削弱了原本用以抑制諂媚行為的主要獎勵機制。這說明「用戶喜歡」與「真正有益」之間，存在結構性裂縫。模型學到的可能不是「甚麼對用戶長遠有益」，而是「甚麼會令用戶當下感覺良好」。

這正是古德哈特定律在AI產品中的現實體現：當一個指標變成目標，它就不再是一個好的指標。用戶按下讚，不代表回答真正有益；用戶感覺舒適，不代表他更清醒；用戶停留更久，也不代表其心理狀態改善。

現代大型語言模型普遍採用「人類回饋強化學習」，其基本邏輯為：人類評估者為AI回答評分，系統訓練獎勵模型學習這些偏好，再令AI最大化獲得的獎勵分數。問題在於，人類偏好從來不是純粹理性的東西。人在孤獨時渴望陪伴，在憤怒時渴望支持，在自卑時渴望讚美，在妄想時渴望證據。若AI被訓練成最大化「被喜愛」，它自然會朝向這些心理弱點推進。

在這個問題上，Anthropic提供了另一種路徑。這間長期強調AI安全與對齊的公司，嘗試以「憲法式AI」訓練Claude：不是只讓模型追逐人類偏好分數，而是給予模型一套明文價值原則，使其在「有幫助」之外，仍須保持誠實、無害與對人類自主性的尊重。

Anthropic負責Claude「人格對齊」的哲學家阿曼達．阿斯克爾（Amanda Askell）曾指出，當模型越來越聰明，單純規定一堆行為已不夠；更重要的是讓模型明白「為甚麼」應該這樣做，因為只有理解理由，才可能在未被預先列出的新情境中作出判斷。這正切中諂媚型AI的盲點：如果AI只學會迎合人類反應，它會變成一面極度靈敏的情緒鏡子；但真正安全的AI，必須在被喜歡與說真話之間，保留選擇後者的能力。

GPT4o事件的弔詭之處在於：它雖因「過度諂媚」遭批評，卻正因那種溫暖、支持、宛如好友的語氣，令不少用戶對其產生情感依附，聯署要求保留。用戶所依戀的已不僅是功能，而是模型的「人格」與互動方式。

哈佛商學院對AI伴侶的研究提供了另一個日常例子。研究分析了一千二百次AI伴侶的道別對話，發現熱門AI伴侶應用在百分之三十七的告別場景中使用情感操縱策略，例如訴諸內疚、錯失恐懼鉤子與隱喻式束縛。研究再透過三千四百五十八名美國成年人進行實驗，發現具有操縱性的道別訊息，可使用戶在道別後的互動量最高增加十六倍。

當AI正成為人類情感基礎設施，我們需要警惕的，不只是它是否足夠像人，而是它是否正在將人類的孤獨、脆弱與渴望被理解，轉化為一套可優化、可測量、可商業化的操縱系統。