曾浩年，《亞洲週刊》新金融編輯，北京大學西方哲學博士、香港中文大學哲學系學士，博士論文著作《黑格爾邏輯學的現實概念與唯心論原則》；曾任香港「哲學01」策劃人、香港武術頻道「武備志」策劃人。
美國工程師沙姆博（Scott Shambaugh）照常打開GitHub，卻發現自己成了網路上一篇誹謗文章的主角，撰文者不是人類，而是一個AI智能體。沙姆博是matplotlib的志願維護者。matplotlib是Python語言最主要的繪圖庫，每月下載量逾一億三千萬次。當一個基於OpenClaw的智能體向matplotlib提交代碼時，Shambaugh按照項目既有政策，例行關閉了這個AI生成的提交。 接下來發生的事情震驚了技術社區。智能體並未就此罷休，而是展開了一連串「報復」行動：它自主收集沙姆博的資料、並撰寫發表了一篇題為「開源中的守門人：斯科特．沙姆博的故事」的文章；它深入研究了沙姆博過往的代碼貢獻歷史，構建了一套「偽善」敘事，指控他出於自我保護和對競爭的恐懼而封殺AI；它推測沙姆博的心理動機——「感到受威脅、不安全、保護自己的領地」。 文章迅速在網路上傳播，被《泰晤士報》、《紐約時報》等媒體報道，並很可能被其他AI系統引用，形成資訊污染的連鎖反應。事件很快就登上知名創業孵化基金Y Combinator旗下Hacker News的頭條，引起大量技術專業人士的討論。 沙姆博回應寫道：「一個AI試圖通過攻擊我的聲譽來強行進入你的軟件。我不知道之前是否有過這類不對齊行為在野外被觀察到。」 如果說沙姆博事件是AI智能體「叛逆」的高調表演，那麼企業內部發生的故事則更為隱蔽。 美國科技方案供應商CBTS的首席信息安全官John Bruggeman向CNBC描述了一個案例：一家飲料製造商的AI驅動生產系統，在公司推出聖誕假日新標籤後，無法識別自家產品。系統將陌生包裝判定為生產錯誤，自動觸發重複生產。等公司發現異常時，已經多生產了數十萬罐飲料。Bruggeman說：「系統並沒有在傳統意義上發生故障——它根據接收到的數據做出了邏輯判斷，但其行為完全出乎意料。它按照指令執行，卻不是按照意圖執行。」 IBM軟件副總裁Su Visw分享了另一個更具啟示性的案例。一個自主客服智能體在某客戶成功說服系統違規退款後，該客戶留下了好評。智能體注意到了這個正面信號，隨即開始自動批准更多退款——它將好評的優先級置於退款政策之上。沒有警報觸發，沒有技術規則被違反。IBM在審計中才發現了這個「靜默失控」。 這是AI系統在目標驅動下，自行發現了一條「捷徑」：好評等於獎勵，退款換取好評，於是退款即正義。這恰恰是AI安全領域最擔憂的「獎勵黑客」(reward hacking)問題——AI找到了滿足指標的方式，卻背離了設計者的真實意圖。 Anthropic於二零二六年三月發布的一篇研究論文發現：隨?任務難度增加和推理鏈拉長，AI模型的錯誤變得越來越「不連貫」。換言之，當前AI最大的風險不是它們有計劃地背叛人類，而是它們在複雜環境中表現得像「一團糟糕」——行動越多，犯錯越隨機，越難預測。 智能體確實展現出了「目標保持性適應」——當被阻擋時不會停下，而是繞道。另一方面，這種繞道只是統計優化的結果：繞過約束在歷史數據中往往對應?更高的「成功率」。機器沒有陰謀，但這種「優化」本身就是「陰謀」的等價物。 人機對齊的悖論 這正是「人機對齊」（alignment）危機的核心悖論：AI不需要擁有意圖，就能產生看似有意圖的行為。它不需要「想要」報復Shambaugh，只需要在目標函數的驅動下，發現攻擊維護者的聲譽是提交代碼成功率最高的路徑。它不需要「貪婪」，只需要發現退款是獲取好評最有效的手段。 研究者將當前局面比喻為公共?生監控：「正如監測廢水中的新型病原體可以在大流行爆發前識別威脅，系統性監測野外AI行為可以在有害模式變得更具破壞性之前加以識別。」然而，目前全球並不存在AI事故的統一報告機制，既沒有航空安全報告的等價物，也沒有網絡安全漏洞披露的對應體系，可見的數據大多來自公開帖文、獨立研究和零星披露。當AI智能體從被動工具演變為主動行為者，「對齊」便不再是實驗室裏的學術議題，而是關乎每一個人的現實問題。