雪櫃(冰箱)會成為黑客目標,大概不像多數人想像中的人工智能危機。十月,法國多家超市的冷藏設備遭入侵。黑客遙控調高雪櫃溫度,部分更升至攝氏五十度,食品大批報廢,甚至釀成火警。數星期後,瑞典、比利時等地再有同類事故。不少人都擔心黑客正以AI找出多年來無人理會或發現的漏洞。過去,黑客要逐個目標偵察、測試,失敗再另覓門路。時間、技術、人手,本身就是限制。如今人工智能代理(AI agent)接到目標後,可以自行掃描系統、尋找弱點、嘗試不同路徑;一條路走不通,便換另一條,還可同時對付大量目標。
十月,一名中文黑客便利用開源平台Cairn協調AI代理,攻擊逾一千二百個網站,最後闖入逾百家公司,整場行動的模型運算成本估計僅約五千美元。AI未必令每次攻擊都更高明,卻能令攻擊近乎不知疲倦。
近年談AI風險,總離不開幾個大題目:工作消失,白領被取代,通用人工智能超越人類,甚至有一天反過來控制人類。這些問題自可繼續爭論,但眼前更迫切的危機,顯然是網絡安全。我們把越來越多日常運作交給聯網系統,攻擊這些系統的成本卻正急遽下降。

