網路上正大量湧現「從不説不」的人工智慧模型,挑戰企業為聊天機器人設下的安全限制。據《Wired》報道,一羣被稱為「abliterators」的異議者正積極拆除這些安全護欄,將擺脱企業約束的模型散佈至網際網路。這種移除拒絕機制的做法同時帶來正反兩面的影響,不僅讓人們更容易改善自身的網路防禦能力,也讓製造炸彈變得更加容易。
拆除 AI安全護欄:從不説「不」的無限制模型正大量湧入網路
一羣被稱為「abliterators」的技術反叛者正在網路上大量釋出沒有安全限制的 AI 模型,試圖讓聊天機器人擺脱企業控制。這些從不拒絕使用者指令的模型在帶來便利之餘也伴隨高度風險,既能協助人們強化網路防禦,也可能讓製造炸彈變得更加容易。
約 1 分鐘閱讀
