短視頻平臺上，身著正裝、開著豪車、戴著金表的“儒雅霸總”，張口“姐姐”、閉口“想你”，噓寒問暖甚至下跪求婚……據4月13日新華社報道，這些“AI霸總”或是AI數字人，或是經AI換臉、擬聲偽造的形象，話術直白，戳中不少老年粉絲的心意。即便視頻下方標注著“內容由AI生成”，一些老年粉絲依舊深信不疑。記者搜索關鍵詞發現，僅平臺推送來的“AI霸總”賬號就達上百個，數個賬號粉絲達到十幾萬。
嘴上都是“情意”，心里全是生意——“AI霸總”類賬號打著“高端人設”的幌子與老年人進行情感交流，為的是最大限度積累流量，后續通過多種方式變現，包括賺取平臺流量收益，開展帶貨、打賞或私域營銷活動，為婚戀、醫療、養老等其他商業機構引流賺取傭金等。從AI數字人制作、文案批量生成，到引流、互動、轉化，每一環都在算計如何從老人的情感需求中榨取價值。
“AI霸總”圍獵老年人，本質上是對人性弱點的精準攻擊。一方面，時下，獨居、空巢是不少銀發群體的常態，“霸總”人設中的“霸道寵溺”“專一深情”，填補了一些老年人的情感空白。另一方面，銀發群體中的不少人對AI技術的認知有限，難以理解“眼見未必為實”的道理。此外，技術手段大幅降低了“AI換臉”“擬聲合成”的成本，加之平臺算法持續為老年用戶推送同類高濃度內容，從而令一些銀發族陷入“情感空虛—邂逅霸總—尋求互動—被精準收割”的窘境。
“AI霸總”讓一些老年人“上頭”的同時，也為其帶來多重風險。在財產安全層面，從直播間帶貨、付費解鎖“專屬陪伴”，到誘導轉賬、投資“高回報項目”，老年人的養老錢可能被一步步掏空。在身心健康層面，過度沉迷虛擬互動，會加劇老年人現實中的孤獨感。在個人信息安全方面，老年人個人隱私信息可能被獲取，成為進一步精準收割的“原料”。
曾經，我們擔心老年人被“干兒子、干女兒”們誘騙買保健品；后來，一些老年人落入了短視頻平臺上的假明星騙局；再后來，“AI+”對銀發群體的誘騙成為了一套可批量復制的收割模型。這一過程中，圍獵手段從“人工話術”升級到“AI量產”，從“一對一突破”進化到“即使千人千面也能精準營銷”……AI技術的迭代速度超過了治理的反應速度。對此，相關部門已經出臺規定對AI生成內容進行強制標注，但這顯然遠遠不夠。在AI技術快速發展的時代，相關治理需要多些未雨綢繆。
一方面，平臺方不能只為技術做“嫁衣”，還應承擔起內容審核的倫理責任；技術開發者在追求模型迭代的同時，也應主動嵌入倫理設計；監管部門則需依法嚴厲打擊利用AI實施的情感詐騙、虛假宣傳等行為，落實“誰使用、誰負責”的主體責任，讓“AI不是免責金牌”成為共識和鐵律。
另一方面，無論是家庭還是社會，需要進一步看見那些被忽視的情感需求與渴望。“AI霸總”視頻的評論區里，有粉絲說“就算你是假的，我也愿意信一回。”可見，澆滅一系列AI幻象與相關人群之間的“火花”，有必要以更可行、更智慧的方式滿足相關群體的情感需求，這需要各方伸出溫暖的手，拉相關群體走出“情感孤島”。
算法可以計算流量，但不能算計人心；技術可以模擬情感，但無法替代真實的關愛。阻斷AI幻象滲透和蔓延的鏈條，守護好每個人的數字安全與情感尊嚴，這是應對“數字情感收割”的基本原則，也是技術向善的題中應有之義。
來源：工人日報 評論員 韓韞超
編輯：喬然 肖婕妤
審校：曹玥
全紅嬋缺陣！跳水世界杯總決賽中國隊名單公布
美軍超1萬人封鎖伊朗港口
“江西74歲老太殺害73歲老太藏尸”案宣判，被告人被判死緩；剛出生4天嬰兒稱重時被秤砣砸傷，涉事單位：對員工開展安全培訓｜三工晨報
【未經授權，嚴禁轉載！聯系電話028-86968276】
