生成式人工智能技术飞速迭代，为内容创作降本增效、丰富表达形态的同时，也催生了虚假人设、情感诱导、低质营销等新型网络乱象。其中，批量生产的AI虚拟人设短视频精准瞄准老年群体，以温情陪伴伪装、以情绪共鸣引流，形成一套隐蔽且顽固的“坑老”黑灰产业链。
今年以来，媒体持续曝光“AI霸总”围猎老人乱象，抖音等平台也在持续关注违规新形态、新手段，重点打击利用AI技术、针对老年群体诱骗感情及不当互动获利等新型违规场景。但此类内容依旧反复滋生，背后是多重治理困局。
乱象
人深陷虚假互动情感陷阱
“感谢你喜欢我。”“亲爱的弟弟，谢谢你送我花，我们见面再拍照好吗？”“弟弟，让你失望了，我们只能在网上聊聊天，你想我了就翻翻手机看看我，我也只能看看你，我俩有缘无分。”一条AI生成的“中年霸总”短视频，评论区都是老年用户的真情留言。
该账号发布的短视频画面里，是儒雅的中年男性面孔，他对着镜头喊“姐姐”，诉说着土味情话：“跟你问个路，去往你心里该怎么走？千万别指错，我是路痴。”
熟悉网络的年轻人一眼便能看出，这是典型的AI数字人合成视频，画面下方也有“内容由AI生成”的提示。但对很多老年用户而言，这行提示形同虚设：有人下意识忽略，有人看不懂“AI生成”的含义。在部分老人的认知里，屏幕另一端是活生生的人，每天嘘寒问暖、表达爱慕，是真心想与自己交往。
AI霸总温柔“哄骗”老人，只是AI虚拟人设围猎银发群体的冰山一角。十一假期回山西老家时，小秦发现，80多岁的奶奶一直在刷短视频，嘴里念叨“好啊，好啊，你真棒。”他走近才发现，视频里一名AI孩童甜甜喊着“奶奶”，请求老人送给她一朵小红花。
在家的几天，他发现奶奶常常对着视频自言自语：乖巧懂事的AI甜孙、喊话“向你致敬”的AI老兵……各类虚拟形象轮番出镜，句句戳中老人的内心。“老人不懂数字人，以为是真人在跟她说话，幸亏她不会手机支付。”
见奶奶笑得开心，小秦心中五味杂陈，他把这类内容定义为“情绪诈骗”：一方面理解奶奶有情感需求，一方面又憎恶这类内容的制造者，“他们精准收割辨识能力下降、情感空虚的老年群体，用低成本虚拟人设博取流量，后面不知道会不会有坑。”
社交平台上，网友们有着相似的无奈：“有没有人管管老年人上网啊？姥姥近半年迷上了AI高富帅，每天沉迷其中，还想奔现。”“我奶奶天天刷AI生成的如来、观音形象，旁人听着觉得不可思议，但老人深信不疑。”如今，AI短视频乱象持续蔓延，从仿冒公众人物、编造虚假信息，到批量定制暖心虚拟人设，目标群体高度聚焦缺乏数字辨别能力的老年人，新型涉老网络陷阱持续滋生。
调查
AI标识落地难解认知鸿沟
去年9月《人工智能生成合成内容标识办法》落地实施，给AI生成内容强制“亮明身份”。“《办法》实施以后，在规则要求和平台引导下，越来越多的视频发布者已能自觉添加‘AI生成’标识。即便创作者漏标、未标，平台也能通过元数据识别、主动核验的方式为AI生成内容添加标注。”抖音相关负责人告诉记者。
技术识别、官方标识已然普及，却无法破解老年群体的认知短板。就算视频打上AI标签，很多老年人也不懂这几个字的含义。他们的注意力，还是会被人物形象、温情话术带走。而且，情感诱导内容已经形成成熟产业链，低成本、快迭代也加大了平台打击治理的难度。生成这类AI视频门槛有多低？记者实测一款AI软件，仅用语音简单下达需求：制作一条短视频，帅气、稳重、多金中年男子，对“好姐姐”嘘寒问暖，说一些“鸡汤”文字，最后引导点赞。1秒生成的脚本，自动完善了一些细节，如“穿着剪裁得体的商务休闲装”“态度真诚、语气温暖”等等。
记者确认后，不到10分钟视频已然完成。成片里，阳光铺满房间，身着休闲西装的中年男子面带微笑、缓缓开口，“好姐姐，年龄不是数字，而是岁月送给我们的礼物，有人关心，有人惦记，平凡的日子也会暖暖的。觉得说得对，就点击屏幕下方的小心心，给自己一个温暖的鼓励。”话术、形象、风格和平台上“AI霸总”引流视频高度吻合。
“5分钟用AI批量做中老年情感视频，戳中情绪价值，条条上热门。”社交平台上，瞄准中老年赛道，教授“起号”的帖子也开始兴起。一个宣称“死磕中老年赛道”的营销号博主接受记者咨询时直言，“就这种视频，说实话3分钟一个，半个小时一天的活就干完了。开始每天先发两条，跑出成绩的话，一个人运营四五个号没啥问题。一定要先做好一个，再做矩阵。”
卡点
平台识别治理仍有诸多困境
在治理恶意营销方面，数据显示，去年4月以来，抖音通过“账号健康分”机制，已累计处置违规短视频2956万条，处置违规账号387.4万个，包括内容减少推荐、下架违规视频、限制甚至封禁账号投稿功能及变现权益等措施。但是，面对源源不断上新的AI虚拟人设账号，平台的识别与治理仍面临诸多困境。
一位接近平台方面的人士坦言，这类视频前期往往不直接索财，而是先通过情感陪伴建立信任，后续再可能转向私域引流、卖货或诈骗。“对于仿冒名人、造谣类AI视频，平台一旦识别或收到举报，可快速下架、封禁账号。但虚拟数字人账号判定更为复杂：平台能够识别视频由AI生成，却难以像仿冒名人内容那样，通过肖像权投诉渠道直接处置，需要持续监控账号内容、用户互动行为，才能界定违规属性，决定处置方式。”
抖音方面介绍，对于这类账号，平台会沉淀诱导类话术样本，投喂给大模型，然后依托大模型抓取多项特征进行识别：账号是否长期高频发布同一数字人形象、是否反复使用固定套路话术、互动人群是否集中为老年用户。“识别模型会自动筛查同类账号，一旦核实违规行为，平台会立即采取内容限流、阻断推荐等手段。”
但治理存在天然短板。如果账号只做情感陪伴、情绪诱导，没有直接售假或者实施财产诈骗，平台便难以采取强硬的下架、封号手段。
黑灰产也在持续对抗——换脸不换套路、换号不换话术。“平台清理一批账号，运营方只需更换数字人脸，注册一批新账号，相同的情感套路就能卷土重来，我们得在后面不停地追打，陷入‘封一批、起一批、再封再起’的困局。”
智库点评
多方共治
AI滥用的治理是个系统性工程，网络黑灰产为了利益也会进行技术升级，还会有更多的技术对抗。
“AI虚拟人设围猎老人是AI技术普及后带来的新问题，账号封而复发、私域内容受隐私保护难以监管、部分灰色交易难以定性，治理工作确实存在现实困境。”中国人民大学人口与发展研究中心副主任、人口与健康学院人口学系教授靳永爱介绍，相关部门已关注到此类乱象，正在开展技术层面的研究探索，对高风险老年群体进行画像，并尝试通过AI手段做到风险自动识别、预警与拦截，为老年人的财产安全增设一道技术防护。
但技术手段只是其中一环，想要破解这一难题，持续提升老年人数字与人工智能素养才是治本之策。需要政府、企业、社区、家庭多方参与，可延续公安下沉社区的反诈宣传模式，扩大相关内容的科普，帮助老年人提升骗局识别与风险辨别能力，从需求端减少受害群体。
在制度层面，要进一步完善制度细则，厘清AI情感诱导“坑老”内容的红线标准与惩戒机制，探索网络信用惩戒体系，落实严格实名、账号联动惩戒，遏制黑灰产反复注册换号作案。
依靠素养提升、技术防控、制度约束多方共治，协同应对AI衍生的新型网络风险，守护老年人的精神与财产安全。
