央视曝光AI相亲骗局：虚假婚介AI生成“完美大叔”专盯中老年女性，收费后立即失联；50余人被骗，涉案100多万元，28人被采取刑事强制措施

据央视法治在线8月27日报道：您能分辨出哪些图片是AI生成的，还是真实拍摄的吗？记者在多个短视频平台截取图片，它们有的来自网络直播画面，有的来自短视频截图画面，内容的发布者都有一个共同的身份——“相亲主播”。那么，这些风度翩翩的“相亲对象”，真的能线下见面吗？看似真诚的相亲背后，又隐藏着什么样的猫腻？

AI生成“完美大叔” 相亲视频真假难辨

您是否刷到过这样的网络直播间，直播画面滚动播放针对中老年女性的相亲内容，声称主播这边有同样相亲需求的大哥“条件安稳、有担当”，可以帮忙牵线搭桥。仔细观察可以发现，这些所谓的主播说话时，神态违和，表情僵硬，坐在他们身后的那些所谓的“大哥”，频频机械地点头，整个画面看起来油画感很重。

随后，记者使用国家反诈中心App的“AI内容鉴定”板块，对网络直播间的内容截图，并进行了识别，几秒钟后，图像AI检测报告提示该“图像含AI生成痕迹”。不过，在这个网络直播间中，画面中仅标识了“剧情演绎，无不良引导”等字样，并没有对AI内容进行标识。

记者打开这名主播的视频主页，发现他发布的视频大多为征婚内容。在这些视频中，点赞量最多的一条达到了3.2万。画面里采访话筒上写着“二次缘”的字样，用户昵称则标明“直接私信”，引导网友可以直接联系。尽管这条视频页面附带了一行“作者声明：含AI生成内容”的提示文字，但是翻看评论区不难发现，仍有不少真假难辨的留言在附和视频里的观点，并且希望能够结识视频当中的这名男士。

那么，按照视频里标注的“直接私信”后会发生什么呢？记者通过这条视频的私信指引，添加了主播的联系方式，通过简单交流，这个昵称为“茜茜老师”的人，很快向记者发来了一位刘先生的基础信息，介绍刘先生年收入达到千万元级别，名下有房有车，希望能找一位有同样相亲需求的适龄女性。

记者把刘先生的照片同样进行了AI内容鉴定，鉴定结果也显示为“含AI生成痕迹”。那么，使用疑似AI生成的图片作为男嘉宾的真实照片展示，究竟能否线下见面？这名男嘉宾的履历又是否属实？当记者提出想要和刘先生展开进一步交流的时候，对方说必须先交一笔服务费，才能进行匹配牵线。

记者在这个网络平台使用“中老年相亲”这一关键词进行搜索，发现这样的视频不在少数。随后，记者又添加了另外一名“红娘”主播的联系方式，对方发来了“赵大哥”的照片，经过鉴定，这张照片同样显示“含AI生成痕迹”。

在记者表明有相亲意愿后，对方接着发来了两张图片和一段视频，似乎想要说明他们的婚介公司很正规，并催促缴纳报名费。支付2000元报名费，他可以安排和“赵大哥”联系。在记者表示价格太贵之后，对方不断进行着说服。当记者提出照片含有AI生成痕迹时，对方却回复“照片是真实的，只是有美颜”“只要牵手成功了，肯定都会见面”。

随后，记者使用另一个视频平台，用同样的关键词进行搜索，发现类似的直播间同样存在。不同的是，一个视频平台大多没有真人直播，只有几段视频反复播放，而另一个视频平台则多把这种疑似AI的中老年男性形象作为图片背景展示，记者在这家视频平台以相同的操作，随机挑选了一个网络直播间，添加了“红娘”的联系方式，在简单沟通后，再次得到了一张“含AI生成痕迹”的照片以及“红娘”催促缴纳服务费的聊天信息。记者在调查中发现，多个视频平台的网络直播间中，主播使用疑似AI生成内容却未做任何AI标识的情况普遍存在。

根据人工智能生成合成内容标识办法，发布者和网络直播平台对直播间内具备误导风险的AI生成内容，都负有法定标识义务。在网络直播间中，不管是AI生成人像图片，还是AI合成视频，只要该内容容易使公众将虚拟素材误认为真实自然人，就必须在画面合理位置设置肉眼清晰可辨的显式标识。即便是真人主播出镜、背景滚动播放AI人像图片的混合直播模式，背景里用于塑造相亲人设、容易造成观众误判的AI素材，也同样不能豁免标识义务。

虚假婚介专盯中老年女性 收费后立即失联

使用AI生成的图片作为男嘉宾的真实照片展示，而网络直播间中，并未明确标识AI生成字样的提示，这样极具误导性的内容，在多家平台、多个网络直播间中存在。这些所谓的婚介公司，专盯中老年女性，介绍过程中，既没有深入了解过询问者的相亲需求，又没有安排线下见面，只是一味地催促缴费。那么，一旦缴费，会有什么样的结果？不久前，四川成都警方侦破的一起案件，揭露了其中的秘密。

成都市公安局高新区分局新益州派出所民警 程曦：咱们市局110下发的某群众投诉，这个公司承诺给她介绍一个优质的对象。给了号码，也给了资料，这位报警人使用手机的电话号码去搜索微信，结果对方不通过她的好友申请，打电话也没有人接，她就觉得服务没有到位，希望能够退款。

报案人卞女士说，她是在网络视频平台刷到的这家婚介公司。在表明自己有相亲的意愿后，一个账号昵称为“匹配中心王主任”的人，给她发来了“李哥”的简介，上面详细介绍了“李哥”的个人情况，还附有一张照片。

卞女士说，当时对方一直在说“李哥”对她很满意，可以帮她牵线搭桥，并且承诺卞女士，只要交了钱，就可以交换联系方式。随后，卞女士先后缴纳了2000元相亲服务费，还跟这家婚恋服务公司签订了承诺函，甲方为卞女士，乙方为四川晚禾禧堂婚恋服务有限公司。上面清楚地写明，这家公司需要“按甲方要求推荐匹配对象”以及“为甲方安排约见或交换联系方式”。交了钱，“王主任”也给了卞女士“李哥”的电话，可是，“李哥”怎么都联系不上。渐渐地，屏幕那头的“王主任”也开始不回消息了。

成都市公安局高新区分局新益州派出所民警 程曦：群众的诉求是退费，我们发现电子合同上体现的，叫作四川晚禾禧堂婚恋服务有限公司，发现是没有这家单位的，同时电子合同上也附带了组织机构代码，我把这个组织机构代码输进去，但是仍然没有这家公司。

不存在的签约主体，却实实在在收取了卞女士的费用。民警通过更换关键词检索，关联到了和涉案公司相似度非常高的一家公司，名为四川晚禾禧堂婚介服务有限公司，两家公司的前缀一模一样，只有“恋”和“介”一字之差。这家公司会是和卞女士签约的公司吗？带着疑问，民警前往公司地址实地上门核查。

民警走访发现，这家公司虽然主营婚介业务，但是现场并没有相亲人员也没有所谓的“红娘”，可是，在办公区域内，却设有销售岗、剪辑岗和主播岗。就在这时，程曦在这些剪辑人员的电脑上，看到了一个熟悉的身影。

成都市公安局高新区分局新益州派出所民警 程曦：他们的电脑上有一些成品的短视频，很巧的是，这些所谓的AI形象，全部都跟报警人提供的婚恋的男嘉宾的资料一模一样，形象是一致的，所以我就觉得很奇怪，如果这个AI形象是你们用于广告投放的，那怎么可以把它当作真人，向咱们群众进行真实的婚姻推介。

种种异常让民警意识到，这家公司并不是普通的婚介服务公司，随后，民警通过现场的员工联系上了公司老板王某。在电话中，王某说公司的实际注册名称为四川晚禾禧堂婚介服务有限公司，与合同中写的四川晚禾禧堂婚恋服务有限公司是同一家公司。民警对这样的合同内容提出了质疑，此时王某却避重就轻，始终回避这个问题。

成都市公安局高新区分局新益州派出所民警 程曦：这个人就支支吾吾的，他说那我退钱，他就直接在电话里面说那我退钱我马上退，这个时候我想的他既然要退钱，报警人的诉求也是退钱，报警人收到全部的退款以后，然后就挂断了电话。

深挖幕后团伙 固定证据链

虽然卞女士的退费诉求解决了，但办案民警并没有就此止步。通过调查，警方认为这很有可能是一个诈骗团伙，从这家公司的规模来看，上当受骗的很有可能不止卞女士一人。为了深挖背后潜藏的犯罪团伙，固定完整证据链条，民警展开了更为详细的调查。

通过连日蹲守老板王某的开播账号，警方发现，在网络直播中，那个所谓的“李哥”形象，经常出现在画面里。

成都市公安局高新区分局新益州派出所案件办理队副队长 徐古月：第一个他们男嘉宾的照片是用AI生成的，第二个就是男嘉宾的一些资历，包括收入情况，这些都是他们自己杜撰的，有可能他在给这位女嘉宾介绍的时候，可以说这位先生是李先生，另外一位女嘉宾介绍的时候，又会说这位先生是王先生。

在掌握确凿证据后，警方先后将王某等28名犯罪嫌疑人抓捕归案。抓捕现场，这伙人仍在使用AI男性形象开播，并且还制作了许多“逼单”话术以及剧本。从AI形象的人设打造，到台词互动，直播中的每个环节都经过了精心设计。

为了加深网友的信任，网络主播还会借助变声器冒充有相亲需求的优质男性，进行直播连线。一唱一和之间，屏幕前的一些网友便信以为真，一步步落入了陷阱。

据调查，这家所谓的婚介公司根本不会提供真正的相亲服务。在被害人缴纳了服务费后，和被害人聊天的也不是那些所谓的优质男性，而是由公司里的售后人员继续唱“双簧戏”。

据调查，在不到一年的时间里，这个团伙的作案涉案金额高达100余万元，约有50余名群众遭受财产损失。目前，王某等28名犯罪嫌疑人已被公安机关依法采取刑事强制措施。

举报后仍有账号在直播 平台如何压实责任

此类利用AI虚构人设的诈骗手法，危害显而易见，更令人担忧的是，这类骗局至今仍在短视频平台上存在。这样的网络直播间，为什么屡禁不止？在实践中，平台应该如何压实主体责任？

当记者向平台举报多个类似的网络直播间后，部分直播被封禁，但还有账号在被举报后依然照常直播。也有账号在被封禁后，很快换个“马甲”重新开播。而现存的类似直播中，仍然没有AI生成字样的提示说明。

中国社会科学院大学互联网法治研究中心主任 刘晓春：平台实际上是要给到用户一个明确的提示，你要去标明是不是AI生成的，这个是一个功能上的设置，这个是一个硬性的设置。我们也有非常明确的反电信网络诈骗法，里面也明确规定了，平台的识别、预警，相应处置的义务。

专家指出，对于已经暴露出风险的场景，平台更应当加强检测和预警，建立风险分级处置机制。当检测发现疑似AI生成、同时带有婚恋交友引流特征的直播间与短视频，并且有诱导用户跳转站外、索要服务费等涉诈苗头，平台就不该仅停留在内容打标层面，还应该分阶梯采取制约，并按规定把涉诈线索移送公安、网信等主管部门。

在本案中，诈骗团伙往往通过短视频直播平台引流后，引导网友到其他社交平台聊天、缴费，专家认为，犯罪链条被拆分在不同平台，形成了监管上的割裂地带，对此，专家建议，可以通过更新技术手段、加强跨平台的协同治理，找到解决问题的途径。

法治热评：压实平台责任 对高风险内容加强监测处置

用AI生成的虚假形象，骗取征婚者的情感和钱财，可以说这是婚恋诈骗的新变种。当AI技术足以以假乱真，当情感需求成为犯罪分子的围猎工具，治理就不能止于案后追惩。

平台不仅要严格落实AI生成内容标识义务，还应完善AI内容的识别风控系统，加强对高风险涉诈内容的监测预警和联动处置，从算法上阻断推送，从源头上压缩虚假信息的生存空间。对于普通用户来说，需要筑牢自身的风险意识，面对疑似AI生成的内容，同样可以使用技术检测鉴别真伪。