AI伪造图骗“仅退款”事件频发，国家反诈中心App上线AI内容鉴定功能 ，能否遏制造假式索赔？

网购时遇到商品存在问题
，拍张照片申请售后，是消费者维权的正常流程 。然而近期 ，不少电商商家反映
，买家发来的“破裂手机壳 ”“枯萎植物
”售后图片，乍看像那么回事 ，实际上却是AI伪造出来的“问题图片”
。

如今AI技术的迅猛发展让图像造假门槛大幅降低，“有图有真相 ”变得不再牢靠。用户上传一张原始照片
，输入两行指令，新鲜的水果就发霉变质 。一张假图就能轻松申请仅退款 ，不退货白拿商品
，这种新型薅羊毛手段，让不少商家叫苦不迭
。

近日 ，国家反诈中心App正式上线AI内容鉴定功能
，用AI技术对图像、视频等内容进行识别检测，以应对当下泛滥的AI换脸
、伪造图片视频等新型诈骗手段 ，这则消息很快冲上热搜
，引发广泛关注。用AI治理恶意AI，如何做到？效果如何？

河北辛集市的张先生(化名) ，是一名无花果树种植户
，上个月他把店开到了某直播电商平台，售卖无花果苗 。然而 ，仅仅卖出去12单，他就收到了一份“仅退款
”申请
，对方的理由是收到的无花果苗已干枯死亡，随申请附上的 ，是一张叶片全黄、毫无生机的果苗图片
。张先生满心疑惑
，自己明明是带盆发货，两天时间果苗怎么会完全枯死？

张先生：直播选的苗 ，他选了一棵特别健壮的。我是带盆发货的
，发货之前也会保证土壤湿润的 。发货到客户收到就两天时间，它苗在里边不可能干到颜色枯黄
。那样缺水枯黄的话 ，至少要5天到7天。

凭借多年种植经验
，张先生找出了图片中的破绽：如果是真的失水，就是运输途中有问题的话 ，叶子是不会展开的
，应该是皱而且下垂的 。图片枯萎死亡的状态完全是正常植物的叶片状态改成枯黄的颜色做的，稍微有点经验的人都能看出来。

张先生断定 ，这就是AI造假
。他随即驳回了申请，并联系买家退货退款
，但买家直接申请了平台介入。尽管张先生据理力争，平台还是依据顾客发来的这张图片 ，几分钟内就批准了“仅退款”申请 。最终
，这笔45元的订单，让张先生直接启动退店流程 ，不再在该平台卖苗
。

记者调查发现
，张先生的遭遇并非个例。在社交平台上，不少商家现身说法 ，讲述自己见过的AI伪造售后图片 。五只衣架在同一位置整齐断裂 、塑料手机壳断裂边缘出现毛刺
、手串破碎后呈空心壳状……记者梳理多位商家晒出的疑似AI造假图发现
，这些图片虽然乍看逼真，但细看却漏洞百出 ，存在逻辑硬伤
。

在AI生成图像泛滥的当下
，如何精准鉴别真伪已成为绕不开的现实问题。近期，国家反诈中心App正式上线了AI内容鉴定功能 ，该功能支持图像、视频等内容的AI识别检测 。与此同时，各互联网平台也在积极布局AI鉴真工具
。蚂蚁安全内容视觉算法负责人兰钧表示
，应对AI造假，核心在于“以AI治AI ”。

蚂蚁安全内容视觉算法负责人兰钧：检测方法由两部分组成 ，一部分会有小模型来学习AIGC模型它生成内容的模式
，基于大量的内容进行学习和训练，然后来进行判断 。另外会用大模型来关注内容的本身 ，看内容上有没有一些物理的瑕疵
，可能文字有没有乱码；我们也会看它的逻辑语义上的问题，可能会出现小狗在唱歌这种不符合逻辑的问题
。最终小模型和大模型结合一起来进行判断。

记者在网络上随机选取了十张商家宣称的疑似AI生成“售后图” ，上传国家反诈中心App及多个AI鉴真工具
，结果无一例外，均被系统判定为“图像含AI生成痕迹
” 。张先生提供的干枯无花果图片 ，也被系统认定“图像含AI生成痕迹”。与之相对比
，记者上传一张自己随手拍摄的照片，系统则提示“未检测到合成痕迹 ”
。

兰钧表示 ，他们的鉴真工具在业务场景中可实现“万分之一打扰率 、九成以上召回率
”，也就是几乎不误伤真实内容
，又能较为精准识别AI造假内容。

兰钧：我们希望它不能打扰到用户，不要出现误识别 ，真正AIGC的内容
，要把它尽量召回 。用户或者商家可以尝试外部的一些AI鉴真工具，来辅助进行判断
。对于目前的这种AIGC的技术生成的内容还是比较有效的。

北京邮电大学互联网治理与法律研究中心主任谢永江表示 ，AI伪造图片骗取退款的行为
，本质是民事欺诈，若不及时遏制 ，将威胁电子商务的正常秩序与健康发展 。AI鉴真工具能大幅降低商家的辨别成本
，既能震慑不法分子，也能作为商家与平台交涉
、维护自身权益的有力证据
。

监制丨刘黎

记者丨谭瑱

来源：中央广播电视总台中国之声【