近期，不少电商商家反映，有买家使用AI伪造的“问题图”申请仅退款，不退货白拿商品，让商家叫苦不迭。对此，有网友推荐使用国家反诈中心App近期上线的“AI内容鉴定”功能，可上传图片、视频、音频或文本来检测AI生成痕迹。

用AI治理恶意AI能有效果吗？是否能利用“AI内容鉴定”功能进行维权？

买家用AI图申请“仅退款”

河北辛集市的张先生是一名无花果树种植户，上个月他在某直播电商平台售卖无花果苗，仅卖出12单就收到了一份“仅退款”申请，对方的理由是收到的无花果苗已干枯死亡，随申请附上的是一张叶片全黄的果苗图片。

张先生表示，发货到客户收到就两天时间，苗不可能干到颜色枯黄，缺水枯黄至少要5天到7天。

凭借多年经验，张先生找出了图片中的破绽：“如果真的失水，就是运输途中有问题的话，它的叶子不会展开，应该是皱且下垂的。图片中叶片枯萎死亡的状态完全是把正常植物的叶片改成了枯黄的颜色，稍微有点经验的人都能看出来。”

张先生断定这是AI造假，他驳回了申请，并联系买家退货，但买家直接申请了平台介入。尽管张先生据理力争，平台还是依据这张图批准了“仅退款”申请。

张先生的遭遇并非个例，不少商家都表示见到过AI伪造的售后图片，比如，5个衣架在同一位置整齐断裂、塑料手机壳断裂边缘出现毛刺、手串破碎后呈空心壳状……

记者梳理多位商家晒出的疑似AI造假图发现，这些图片虽然乍一看很逼真，但细看却漏洞百出。

国家反诈中心上线鉴定功能

近期，国家反诈中心App正式上线“AI内容鉴定”功能，该功能支持图像、视频等内容的AI识别检测。与此同时，各互联网平台也在积极布局“AI鉴真工具”。

记者在网上随机选取了10张商家宣称的疑似AI生成“售后图”，上传国家反诈中心App及多个AI鉴真工具，结果无一例外，均被判定为“图像含AI生成痕迹”。

业内人士表示，应对AI造假，核心在于“以AI治AI”。目前较为成熟的鉴真工具几乎能不误伤真实内容，又能较为精准识别AI造假内容。

某网络平台安全内容视觉算法负责人介绍，检测方法由两部分组成，一部分是小模型来学习AIGC模型生成内容的模式，基于大量的内容学习和训练进行判断。另外会用大模型来关注内容本身，看它内容上有没有物理上的瑕疵，比如文字有没有乱码。此外，也会看它逻辑语义上是否会出现不符合逻辑的问题。最终小模型和大模型结合，一起来进行判断。

“我们希望它不要出现误识别。用户或者商家可以尝试外部的一些AI鉴真工具，来辅助进行判断。对于目前这种AIGC的技术生成内容还是比较有效的。”

看眼睛也能识别“AI人像”

随着图像处理技术和人工智能的发展，虚假图像和视频变得越来越逼真，引发了社会忧虑和信任危机。为应对这一挑战，研究者开发了各种虚假图像视频检测技术，其中，通过分析图像中的眼睛细节就是一种有效的方法。

下面这两张照片中，有一张是伪造的，你能看出是哪一张吗？破解悬案的线索就来自一双眼睛。

研究发现，由于人的双眼位置接近，一张真实照片中左眼和右眼的角膜反射图像通常非常相似。造假者往往忽视这一细节，使得假照片中的两者存在不一致，上图右边就是一个典型例子。利用这一特征，研究人员在辨别真假照片时达到了94%的成功率。

不仅如此，眼球瞳孔的形状也可以用来给一张照片辨别真伪，下图中两张照片同样是一真一假。分辨两者的诀窍在于，左图正常照片中人眼瞳孔形状通常是规则的圆形或者椭圆形，而右图AI伪造照片中瞳孔形状是不规则的。

END

编辑 | 星仪

来源 | 综合自央视新闻、科普中国