近日,江苏苏州发生一起利用AI合成视频诈骗的案件。大闸蟹经销商高女士在客户签收货物后不久,收到买家反馈称“8只螃蟹死了6只”,并附上照片和视频作为证据。高女士按照平台赔付要求,向买家赔付了195元。然而,第二天高女士重新检查视频时发现异常,死蟹的公母数量与订单不符,于是向买家提出质疑,但对方不再回应。警方介入调查后发现,买家利用手机合成制作了虚假的“死螃蟹”视频,实施诈骗。
根据《人工智能生成合成内容标识办法》,AI生成合成内容标识主要包括显式标识和隐式标识两种形式,旨在规范AI生成内容的使用。央视新闻此前也曝光了类似的AI退款骗术。专家提醒商家,在遇到此类纠纷时,应保存好聊天记录、假图凭证等证据。如果买家骗取的金额较大,AI造假骗退款的行为可能构成刑事犯罪。

