AI合成名人明星虚假带货,与AI虚假营销乱象背后的黑产链条密切相关。一些利用AI新技术实施的虚假宣传中,往往存在同一产品链接跳转至不同网店的情况。加之AI技术造假成本低,让批量炮制、快速传播、随时换壳的欺诈营销容易得逞,陷入“造假-流量-变现-更多造假”的恶性循环。此外,短视频平台对一些账号的入驻资质、带货视频内容等审核流于形式,冒用账号取证难、追责难,也为AI虚假营销的蔓延“推波助澜”。
技术理应向上向善,AI合成技术的使用应有边界。《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等在内容审核、信息标识上对生成式AI的规范使用提出了要求。对于滥用AI技术虚假宣传“无底线博流量”的乱象,相关部门应严厉打击,加重赔偿性惩罚处置。短视频平台应主动加强对AI生成内容审核,建立AI带货可追溯标识,既实现侵权行为的实时预警,也实现虚假侵权行为的快速“倒查倒追”。消费者也应主动学习相关知识,提高防骗意识。
人们乐见AI技术助力网络消费,但绝不允许AI骗术“张牙舞爪”,侵蚀网络消费的信任与成色。多方发力、守土有责,让AI合成技术的应用真正规范起来,让违法违规博流量的行为受到应有处罚,才能更好维护互联网数字消费的健康环境。