中国经济网版权所有 中国经济网新媒体矩阵 网络广播视听节目许可证（0107190）（京ICP040090） 近日，有网友发现演员温峥嵘同时“出现”在多个直播间。他穿着不同的服装推销不同的产品，动作和举止与他自己非常相似。未皈依的观众很容易相信他。但事实上，这是不法商贩利用录屏裁剪图片或盗取以往直播素材并利用AI生成的虚假内容。随着人工智能技术逐渐落地，改变AI面貌的门槛降低。这项技术原本应用于影视等领域，如今却成为不法商家炮制人工智能“李鬼”谋取私利的工具。过去曾以主持人李梓萌的形象宣传“深海多烯鱼油”，但该产品发现只是普通的糖果。包括奥运冠军、专家教授在内的各界知名人士都曾多次被人工智能操控。产品视频中的大部分产品都是山寨货，与广告宣传的相差甚远。此类行为不仅侵犯肖像权、名人权，还可能损害消费者权益、误导公众。今年9月1日，《人工智能生成合成内容标注办法》正式实施，要求对人工智能生成的文字、图像、视频等内容进行标注，以明确其来源和真实性。新规的出台为控制人工智能欺诈和乱象提供了制度保障，有助于推动人工智能标准发展。但现实中，不少造假者将自己的标识隐藏在视频、直播介绍的角落里，并以很小的字体显示，让仿冒者难以识别。消费者要注意。一些商家利用技术手段识别人工智能生成的内容，或者将人工智能生成的内容进行分割并碎片化发布到多个账户，使得人工智能假内容混杂在正常的信息流中，难以准确辨别。有的平台还存在内容测试缺陷，有的平台尚未建立“事中预防、事中监控”的完整管理流程。更令人担忧的是，由于AI假冒明星的直播本身就具有“明星效应”，能够快速吸引消费者点击购买，提高产品转化率，所以一些平台的推荐算法也会助长此类不被认可的内容的传播。对于侵权人来说，即使找到了涉嫌内容，但整理证据并证明相关内容是由人工智能生成的，流程复杂、技术门槛高。往往需要提起诉讼需要几个月的时间，届时侵权内容可能已经广泛传播。违法成本高、维权成本高，使得他们成为无良企业，强化和助长了他们的骄傲。人工智能技术应该更好地为人们服务，而不是成为侵权假冒的工具。破解人工智能造假困境，监管部门需要进一步规范人工智能技术应用标准，加大对非法交易者、违法平台的处罚力度，加强制度建设，筑牢监管防线；平台还应主动承担关键责任，加大科技投入，优化人工智能内容识别系统，完善审核机制和问责制度。只有推动科技创新、用政策保发展，才能真正成为社会进步的动力。 （O你们报评论员张晓宇）