⚲🌛🎏     

www.968777.cn

近日，张文宏医生“被AI带货”一事引发社会广泛关注。有网友反映家中老人在网络上看到了一个视频，视频中“张文宏医生”正在推荐一款蛋白棒，出于对张文宏医生的信赖，老人不仅自己下单购买，还将相关视频转发到多个微信群。经核实，该视频为AI（人工智能）合成。对于“被AI带货”，张文宏医生无奈地回应，其本人多次向平台投诉，但虚假视频屡禁不绝，卖货账号也一直在更换。

张文宏医生“被AI带货”可谓当下人工智能技术被滥用的一个缩影。近年来，人工智能技术飞速发展，基于大模型的生成式人工智能技术更是突飞猛进。人们可以方便地使用人工智能技术来生成、合成具有较高自然度和真实感的图像及音视频内容，特别是能够模拟真实人物的声音，并生成表情和口型都与讲述内容相符的视频，达到以假乱真的效果。这类技术在电影修复、数字人主播、便利听障人士的手语动作生成以及电商平台的数字虚拟“试衣”“试妆”等领域发挥了积极作用，但其滥用也带来了一系列问题，其中非常突出的就是通过生成知名人物的虚假视频进行“知识传播”或产品销售，进而误导消费者。

我国对深度合成技术应用治理高度重视。民法典明确规定，不得利用信息技术手段伪造等方式侵害他人的肖像权，并特别规定了对自然人声音的保护，为人工智能时代的权利保护奠定了坚实基础。此外，类似知名人物“被AI带货”的事件，还涉及损害被模仿者的名誉权等权利，同时也损害了消费者的知情权、选择权等权益，并对合法商家造成不正当竞争。从中长期来看，如果不对滥用人工智能技术的行为加以规制，还可能造成社会信任危机，使人们对真实信息也产生怀疑，进而影响社会的效率、秩序和安定。

针对这一问题，我国已出台《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等部门规章，从构建技术与法律相结合的解决机制的角度，作出了一系列针对性规定。首先，明确任何组织和个人不得使用人工智能技术生成虚假有害信息等法律、行政法规禁止的内容；深度合成服务提供者应当加强对深度合成内容的管理，采取措施进行审核。当然www.968777.cn，在当前技术条件下，法律无法、也不宜要求深度合成服务提供者消除所有风险。其次，深度合成服务提供者对于提供的深度合成服务，应当按照法律规定，根据具体情况进行必要的、显著的标识，或进行隐式标识以便机器识别。同时，任何组织和个人不得采用技术手段删除、篡改、隐匿相关标识。这种标识义务为后续可信数据空间的建立奠定了重要基础。

今年9月，国家网信办发布了《人工智能生成合成内容标识办法（征求意见稿）》，中央网信办也同步发布了《网络安全技术 人工智能生成合成内容标识方法（征求意见稿）》强制性国家标准，拟进一步提供细致规范。相关规范拟规定用户上传人工智能生成内容时，应当主动声明并使用平台提供的标识功能进行标识，这样可以进一步扩展具有标识义务的主体范围，为人工智能生成内容的识别提供多一重保障。同时拟规定“提供网络信息内容传播平台服务的服务提供者应当采取措施，规范生成合成内容传播活动”，以明确传播平台的核验和提示义务，即信息内容传播平台应当核验相关内容是否已经被标识或声明为人工智能生成内容，并应当根据生成合成痕迹等信息提醒用户疑似生成合成内容，帮助用户避免被误导或欺骗。

尽管我们已经初步建立了必要的法律体系，也在进一步完善技术与法律相结合的标识——核验制度，但违反法律规定、滥用人工智能技术进行虚假宣传、虚假带货等情况依然存在。要想有效治理此类乱象，一方面，政府部门、平台企业和科研工作者应加强协作，积极探索有效措施，不断增强在人工智能时代抵御技术滥用的能力；另一方面，监管机构可与各传播平台合作，通过推动传播科普、防诈骗视频等方式，进一步普及相关科技知识和法律知识，提升人民群众在人工智能时代的风险防范意识。