“剪映”等平台被查：生成合成内容标识问题引关注

近日，随着人工智能生成内容变得越发普及，国家互联网信息办公室（以下简称“网信办”）依法查处了“剪映”“猫箱”以及“即梦AI”等平台在生成合成内容标识要求上未落实到位的行为。目前，相关平台已被约谈并被要求立即整改。这一监管举措引发了广泛讨论，也凸显了合规运营在人工智能行业中的重要性。

什么是生成合成内容标识？

生成合成内容标识，是指在通过人工智能手段生成图片、视频或文字后，应对生成的内容进行清晰标注，标明其为人工合成内容。标识的主要目的在于防止虚假信息或误导性内容对社会公众产生不良影响。

例如，当用户观看到通过人工智能生成内容的短视频时，平台应在视频显著位置标明“该视频为AI生成”。这种标识机制有助于提高透明度，保护用户的知情权。

网信部门查处的背景

据相关报道，近期网信部门发现“剪映”“猫箱”“即梦AI”等人工智能工具型平台未能有效执行生成合成内容的标识要求，违反了法律法规的相关规定。这些违规行为包括：

• 未对用户生成的合成内容进行显著标识；
• 在关键场景或领域中存在合成内容滥用风险，如虚假广告或误导宣传；
• 未建立完善的内容合规审查机制。

对此，网信办对各个平台展开调查，采取了约谈、警告以及责令限期整改等措施。

人工智能行业因此受到了哪些警示？

这次事件凸显了AI内容生态中合规问题的重要性，重点表现在以下几个方面：

1. 平台责任与合规

人工智能平台作为技术供应方，不仅要提供技术服务，还必须履行互联网法律合规相关义务。平台需合理审查内容生成工具的使用情况，避免用户因技术漏洞或管理不善而滥用人工智能生成内容。

2. 规范社会公共信息传播

随着生成内容技术门槛的下降，不良信息如虚假新闻、深度伪造等风险持续增加。监管机关要求严格遵守内容标识规则，旨在提高公众辨别合成内容的能力，维护社会公共利益。

3. 推动行业健康发展

法律法规的出台与执行，有助于为行业设定健康发展的标准，为促进行业公平竞争与透明性提供保障，这不仅是对企业的约束，也是对创新使用的保护。

公众如何应对生成内容的合规问题？

面对愈发复杂的人工智能生成内容，普通用户可以从以下几个方面提高警惕：

• 留意生成内容的标识，例如“该内容为人工智能生成”字样；
• 核实来源，避免将未验证的内容迅速传播；
• 关注国家政策法规，对于有误导性的内容积极举报；
• 选择合法合规的AI合成内容平台，规避使用没有标识或存疑的工具。

展望未来

合成内容标识要求的落实，不仅是对技术的监管，也是对平台责任、社会信任的重要维护。这让我们看到，在技术创新领域，合规性不是发展的阻碍，而是未来健康发展的指路灯。通过严格执行法律规章，这项措施将助力人工智能行业界定边界，引导技术更好地服务于社会。