引进AI标识、大模型等，该如何治理违规AI广告？-中讯社

中新网北京10月30日电(记者吴涛)“一眼看去像是某领域专家，结果发现人物和身份都是AI虚构的。”“宣传图片光鲜亮丽，实景却相差万里，后来才知是AI合成。”

随着AI的广泛应用，AI广告违规风险越来越突出，这些内容涉嫌违背公序良俗、侵权抄袭、虚假宣传等。如何构建有效的AI广告治理体系，成为目前多个行业面临的问题。

仍有AI内容未做标识

一般来说，AI内容指利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。如今，一些不法广告主利用AI技术生成逼真但虚假的消费场景，活跃在短视频、电商等平台上。

此前由国家互联网信息办公室、工业和信息化部等四部门发布的《人工智能生成合成内容标识办法》9月1日起正式实施，规定人工智能生成合成内容应有显式标识和隐式标识。

记者在多个短视频和电商平台浏览发现，疑似为AI生成但同时又未打AI标识的内容仍然可能出现，尤其是在2025年9月1日之前的存量宣传内容。有业内人士表示，受限于技术和算力成本，平台多依靠自带的AI水印或作者主动声明来识别，如果内容非本平台AI生成，则识别难度增加。

据CNNIC发布的数据显示，截至2025年6月，我国生成式人工智能用户规模达5.15亿人，较2024年12月增长2.66亿人。庞大的AI用户数量背后，也给AI内容治理提出更高的要求。

将如何治理AI广告？

面对海量的AI内容，传统的人工审核方式已难以为继。治理AI违规广告，必须依靠技术本身。据了解，在AI生成活跃的短视频社交平台上，已有大模型技术应用其中。

例如，有平台表示，在AI标识方面，90%素材10分钟内完成审核，对比传统审核效率提升了75%。对于涉及违规的广告，大模型通过推理判断，能快速提供精细化拒审理由，告知违规内容出现在视频中的具体时间点或具体画面。

巨量引擎商业安全治理标准负责人项韵对中新网记者表示，针对违规行为设置了从预警整改、限制新开、账户封停、主体清退等梯度化、多元化处置体系，“今年第三季度已前置拦截涉AI违规素材84万余个。”

快手平台则表示，会在AI生成的内容中添加“AI生成”显示标识、以及嵌入文件元数据中的隐式标识。如内容被平台检测为疑似AI内容时，则进行显著提示。

中国政法大学副教授、中国广告协会法德委朱巍对中新网表示，鉴于AI技术的复杂性和应用的广泛性，AI治理需要实现跨领域的协同。需要监管持续加码，需要平台强化责任，更需要网民切身参与。面对AI换脸宣传、深度合成侵权等新型风险，需要组建监管、平台、伦理委员会的 “共治联盟”，形成治理合力。

中国广告协会会长张国华近日表示，目前专门用于AI训练的优质语料依然稀缺，要从源头上确保AI语料的真实性、合规性及其导向的正确性。

而对于如何识别潜在的AI谎言？“公安部网安局”公众号29日发消息称，对于图片和视频，仔细观察是否存在AI生成的典型痕迹，例如人物手指数量异常、光影效果不自然、视频口型与声音不同步或背景模糊扭曲等。(完)

来源：中新网｜责编：黄启铭｜统筹：曾雅雯｜编审：邓浩然