随着人工智能技术的普及，人工智能生成内容技术也就是AIGC技术正在改变社交媒体生态。有了创意，它能帮你生成文字；有了文字，它还能接着生成图片，进而做出视频。但是，本来是帮助提升创作效率的工具，却被一些人拿来造假起号，通过AI批量生产虚假内容来积累粉丝。（据5月12日《现代快报》）
技术中立性从来不是价值中立的遮羞布。
当前AI技术为短视频领域开辟了全新创作维度，数字人技术更是让个性化内容触手可及。然而令人惋惜的是，本该赋能创作的AI工具正在沦为流量游戏的作弊器。在某知识付费平台，标价499元的《AI起号实战课》公然教授用户输入"混血美女+瑜伽教学"等指令批量造假，有团队借此三个月打造出39万粉丝的育儿账号，创造了21万元带货销售额。这些账号完成原始积累后，往往删除AI生成痕迹，转向带货卖课甚至直接出售账号，形成了完整的灰产链条。
在短视频行业竞争白热化的今天，打造优质自媒体账号需要创作者从创意构思到拍摄制作的全程投入，往往凝结着大量心血。AI起号的野蛮生长却正在摧毁这种创作生态：日均新增超3万个的虚假账号挤占流量空间，某平台原创内容占比已跌破61%；AI生成的虚假课程导致23名消费者健康受损，用户维权时才发现所谓"专家资质"全是伪造；账号交易市场暗藏陷阱，有买家花费8万元购得的"优质号"实际活跃粉丝不足2%。更令人担忧的是，黑产团队仅需900元即可购买"降AI率"技术包，使得平台现行的标注机制形同虚设。
推动人工智能向好向善，是数字时代的必须。规范人工智能生成合成内容标识，强化其辨识度，是遏制AI起号的重要手段。国家互联网信息办公室等四部门日前联合发布《人工智能生成合成内容标识办法》，要求AI服务提供者和内容传播平台必须采取措施对AI生成内容进行标识。《办法》的出台是从顶层设计出发、加强人工智能行业治理的又一项制度安排，可有效遏制AI伪造内容产生、传播，推动AI在合法框架内健康发展。
事实上，网信部门和各大平台也一直在努力推动人工智能的向好向善。深圳某科技企业研发的"溯影"系统，通过动态水印追踪技术实现了虚假内容的全网溯源。上海"清朗浦江·2024"专项行动中，网信部门对单月获利超50万元的灰产账号开出3倍违法所得罚单，形成有力震慑。杭州公安机关处理的"秦朗巴黎丢作业"AI造假事件，则为网络谣言治理提供了司法判例。
根治AI起号乱象需要多方协同作战。平台方需升级多模态检测系统，通过识别异常眨眼频率、光影逻辑错误等技术特征提升拦截效率；监管部门应建立响应机制，在虚假内容裂变扩散前完成识别限流；创作者群体更要坚守技术伦理，与AI工具保持必要距离。唯有当技术创新与制度约束形成合力，人工智能才能真正成为推动社会进步的加速器而非割韭菜的镰刀。正如某平台实施的创作者信用积分制度所示，只有让违规成本远超收益，才能引导技术应用回归向善的正途。（樊树林）