□张宜威（天津师范大学）

近期，新华社记者调查发现，不少社交账号利用AI技术造假、博眼球快速“吸粉”起号，在未标注AI生成的情况下大量推送穿搭、养生、情感等内容，并可通过引流带货、账号转卖等方式变现。部分视频细节逼真，足以让普通网友信以为真，由此形成一条AI造假起号的灰色产业链。（8月11日 新华社）

虚拟“氛围感美女”“银发养生奶奶”，看似突破传统内容创意范畴，实则扭曲了内容创作的真实逻辑。造假者利用AI博取平台流量，本质上是将技术异化成投机牟利的工具。虚假AI人设成为追逐商业利益的“科技画皮”，不仅藐视传统内容创作者的时间与精力，还有突破诚信与法律底线的可能。看似无伤大雅的视频，背后却可能潜藏非法产品销售、隐性广告推广和健康信息误导等风险，更破坏了网络真实生态与平台监管信用。

技术本身是中性的，关键在于使用者的动机与平台的监管。生成式AI本可让普通人以低门槛实现内容创意表达，但落入造假逐利者手中，便有了“批量制造虚假人设”的可能。此类视频，如若被流量推荐针对特定人群进行情感营销，极易引发误导效应和跟风消费，成为灰色产业发展的助推器。

AI造假批量起号乱象背后，平台需要迫切反思技术介入内容创作背景下，如何理清流量投放的“真实逻辑”？如何避免因流量驱使推送虚假内容“为虎作伥”？传统的内容创作流量是通过优质内容进行变现，而其中的起号、涨粉到带货逻辑，成熟的“技术—运营—交易”链条，以及诱人的短期收益，多少人正被披上科技外衣的AI“李鬼账号”收割，平台是否监管到位值得深思。然而， AI造假者通过压缩文件、消除特征痕迹等手段规避审核，这也反映出目前平台监管确实存在明显滞后问题。

AI技术成为造假者的流量变现工具，打击“3到15天速成万粉号”的批量起号造假现象。平台首先需把好“第一道关口”，内容审核机制必须与造假方式同步进化，对特定规避手段升级识别能力，压实生成平台对AI生成内容添加清晰标识的责任。同时，不能让违规账号有稳定带货机会，对违规账号转售交易零容忍，只有切断利润源头，才能让AI造假失去持续运作土壤。另外，平台还需要强化处罚处理规则，建立违规账号“黑名单”，对于重复进行AI造假的账号，提高封禁和经济处罚力度，直至剥夺其商业化资格，彻底堵死流量变现暗道。

AI应是未来内容生产的重要引擎，绝不能被造假引入流量投机的歧途。AI技术需要助力真实、优质、负责任的内容，从而获得正向流量，成为提升社会信息质量的“加分项”，而不是消解网络诚信的“减分题”。

本文为红辣椒评论原创文章，仅系作者个人观点，不代表红网立场。转载请附原文出处链接和本声明。