每经编辑 卢祥勇    

3月26日，抖音安全中心发布消息称，去年，抖音发布《关于人工智能生成内容的平台规范暨行业倡议》，明确平台不鼓励利用AI生成虚拟人物进行低质创作，将严格处罚违规使用AI生成虚拟人物发布违背科学常识、弄虚作假、造谣传谣的内容。

近期平台发现，站内仍有不当使用AI技术生成虚拟人物发布内容的账号，平台进行了严厉处置。

其中典型行为包括：

1、生成境外虚假人设，消费爱国心理、博取关注。用虚假外国人的形象，以想嫁给中国、想到中国生活、评价社会事件等言论博取眼球。

2、生成俊男美女虚假形象，骗取互动，交友导流。直接称用户为“你”“娘”“妈妈”“老公”等，发布情感诱导、唱情歌、为你谋福利等表达虚假情感的内容，将用户导流至私人聊天工具，甚至进行诈骗。

3、生成精英人士虚假人设，发布心灵鸡汤、财商、伪国学、厚黑学、伪成功学等不良内容，低质吸粉，甚至引流到站外以卖课、入群等方式获利。

针对违规使用AI生成虚拟人物的行为，平台会对违规视频下架，对违规账号进行取消其投稿和营利权限、抹除账号粉丝、封禁账号等处置，并利用模型、技术识别能力等手段，进行长期系统的识别发现和处置。同时，平台已掌握部分黑产团伙不当使用AI生成虚拟人物用于犯罪的线索，将报警打击。

人工智能技术的快速发展，丰富了互联网内容生态，但也带来技术滥用的挑战。平台重申，创作者、主播、用户、商家、广告主等平台生态参与者，在抖音应用生成式人工智能技术时，须遵循以下规范：

1、发布者应对人工智能生成内容进行显著标识，帮助其他用户区分虚拟与现实，特别是易混淆场景。

2、发布者需对人工智能生成内容产生的相应后果负责，无论内容是如何生成的。

3、虚拟人需在平台进行注册，虚拟人技术使用者需实名认证。

4、禁止利用生成式人工智能技术创作、发布侵权内容，包括但不限于肖像权、知识产权等。一经发现，平台将严格处罚。

5、禁止利用生成式人工智能技术创作、发布违背科学常识、弄虚作假、造谣传谣的内容。一经发现，平台将严格处罚。

此前3月25日，抖音还发布了关于开展“厚黑学”“伪成功学”专项治理的公告。其中提到，为落实国家网信办和北京网信办“清朗”系列专项行动要求，抖音开展“厚黑学”“伪成功学”专项治理行动，治理“自媒体”炒作社会焦虑，无底线吸粉引流牟利问题。

近期平台在巡查中发现，有少数“自媒体”利用普通人想迅速成功的心理，针对性策划内容和开设矩阵号，将取得成功的方式简单化、套路化甚至“厚黑化”，并通过开设私董会、培训班等方式变现。也有部分“自媒体”，利用技术大爆炸时代普通人担忧“落伍”的正常心态，渲染社会焦虑并贩卖“解药”，通过大量矩阵号将用户引流至第三方以卖课、入群等方式变现。

上述行为，严重违反了平台规则，损害了其他用户的权益，平台将采取包含下架视频、取消营利权限、抹除不当获取的粉丝、禁止搜索关注、封禁账号在内的措施进行治理。

编辑|卢祥勇 杜恒峰

校对|段炼

封面图来源：每日经济新闻 刘国梅 摄

每日经济新闻综合自湖南省公安厅官微、湖南日报、化州市政府、张家口市政府