黑产有一个特点,什么火黑产就跟什么,哪个平台平台流量大就盯上哪个平台,像候鸟一个样迁移。2020年3月,抖音安全中心在后台审核内容时发现一条可疑的视频,视频涉及儿童,多次被拦截,一直没有被审核通过。正常情况下,涉及儿童的一条正常视频不会被拦截,如果内容足够好,还会被机制推荐,获得更多流量曝光。抖音安全团队经过分析,认定该条视频有猥亵儿童的嫌疑。经过溯源调查,上传该视频的账号来自四川遂宁。抖音平台随即向当地公安机关报案,告知他们知晓的相关信息。遂宁市公安局高度重视这一报案线索,立即抽调精干警力组成专案组开展案件侦办工作。经过一番精密侦查,嫌疑人被锁定在遂宁市蓬溪县。3月29日,蓬溪县公安局网安大队将嫌疑人抓捕归案。据嫌疑人交代,嫌疑人多次以“提供WIFI”等方式,诱惑同村男童到嫌疑人的住所进行猥亵,并拍摄淫秽视频,同步发送到多个视频社交平台。这次,嫌疑人马失前蹄,被抖音安全团队和当地公安部门联合惩治。抖音安全中心背后是一套隐秘而强大的安全防御系统,时刻都在与抖音平台上的黑灰产业、色情恶势力做斗争。抖音安全中心负责人帅帅介绍说,抖音很早便成立了安全中心团队,设立产品、技术、运营、审核岗位,共计数千人与公司其他安全团队一同维系抖音的平台安全。类似于假明星、儿童色情等内容均属违规,一旦触及安全防御系统的红线,它便会启动复杂且精密的预防惩戒机制,咬住猎物,攻防牵扯,甚至一击致命。在四个月里,抖音安全团队已经联合公安机关打击黑灰产团伙25个,刑事拘留87人。黑产是整个行业和社会要面对的长久性难题。阿里巴巴、腾讯等超级平台公司均设立专门的部门机构在做这项工作。这个部门与商业化部门不同,它们通常内部自用,不直接产生经济效益;它们更像整个内容生态中的警卫员,起基础保障和安防保卫作用。抖音安全中心亦如此。在一系列攻防操作背后,它要每天为6亿人兜底,抖音平台的内容安全、用户维护、商业保护和社会责任都聚焦在这套安全防御系统中。一个抖音账号不断上传一些带有擦边色情的小姐姐视频到抖音内容审核系统,负责审核内容的同事发现这些视频后会心一笑——这个账号试图利用擦边色情视频从抖音导流至线下。“我们比较有经验,很快把它们拦截。”帅帅说,对方上传的视频以女性内衣做背景,他们很快上线了内衣识别模型,审核并拦截该类型视频。这个黑产团队知晓内容被拦截后,开始改变内容策略,背景改为一根黄瓜+两根手指,食指上写着微信号,中指写上写有文字:“看片加微,好看不贵”。抖音安全团队马上针对这种新的性暗示元素训练识别模型,上线模型,打击该类型内容。黑产团伙换方案,用“花瓜+手指”。团队按图索骥,调查发现了“茄子”等外观类似的水果,主动上线香蕉类模型。7月,抖音安全团队对拦截的数据进行样本分析,从评论、视频、导流渠道去向等维度做信息拆解。经过抽丝剥茧、寻踪觅源后,他们发现了黑产团队的一些违法违规线索。抖音安全团队联合公安机关,锁定了湖南长沙一个色情犯罪团伙的窝点位置。但还不能实施抓捕,需要更多证据。抖音团队反黑人员试图通过添加色情团伙导流微信二维码,变成“好友”,但没有一个能添加成功,他们很苦恼。经过一番讨论,他们决定派人做实地勘察,寻找蛛丝马迹。一位抖音反黑人员配合公安机关,在窝点位置进行了连续三天的摸排,以多种方式进入公司。潜伏人员在现场发现,他们就是通过抖音发布“黄瓜+文字”诱导性视频的团队,正是抖音安全团队要找的那个团队。在获取他们违法违规的犯罪事实后,公安机关实施了抓捕,现场抓获嫌疑人11名,手机设备2000多个。这些人都被认定为“帮助信息网络犯罪活动罪”扣押。抖音安全中心总监周冉说,通过公安机关对嫌疑人的审讯了解到,该团伙在营业期间,每天都通过接码平台注册新的抖音帐号,但并不是每个帐号都能使用,大部分账号都被抖音拦截封禁了,他们帐号使用率大概的为20%,也就是100个帐号能使用1~2个。这证明线上风控拦截已经发挥了很大的效力。周冉还透露,根据犯罪嫌疑人交代,这只是他们这一个窝点,过去两个月,他们被抖音封禁的帐号就高达5000多个。一个案例显示,一个黑产团队的人使用群控软件发送导流信息,效率是真人的100倍。如果该黑产团队通过真人方式发送,不断在视频、社交媒体上发送垃圾评论进行导流。一个人一天工作八小时,发送的垃圾评论大概一万条,但是运用技术手段的黑产团队通过群控软件进行操作,可以控制上百台乃至几百台设备发送垃圾评论,不用休息,24小时不停运行,这样每天发送的垃圾信息可以轻松突破百万级。“我个人看来,线下打击是提高作恶成本的最优实践,这些犯罪团伙有他们自己的沟通圈子,通过对这些作恶人的惩戒,我们可以对整个色情导流的黑灰产行业起到震慑作用。”周冉说。自2020年1月份以来,抖音安全中心共封禁色情导流和色情招嫖帐号超过100万,仅9月份期间就封禁305248个帐号。据刺猬公社(ID:ciweigongshe)调查发现,这并非只是抖音才会遇到的问题,而是整个内容行业都时刻面对黑产产业链带来的困扰。中国通信院发布的《移动数字金融与电子商务反欺诈白皮书》显示,黑产从业人数超过500万,每年涉及金额达到千亿级别。数字金融和电子商务是欺诈行为高发“重灾区”,是形形色色的黑产主要攻击的对象。平台经济是一种新型的复杂经济现象。《互联网平台治理研究报告(2019年)》指出,特别是那些规模很“大”的超级大型平台企业,甚至已经成为具备准公共产品属性的基础设施。抖音本身是一个超级短视频平台,核心功能是匹配双边或多边市场。正是其特殊的多边或多边市场结构,决定了平台具备市场参与者和组织者的多重身份,扮演了信息壁垒打破者与重构者的双重角色。上述报告称,超大型平台企业崛起已经在推动经济社会的资源重组和权力重构,从治理的角度看,那些对市场“具化”程度越高、占据信息优势越多、公共产品属性越强的平台,应该受到更多的治理关注,并在平台治理中发挥更加重要的作用。“我们的安全风控能力目前已经接入了上百个业务线中。”抖音安全风控中心的专家张曦盛介绍说,利用风控模型、风控策略,在平台上日均拦截违规行为超过10亿次。“假靳东”事件爆发之后,抖音一时间被推上风口浪尖。帅帅介绍,实际上,抖音从4月份就已经开始针对仿冒名人做专项打击了。不过那时候,抖音团队看到的仿冒名人主要集中在热点名人身上,比如韩红、钟南山等。此时主要的问题是犯明星名誉形象,为此,抖音研发、上线明星人脸识别模型。模型上线之后,回扫查杀的违规假冒账号数量也比较少,最后封禁了不到800个账号。