野兽爱智慧

阅读·实修·转化

735 我曾是干脏活的微博审查员!|刘力朋

野兽按:今天因为和朋友们谈起中国大陆网络审查是如何运作的问题,谷歌搜索资料时发现了刘力朋。好好看了他的专访和视频,觉得得分享给诸位网友。

刘力朋,前中国大陆微博审查员,前内容质量经理,前审核经理。现居美国。

2011年至2013年曾在新浪微博担任审核编辑。保存了大量审查日志和政府指令。

2016年匿名与保护记者协会合作揭露微博审查机制。

2020年赴美国后公开接受媒体采访,相关报道有:

大纪元:前微博审核员勇揭中共审查黑幕

大纪元英文版: Former Weibo Editor Exposes the CCP’s Shady Censorship Practices

苹果日报:專訪前審查員爆4字刪帖秘密 「監控讓你恐懼 要你自我審查」

美国之音:前新浪微博内容审核员专访:中共如何打造网络“真理部”

美国之音:我曾替共产党“真理部”做“脏活儿”

自由亚洲电台:前微博审核员的秘密工作日志

目前刘力朋正与中国数字时代合作,制作真理部特展

前新浪微博内容审核员专访:中共如何打造网络“真理部”

2020年8月12日 20:11 毕虎

前新浪微博内容审核员刘力朋2020年8月在美国家中 (刘力朋本人提供)

华盛顿 — 

刘力朋曾在中国做了十年的内容审核员,今年三月来到美国。近日,他接受美国之音专访,讲述中共的网络审查体制是如何运行的,各个权力机构是如何一起打造网络“真理部”,从而实现言论控制与思想控制,实现极权主义统治的。他的经历使人联想到英国作家乔治·奥威尔的小说《1984》。

这本小说描述了一个恐怖的极权主义国家大洋国,在大洋国只有四个部门:专门制造假新闻的部门被称为真理部(Ministry of Truth),监督、逮捕和迫害异己人士的秘密警察被称为友爱部(Ministry of Love),发动战争的部门被称为和平部(Ministry of Peace),负责挨饿的部门叫做富裕部(Ministry of Plenty)。小说的主角温斯顿(Winston Smith)的职业就是“真理部”的审查员,为了适应“老大哥”的政治需要,天天篡改历史,控制言论,从而控制国民的思想而实现极权统治。其实这个世界对中国人来说并不遥远。

刘力朋工作期间新浪微博审核办公室内的横幅 (刘力朋提供)


一个内容审核员的工作日常

2011年的一天,一大早,刘力朋坐上公司的大巴前往工业园区上班。当时,天津工资标准较低、成本也较低,新浪等互联网公司把一些部门搬到天津的工业园区内,比如劳动密集型的审查部门。因此,当时天津有一个绰号叫“删都”。刘力朋正是新浪微博的一位内容审核员。

公司大巴穿越天津市河西区、南开区,一直开到西青区的偏僻的海泰产业园区,大概要1个小时,只要上了大巴,公司就算是到岗。“每一个人都会在艰苦的一天开始前选择睡一大觉,真的不是小憩,是非常踏实的一觉。

到了公司后,首先是交接班,告诉今天工作的有害样本和需要注意的东西。

此时,新浪微博的内容审核员一共有120名,一共分为4组,大约23人一组,分为两班倒,白日班工作大约11小时多,晚间班工作时间大约为13小时多。为了保证24小时都有审核人员在审核微博内容,两个组的交接班必须严丝合缝,甚至有一点点重叠,因此是24小时全方位审核,不能有空缺时间和纰漏。刘力朋强调,交班非常重要,否则就会出现空档。

交接班结束,散会,每一个人回到自己的工位,打开电脑,打开后台,每一个电脑都是一模一样的,多年后,刘力朋回忆那会上班的情景,依然感到有些恐怖:“每一个人都在一个格子间,屋里没有别的声音,只听到滚轮刷刷刷往下翻页,时不时会停几秒,然后就是鼠标哒哒哒的点击声,这是在删除内容。如今回想有些可怕。”

打开后台,系统已经进行用“敏感词库”进行了第一遍机审。他说:“有一些高危的敏感词,如果踩中了会直接进到删除的状态,然后人工审核;低危的敏感词,踩中后是一个默认通过的状态,有先审后放和先放后审两种策略。”他说,一些高危敏感词是绝对要删除的,比如六四和法轮功,然后每天都有一些新闻事件如何处理,每个班次,他们都会留下一篇工作日志,工作日志将如何审核微博写得非常清楚。

刘力朋给美国之音提供了他在新浪微博做内容审查员的工作日志,日志按时间清楚地记录了他们每天是如何处理每一条新闻事件和图片的。

2011年6月1日新浪微博夜班审核日志 (刘力朋提供)

刘力朋说:“文字审查比较快,在后台输入关键词,把一些有害信息删除,然后就是删,私,止,隐,通,几种操作之一。还有很多新闻机构需要微博单审,也就是过滤评论区的展示内容,来让5毛或爱国主义者的表演能够显现。”

据刘力朋介绍,刘力朋和他的同事大多是刚毕业的大学生,有的还是大专生,这个工作并不难,对于学历和技能并没有特别的要求,所以他们的工资也并不高,甚至可以说很低了,只是比电子工厂的工人稍微高一点,只要本科或是大专高校毕业生,因为他们都经过了很长时间的政治训练,从幼儿园开始就有政治课。必须得是大专或是本科上。他们来后其实都不要多大训练,在学校都训练十几年了,什么是党想听,什么是党不想听,已经很门儿清了,而且还能分出级别来,唯一要做培训的就是六四和法轮功。因为六四已经被洗得很干净,年轻一代人不知道。不过,在微博上,真正站出来为六四说话,说共产党杀人不对,这样的一周不会超过十条。

刘力朋还介绍说,120人审核团队不算很大,现在做B轮C轮融资的小初创公司的都有几百人,大一点的公司,都是数千上万人的团队,像字节跳动,不算外包的也有一万人。

他说:“现在审核的标准变了,所有一切都变了,而且微博他们更倾向于用外包团队来解决,就是更粗糙、更便宜的审核方式,他们一般在西安,后来放在重庆,用这些外包审核团队。”

就这样,刘力朋在这里工作了两年,2013年离开,此后辗转多个工作,大多与内容审核有关,最后在乐视总编室做质量监控主管,依然是内容审核方面的工作。在内容审核方面,他做了十年,“这个工作很累!”

神秘的“有关部门”:一个立体的权力体系

审核人员到底是依照什么标准来进行审核的呢?这些标准到底是谁制定的呢?

听到这样的问题,刘力朋笑了,他说:“审查的标准就是没有标准,如果有标准,那不就可以反审查吗?老百姓就不用自我审查了,像YouTube那样有一个社区公约,明确规定什么不能发,就不用自我审查了。中国审查标准是不透明的,是黑箱,就像搏击俱乐部,第一条规则就是你不可以谈论搏击俱乐部,中国的审查也是这样的,你不可以谈论中国的审查,来防止知道这个规则。但私企内部会有自己的一套执行标准,这一套东西,严禁和外界沟通。”

刘力朋说,打开后台,首先是系统根据敏感词进行了一遍机审。现在平台上的敏感词库有的多达几十万,少的至少有五千个。

敏感词库主要是私企网络平台慢慢积累的一个词库,就是通过转发,或是敏感用户,或是“评论翻车”发现未命中的敏感词,总结后加入词库,这是平台内的样本积累的结果。此外,还有外部压力给的,网信办、公安部、甚至部队都会告诉你,这里有一个样本,帮我全网清除,今天发十个样本,明天发五十个样本,这样我们就从里面摘出很多敏感词来添加进去。

刘力朋还注意到,在微博里,“涉警”审查得最严重,也被处罚得最严重,比如说把交警开罚单是缺钱之类的内容发微信朋友圈,都会被当地公安抓捕,因为在警察国家,当然更注重警察权威。

刘力朋还说,之前,这些权力机构偏重开会,会让我们的政府事务经理去学习会议精神,然后回去自己制定审核标准。但这样非常慢,应付不了局势的变化,现在直接下有害样本,挑敏感词。每一个平台都有自己的敏感词库,以及培训审核的教材,这些都是绝对保密的,也不允许带走的。平台之间也竞争看谁审查做得好,就是这些东西。

有了敏感词库,系统就会对平台进行第一次内容审核。

2014年6月5日新浪微博审核日志部分 (刘力朋提供)


机审之后就是人工审查,“必须人工审查。没有纯机器审核,最后必须人工验收,就像华为手机云相册删除用户隐私照片,但任何审查行业的人都知道者必定等于被反复人工翻看。”“另外,机审不通过的也要有人看来更正误删,即使人工审核通过之后,依然有清查组在反复搜索关键词,应对有关部门抽风似的检查。比如国新办有一次发来35万个敏感词,要求重新再清查,这35万个敏感词全是有关习近平的。此外,审查的标准常常是朝令夕改的,比如薄熙来上来就放好话,下台后立即改了,又要重新清查之前的。这就是为什么有些已经发出去很久的微博又突然被删除。”

那么,人工审核的这些指令来自哪里呢? 刘力朋说,每天他们都会接到各种“有关部门”的指令,要求他们审核方面具体做什么:封杀什么言论,让什么言论出现,如何引导舆论走向等等。刘力朋说,这是一个复杂的权力系统,中共的宣传部门、公安部门,各种安全部门都有权力管网络审查,还有国新办、新闻机构,工信部,甚至农业部等可以追着来管网络审查,里面的权力一头乱麻,基本上谁都有权利下命令哪些要禁,哪些账号要删号。

他说:“比如说,我在那会,慕容雪村的一个号就是国新办下令销号的。我看他被删了,我就去后台看了看,是北京那边操作的,做了一个标注,是国新办下令。封一个用户,其实平台是不太高兴的,只不过会坚决去执行,执行起来不会那么随便,会标注什么原因。”

不过,这也不是绝对的,刘力朋补充道。普通用户和vip用户享受的待遇是不一样的,普通用户只有命中了敏感词,才人工审查,而敏感VIP,就是重点关照的头部用户(KOL),有着几十万或是上百万甚至上千万的粉丝,动不动讨论公共话题,他们的每一条都要看,所有的东西都要审核。此外,还有“普通敏感”用户,就是被转发链上一并删除过多,或别的触发过多而被自动加进去的用户,同样每条都要看,很多敏感词都是从这里积累的。

不过,刘力朋强调,其实这里也有点歧视:“平台并不会主动保护言论自由,但也不愿意过度删除,只能偏向头部用户(KOL),普通人没有线下实体的,所以更容易被删号,只要命中关键敏感词,就会被删。”

他说:“我那会还好,还可以偷偷解封,我常这么干。我离职之后,一个账号封号或是解封,需要两个人操作,就像朝鲜人出门那样,在外国餐厅的服务员,不能一个人出门,必须两个人出门,互相监督,你就不能胡乱操作,尤其不能随便解封了,这个空间就没有了。”

刘力朋表示,在微博上,凡是有了一些影响力的用户,最后都会被封掉。

他说:“薛蛮子仅仅是蹭公共话题热点,并没有实质上反对现行体制,但因为其千万粉丝,照样被抓。”对于当下的微博言论空间,刘力朋更是表示忧心,现在真正的所谓敏感用户,还能说话的,顶多也就一两万粉丝,否则公安就直接把他端了,如今完全没有生存空间了。

腾讯一位不愿意透露姓名的前内容工作人员告诉美国之音,腾讯的审查程序与此大同小异。他说,有一个专门的安全中心负责内容审核,首先是有一个关键词列表,比如说一篇文章命中几个关键词,机审就直接判定不给过,你就发不出;另一种情况是你命中关键词,但机审认定还需要人工审查,就送去人工审查。还有一种情况,就是机审也过,人工审查也过了,但有部门觉得你不爽,他要求腾讯删,这时,他就要有本单位的介绍信,要么就是通过腾讯的举报程序,要么就去找网管办去干涉。大部分是前面情况,因为找网管办删稿子是很严重的事情。

这位腾讯的前内容工作人员说,他在那里工作期间,每天都会收到一个叫报道提示的东西,多的时候十几条少的三四条,都是网管办的命令,是网管办发给腾讯安全中心,腾讯安全中心再发给各个审查部门负责人,然后审核员去执行。而可以对他们下达命令的不仅仅是网管办。

他说:“中国可以管网络的部门一共有五十多个,公安部、广电总局。教育部、网信办,工业与技术信息部爱国运动委员会等等,都可以来管,它是一个特别立体的权力体系,不是单单从网管办网信办到网络平台这么简单地从点到面。”

刘力朋说:“我举一个例子,比如有一部电影,出现了一个学校,那就要交给教育部审查;如果又出现两个警察,那又要送到公安部去审查;要是出现一个矿工,还得送去国土资源部审查,总之,你出现了相关内容就要送到有关部门审查。这就是有关部门。这种审查是非常具体非常荒谬的。”

“网络沙皇”鲁炜开创的互联网管制时代

2013年7月,著名女歌手吴虹飞在新浪微博称“炸建委”被罚行政拘留10日。这件事轰动网民。紧接着,2013年8月20日,公安部开始集中打击网络有组织制造传播谣言等违法犯罪专项行动,秦火火等人因网络造谣而被逮捕。这可以说是互联网上第一次大整顿,此后渐渐成为常态。

刘力朋回忆,网络上的言论管制越来越严格也是从此时开始的。而这与鲁炜开始掌管网络有关。

2013年4月,鲁炜开始担任国家互联网信息办公室主任,开始掌管中国互联网,从此,中国互联网失去了早期的改良、自由之风,进入肃杀的管制时期。

2013年8月10日,鲁炜召集微博、网络名人座谈,提出“七条底线”的共识,并敦促名人遵守该七条原则,当时参加座谈会的有纪连海、廖玒、陈里、潘石屹、薛蛮子等十多位网络名人。当时鲁炜就网络名人社会责任提出六点希望,也与在场的网络名人们达成了坚守“七条底线”的共识。这七条被网民称为“鲁七条”:法律法规底线、社会主义制度底线、国家利益底线、公民合法权益底线、社会公共秩序底线、道德风尚底线、信息真实性底线。七条底线发布当日,被大陆各大门户网站放上首页。大部分网民极力反对,指中国政府公然用“制度”钳制言论自由,部分人在大陆凯迪社区和个人博客等网站公开表示对第二条“社会主义制度底线”的讥讽。但是不少网站受到当局压力,被迫删除大量留言和跟帖,出现了几万人留言,只留下区区一百条的怪相。

刘力朋回忆说:“每一个互联网平台都要雇人不停打扫平台,不然就会被政府关掉,这是我在新浪工作时当时互联网的情况。2013年,政府对互联网控制更加得心应手之后,平台就不光是审核员来审核,还会入驻网评员、公安系统的、共青团的这样的官方账号。之前网评工作也是有,就是俗称五毛,但他们更多是搅浑水,但现在,是网评员来一统天下,删帖封号反而让人感受不太深了。给你感受深刻的是,现在每点击一条新闻,下面都是支持中共的,而且花样洗地的。”

2014年5月,中央网信办成立,鲁炜担任中央网信办主任。从网管办到网信办,虽然是一套班子的两个牌子,但权力更加集中,审核从此更是变本加厉。

2014年10月,中央网信办面向社会公开选拔9名业务部门处级领导干部,分属5个业务部门:网络评论工作局、网络社会工作局、移动网络管理局、网络安全协调局、国际合作局。10月30日,鲁炜出席首届世界互联网大会。互联网大会曾经被指是鲁炜从政生涯的主要政绩。在第一届世界互联网大会上,中方提出一份大会声明草案,推出互联网“网络主权”的概念,一时间舆论哗然。在新闻发布会并答记者问上,对于网络审查制度,鲁炜说:“我们现在不允许的是,(外国互联网企业)既占了中国市场,又挣了中国的钱,还来伤害中国。”因此,纽约时报中文网称鲁炜为“中国互联网的守门人”。 2015年4月,因被称为“有权决定亿万网民看什么”,鲁炜入选《时代周刊》2015年“百位最具影响力人物”。而对于中国人民来说,他是“网络沙皇”。

刘力朋对此评论说,因为互联网的匿名性,看到中共突兀地提出“网络主权”,一开始感觉很荒谬。因为中国政府总是用“主权”来遮掩中国人权问题,现在出现一个“网络主权”,不知道其意图。直到Tiktok出现,我才明白这个概念。TikTok能够反常地在海外大获成功,才让人发现网络主权是非常认真、严格执行的概念,就是所有中国人必须关在中国局域网牢笼内,若你严格遵守做到这一点,反向屏蔽中国公民,就可以获准在海外执行宽松审核标准,甚至给予垄断优势,在海外大力发展。所以中国无限输血华为,主导5G标准,绑架国际通讯协会,召开国际互联网大会,想方设法地介入各种互联网基础协议,都是以其“网络主权”为主导思想的。

党员优先字节跳动和一国两制的TIKTOK

在中国互联网公司中,字节跳动有些特别。

2017年底,字节跳动公司的产品今日头条遭到整顿:依据有关部门的整改要求,今日头条手机客户端“推荐”“热点”“社会”“图片”“问答”“财经”等6个频道自2017年12月29日18时至12月30日18时暂停更新24小时。两天之后的2017年12月31日,今日头条平台称,关闭社会频道,将新时代频道设置为默认频道。同时,根据相关法规和管理要求,集中清理涉嫌违规的含低质内容的自媒体账号,12月31号共封禁账号36个,禁言账号1065个。

整顿后的今日头条不久公开招聘2000名内容审核编辑,条件是:党员优先!即便这样,不久之后,2018年4月,字节跳动的另一款应用程序内涵段子, 因“存在导向不正、格调低俗等突出问题”而被中国国家广播电视总局责令永久关停。

接连两次大整顿,对字节跳动来说,几乎是致命的。从此,字节跳动公司比其他互联网更加注重党组织建设,内部人员指出,相对于其他互联网公司,字节跳动公司的党员与党组织更多,也更“红”。

据字节跳动公司的一位线人提供的内部资料看,字节跳动有着一套严格的审查程序和审查标准,并将政治审查放在首位,其中第一条是:“画面中出现攻击、丑化、恶搞共产党、国家、政府、我国各级社会制度、我国政府高官、我国现任核心领导人(习、江、彭、李、王)、我国历任国家领导人、朝鲜领导人金正恩等,以及涉及我国国家领导人仕途及其家属的相关负面言论”,“中断,永久封号”。此外,像涉及六四、法轮功的一律中断,永久封号。

刘力朋说,如果没有中国廉价审核工厂进行严格的审查,字节跳动不可能发展这么快。

同时,与微博微信不同的是,TikTok虽然是抖音海外版,但实际上是两个不兼容的版本,TikTok严禁中国人入内。实行的是“一国两制”。从技术上来讲,TikTok用尽了它能承诺给中国政府的一切手段来禁止中国人进入这个平台。首先用VPN翻墙上Facebook Twitter Google Youtube等手段,在TikTok无效,它会扫描你的手机运营商信息,任何+86的号码是绝对无法使用的,IP地址只能明确不是大陆IP的,GPS定位在中国境内也不行。另一方面,TikTok被GFW有配合的屏蔽,非常精准地屏蔽了TikTok的登录服务器。刘力朋说,正因为如此,“中国政府才允许它的存在。微信就没有这么坏,也没有特别想做海外业务。”

刘力朋同时也指出,TikTok在海外也进行审查。首先他们招聘了“海外审核经理”,他们在天津和其他各地招聘各种非中文语种审核员,这些记录招聘网站还可以搜到缓存,尽管最近都被删了。此外,他们也制定了一套审核标准,因为权限原因,线人没有看到Tiktok的审核标准和流程。

作为内容审核人员,刘力朋早就发现中共审查早已用于海外。

2011年6月4日和7月1日的时候,刘力朋第一次接触审查香港的六四维园烛光晚会和七一大游行。他说:“我突然意识到香港人和我们共享一套审核标准,香港人本来是自由,但依然要对他们进行审核。六四的时候,七一大游行的时候,所有香港的ip都发不出来,只要带图片的都发不出。在当时新浪上有很多香港用户,看ip地址就知道是来自香港的。”

他说,这种审查必然会扩散到美国,美国人使用了这么多年的微信,一直在被监控,一直在被审查。去年,加拿大公民实验室的一个研究结果指出,微信监控所有的用户也包括境外用户,虽然和大陆用户使用两套标准,比如不轻易封号,但会关小黑屋,这样国内朋友看不到你的发言。此外,他们依然可以通过海外用户提取敏感词。

对于当下美国的净网行为,刘力朋表示认可:“世界的互联网没有边界,中国的互联网却有明显的边界。我们只有拆掉这个肮脏的长城防火墙(GFW),让阳光照进这个充满战狼式自我欺骗的谣言和反美阴谋论的中国局域网,我们才有可能安宁,不然按他们的规则,那就是双赢,‘中国赢两次’的双赢。”

前微博审核员的秘密工作日志

2020.09.01 16:35 ET

刘力朋一家定居美国。他正与中国数字时代合作,将公开审核员工作日志。(由刘力朋提供自由亚洲电台)

中国的亿万网民都深受中国网络审查之苦。封锁网站、销号、删帖、对内容进行敏感词过滤等等,是人们熟知的审查的方式。但是外界很少得知网络审查员到底是如何进行大规模的审查的。前新浪微博的内容审核员刘力朋最近挺身而出,勇敢地说出中国互联网审查的细致操作内幕。他告诉中国的网友,"勇敢说话、拒绝作恶"。

在2020年三月来到美国之前,前新浪微博审查员刘力朋一直在试着发出声音,向世人揭露中国审核机制的内幕。

“中国互联网太脏了”

八零后刘力朋在天津长大,大学毕业后,于2011年进入新浪微博任“微博编辑”。

" 我进入(微博)之前,以为工作像是论坛板主,互联网可能要有人对比如仇恨言论、色情、攻击性的东西把关。"刘力朋告诉自由亚洲电台,他很快意识到这份工作"不对劲":"我没有想到是一个这么庞大的机器,跟中共的宣传系统、安全系统紧紧连着。"

刘力朋提供给本台的资料显示,他的工作内容是每天接受指令,透过细致的操作选项,清除微博上"敏感"内容或账户。他形容自己像是审查工厂里流水线的操作员,工作内容也很快让他感到不安。当时,还有一个网警部门在一旁上班,"(我们)都知道那是恐吓网民、抓人的人,大家都很怕他们。"

一开始,刘力朋消极地反击,默默"解封"或"通知"用户。其中包含了2011年在微博讨论六四维园烛光集会和七一大游行的一些香港用户,以及2012年因“南方周末事件”被全网封杀的作家暮容雪村。

"我后来就开始不删了,在后台看到的都是因为关键词、或是敏感用户群嵌入进来这些社交网站里最黑暗的一面。有时候看微博前台用户骂人,微博小秘书死全家等各种咒骂,一天工作下来,冲击还是挺大的。"

在2013年离职前,刘力朋說自己索性直接"一键通过"所有的审核内容。

" 我作为审核员的观察,中国社交网络因为言论审查、舆论引导,已经变得太脏、太脏了。他们一边占领舆论阵地,再来是拿鞭子抽着私人企业,把他们不同的意见修理干净。"

2016年,刘力朋把新拿到的微博内部的工作日志交给在纽约的非营利组织保护记者委员会(Committee to Protect Journalists,CPJ),匿名接受访问。2020年,刘力朋意识到新冠疫情后政府的全面监控让自己不再安全,携家来到美国,公开日志,并决定走向台前。

刘力朋说以真名、露脸受访,当然衡量过风险,但希望这次能透过实名扩大这件事情的影响力。

"如果我不勇敢的话,我怎么能劝告别人别自我审查、别害怕?"

刘力朋于今年三月离开中国,他形容飞机起飞那一刻像是电影逃离德黑兰。(刘力朋提供自由亚洲电台)

刘力朋公开审查员工作日志 萧强:对透视中国审查极为重要

《中国数字时代》创办人、在美国加州大学伯克利新闻学院任教的萧强告诉本台,刘力朋提供的上百页微博审核工作日志极为重要,《中国数字时代》正在整理核实,目前已有部分在网上公开。

萧强说,反抗审查制度的本质就是要持续记录、披露和报道被压制的声音。他赞赏刘力朋"勇敢又高尚的举动"。

萧强:"(审查员日志)对我们过去工作相互印证加强,这不仅是历史上对审查留下证据,更希望中国人能加深对中国社会政权本质、对自己生存状态的了解。"

至少三位在北京的微博员工向本台核实刘力朋工作日志的真实性,但上述员工因担忧安全问题,不愿具名。至截稿,新浪微博官方并未回复本台查询。

暮容雪村则在8月29日于推特转发刘力朋接受美国之音专访的视频,证实自己曾在2012年收到匿名邮件,告知被微博封杀的消息。"这封邮件给我提供即为重要的讯息,感谢刘力朋先生冒着风险做出勇敢的举动。"

揭密中国内容审核的细致操作

新浪微博是2009年由新浪公司推出、模仿美国推特运作模式的产品,2014年在美国上市。在外国竞争对手被挡在防火墙外的情况下,微博用户快速增长,至今已经超过五亿。

然而,中国互联网公司生存的潜规则,不仅是被动接受政府的审查指令,还要主动壮大自己的自我审查队伍。刘力朋说,中国各互联网公司甚至存在"谁的审查团队更强"的较劲。由于新浪审核团队是较早成形的队伍,其后如字节跳动公司就是直接复制其审查机制。

刘力朋:"核心的敏感词库、审查的架构很容易就从新浪复制过来。"

审查不仅只是私人企业的较劲,还是自保。刘力朋举了2016年被捕入狱的快播科技创办人王欣为例,"审核做不好不只是赔钱而已。"

微博的内容审查是如何进行的呢?刘力朋介绍,第一步是机器审核,高敏感词如"六四"、"法轮功"直接删除,低敏感词如"政府"、"共产党"等则会进入先审后放、或先放后审阶段。第二步才是人工审核。

内容审核员坐在电脑前,面对这些讯息能有五个操作按钮:隐,止,私,删,通。

刘力朋:"一是隐、让你的微博不会被搜索找到;二是止不可以转发;三是最常见的是私,不告诉你帖子被删了,但只有你能看到;最后一个是删,删是很少用了,等于是告诉用户你是触犯规则了。"

微博内容审核员的后台画面,用户被分组进行审核。(由刘力朋提供自由亚洲电台)

用户分组 “大五毛”享有差别待遇

另一个鲜少被谈论的中共审查及舆论控制方式,是针对用户的"分组"。刘力朋提供的日志证实了这种模式。

"相当于一个白名单!"刘力朋点名几位在平台上活跃为共产党带风向的"大五毛"账号,如《环球时报》总编胡锡进、中国社科院马克思思想教授习五一、北大中文系教授孔庆东、司马南等。这些账号被特别允许谈论敏感词,且由高层的内容审核员控管。

"他们的评论区都是被筛过的,比如他说到一个敏感的东西,在别的地方是不让讨论的,大家都涌到那儿讨论,每当发生这样的情况,他的讯息就会被‘单审’,就是过滤评论, 这个评论经过审核会一边倒,形成非常强的舆论场,好像大家都这么想,就被说服了。"

刘力朋观察,在近几年来,微博上纵容某些五毛的"仇恨言论"让他感到不安。他说,类似仇恨香港"暴徒"、仇恨穆斯林、仇恨西方的话语在平台上持续发酵,并对用户达到一种"洗脑"的作用。

利用政令"模糊性"及"恐惧" 中国审查队伍持续壮大

审查机器最怕的是什么呢?

刘力朋停顿了一下说,审查的根本是利用指令的模糊性和人类因恐惧而产生的自我审查。

"恐惧本身就是非理性的。如果用户都拒绝自我审查,审查员根本就忙不过来。"

《纽约时报》曾在2019年报道,中国的审查员已成为一个不断壮大的新生产业,上万的审核员,为中国超过八亿多互联网用户每天看到的内容进行把关。这些审核员可能直属于互联网企业,也有许多是在其它县市的外包公司。

刘力朋:"如果人工智能这么强,为什么外包工厂在一线城市已经雇不到大学生了。只能去西安、重庆、浙江这些小一点的城市去做审核工厂。因为用的人太多、规模太大了。"

在离开中国之前,刘力朋在乐视总编室做质量监控主管。他说自己仍不时会收到猎头的信息,找他到另一个后来兴起的"删都"济南工作。

"拒绝作恶。"刘力朋说,尤其对于那些月领仅三、四千元的审核员,这个差事"根本不值得"。

记者:唐家婕  责编:申铧  网编:洪伟

【真理部特展】真理部指令中的“任志强”

09/22/2020

北京市第二中级人民法院9月22日对地产大亨、华远集团有限公司原董事长任志强涉嫌贪污罪、受贿罪、挪用公款罪、国有公司人员滥用职权罪作出一审判决,认定其贪污罪、受贿罪、挪用公款罪、国有公司人员滥用职权罪成立,判处有期徒刑18年,并处罚金420万元人民币。

现年69岁的任志强是知名的“红二代”,他的父亲任泉生曾任中国商业部副部长,现任国家副主席王歧山也是任志强的多年好友。

任志强一向以大胆敢言著称,有”任大炮”的绰号。他曾在2016年公开质疑“官媒姓党”,遭到留党查看一年的处分。今年3月,网上流传一篇署名“任志强”的文章《人民的生命被病毒和体制的重病共同伤害》,批评中国政府的抗疫表现,更直指国家主席习近平是“剥光了衣服也要坚持当皇帝的小丑”。

任志强随后一度失踪,4月7日当局公布他”涉嫌严重违纪违法,正接受纪律审查和监察调查“的消息。7月23日,当局发出公告,指任志强严重违反五项党纪及严重职务违法,涉嫌贪污、受贿、挪用公款及国有公司人员滥用职权犯罪,宣布对任志强处以开除党籍处分,同时取消他的待遇,收缴违纪违法所得,涉嫌犯罪问题移送检察机关依法审查起诉,所涉财物随案移送。

在这篇文章中,我们将展出中国数字时代/空间近年来搜集到的和任志强有关的禁令,并对禁令中所涉文章、微博或新闻事件进行简要延展。

本文也是“真理部特展”的首篇导览,“真理部特展”是中国数字时代/空间主办的一个披露中国媒体审查内幕、呈现其审查机制的项目,内容来自广电总局、中央电视台、新浪微博、乐视网、字节跳动、腾讯等媒体机构内部文件,分为“审查员交班日志”、“敏感词库”、“视频下架”、“审查员故事”及“审查机制专题分析报告”等分项目。

真理部指令,2016年2月29日

请查删以下文章:《任志强:请团中央不要用愚昧来毒害年轻人!》,请各网速报删除情况。

2015年9月21日,共青团中央微博撰文号召“理直气壮地高扬共产主义旗帜”,并发起“#我们是共产主义接班人#”微博话题。任志强转发并评论:“曾经被这个口号骗了十几年!”,随后又撰写长文回应,称:“我们被欺骗了十几年。文革让我知道只有无产阶级专政下的阶级斗争再革命。而没有共产主义接班人!”

9月23日,团中央宣传部长景临发长微博《与任志强先生榷》,指任志强“公开鲜明、郑重其事地反对共产党员的共产主义理想”。当晚,任志强再次撰文回应,提出五条改革建议,并称:“千万别让团中央用愚昧再去欺骗年轻的一代。千万别让改革开放退回到改革之前。我不在乎别人骂我,但团中央不能用无知欺骗社会!”

审查员交班日志,2013年11月30日(白班)

任志强答“北京房价何时降”:除非国务院搬走。网管办要求清理,相关内容见到私密处理。

2013年10月23日,北京市住建委出台了地方版的楼市调控新政“京七条”,随后,上海、广州、深圳和武汉等城市相继跟进,以北京楼市政策为标本,出台“一刀切”的收紧措施。在当月北京的一个房地产论坛上,有记者问到任志强北京房价什么时候才能降下来,任志强不假思索地说:“除非国务院搬走。”

审查员交班日志,2013年3月16日(白班)

魏XX通知:央视编导发短信给 @任志强 揭露“315在行动”播出的黄金打假新闻中,街头对市民的随机采访全是内部员工做“托儿”,戴眼镜的叫仲绘维,另一个叫赵晓伟。这样的电视台,这样的新闻,谁信? 这条消息要处理。



当年央视 3·15 晚会引发不少闹剧,除了央视内部员工做托事件被曝光之外,还有大概8点20分发事件:晚会邀请了娱乐明星何润东等名人点评团对打假案件进行点评,但当晚何润东发表微博称:”#315在行动#苹果竟然在售后玩这么多花样?作为“果粉”很受伤。你们这样做对起乔帮主吗?对得起那些买了肾得少年吗?果然是店大欺客么。大概8点20分发。“其中“大概8点20分发”后缀被一些网友认为这何润东是央视请来的名人枪手的证据,并被大量用户转发。

审查员交班日志,2013年2月28日(夜班)

鲁炜今天晚上和一帮大V开座谈并共进晚餐,人员包括@潘石屹 @李开复 @任志强 @张泉灵 @王利芬 @戴小京 @当当网李国庆 @郑渊洁 @薛蛮子 @张欣 @王巍w @刘春,要求对这些用户发布的关于和鲁炜开会吃饭的微博内容全部单条先审评论,并安排清理评论,只上正面评论。

公开报道并未见到鲁炜在2013年2月左右有召集大V座谈会。但在当年8月10日,鲁炜召集微博、网络名人座谈,提出“七条底线”的共识,分别是法律法规底线、社会主义制度底线、国家利益底线、公民合法权益底线、社会公共秩序底线、道德风尚底线和信息真实性底线。同时,鲁炜希望名人承担社会责任,作为正能量为“中国梦”而出力。2014年11月8日,鲁炜再度面见潘石屹、陈彤等网络大V进行交流座谈,

审查员交班日志,2012年3月24日(夜班)

王XX刚要求对潘石屹,任志强近期发的社会敏感事件的微博,各前台截屏五条,并截取部分网友评论。据王XX说明天会约谈潘石屹和任志强二人。已报备陈彤蒋XX魏XX。明天白,班请一定盯好此二人的评论,主要是涉及敏感话题的微博的评论。

据查,“任志强近期发的社会敏感事件的微博”是指任志强当时针对房价的言论。潘石屹的言论则是指他在微博上对“北京出大事”、“北京枪响”等传言的暗示

审查员交班日志,2012年1月19日(白班)

@任志强 今早发微博谈论温总理。【温总理语录】 2008:今年恐怕是中国经济最困难的一年。2009:今年是新世纪中国经济最困难的一年。2010:今年是中国经济最复杂的一年。2011:今年中国经济不比任何一年轻松。2012:今年一季度可能比较困难…到底哪一年最困难您明白了吗? 报备陈彤,陈彤回复不必删除。

2012年1月1日至2日,时任国务院总理温家宝来到湖南省调研经济时表示:“从全国来说,一季度可能比较困难,这也是我为什么元旦就来和企业家座谈的原因。”不过根据公开报道,2012年一季度 GDP 同比增长 8.1%.

审查员交班日志,2012年1月12日(白班)

关于“任志强准备在两会上提案:撤销微博实名制。国家机关无权将维护社会安全的责任强加给企业。如实行实名制应由国家拨款负责保护实名制的安全问题,并承担失密而给民众带来的各种损失的责任。”的内容,大夜时对此内容再次进行了清理。审核中,尤其是完全复制此内容重发的,私密处理。重要用户和 VIP 用户报负责人。

该条微博可能是有人假托任志强的名义发布,公开资料中并未见到任志强有提议撤销微博实名制。

美国之音|中国互联网管控在“学朝鲜”的道路上狂奔

08/21/2020

近日,中国国家网信办再次对网络平台出手,此次整顿重点是商业网站平台和“自媒体”。中共在2003年定下政治上“学朝鲜”的基调后,对互联网管控的力度越来越大。

根据中国国家网信办,此次集中整治将重点聚焦六大任务:一是集中整治商业网站平台、手机浏览器、“自媒体”违规采编发布互联网新闻信息、转载非合规稿源问题;二是规范移动应用商店境内新闻类APP审核管理;三是建立健全社交平台社区规则,加强社交平台运营管理;四是规范商业网站平台热点榜单运营管理;五是加强网络名人参与论坛、讲坛、讲座、年会、报告会、研讨会等网络活动管理,规范相关活动网上直播;六是优化改进移动新闻客户端和公众账号正能量传播。

紧接着,在中国社交媒体上便又出现了一波大清洗,许多人在微博微信的账号被封。由于此次针对自媒体,所有谈论新闻、时政之类的账号几乎都被封杀。

一位参加了网信办此次会议的人在朋友圈透露:“接下来自媒体的日子越发难过了,按规定,几乎什么都不可以发,不允许转载官方媒体新闻,不允许报道突发事件,不允许发布房地产负面信息,连预估房价走势都不允许。归根结底就是什么都不能发。”

这一轮封杀,再次引发网民对言论自由封杀的不满,并怀念起之前互联网平台起初的自由之风,从早期的“法外之地”到如今的“寸草不生”,中国互联网发展历史的背后却是中共网络审查的历史。

2003年,是维权元年,也是网络严控的开始

对于此次出现的对“自媒体”的大清洗,滕彪一点不吃惊。他说:“整个来说它是要控制舆论、控制信息,如果民间讨论的信息是在官方传统控制之外的,它的基础就受到侵蚀了,这是它根本的考虑。”滕彪说,其实首先互联网进入中国之后就出台不少规定进行审查和过滤,包括建防火墙,互联网进入中国不久就开始建立防火墙的。随着互联网在中国发展越来越快,使用的人越来越多,管理也是一步一步跟上。不过,滕彪认为,如今的管控与起初互联网刚进入中国时,还是有天壤之别的。

时隔多年,已在美国的人权律师滕彪依然会怀念北大BBS“一塌糊涂”起初的自由之风。

“一塌糊涂”是北大物理学研究生吴涛1999年9月,为庆祝北大研究生宿舍楼通网而搭建的BBS,取北大一塔(博雅塔)湖(未名湖)图(北大图书馆)的谐音,到2004年9月被迫关闭的时候,它是教育网上线平均人数最多的BBS,其中公民生活、反谣言中心、台海观察、人权研究等版块,成为当时最活跃的版块。当时有人调侃:“自从有了一塌糊涂,北大同学的生活就焕然一新了。”很多人在这里找到同道,滕彪也一样。当时,他最喜欢到公民生活版块,在那里讨论时政和时事热点,那个时候谁都可以注册谁都可以进来参加讨论,“人气越来越旺。”

“一塌糊涂”的辉煌时期可以说是2003年,这一年的4月,孙志刚事件因《南方都市报》的报道而爆发,公民生活版也推出了”由孙志刚之死看暂住证制度”在线论坛,在这里发言的人有不久之后上书人大请求审查《城市流浪乞讨人员收容遣送办法》的北大三博士许志永、滕彪、俞江。

滕彪回忆,当时在“一塌糊涂”上很多人发信息,从各个方面讨论收容遣送制度,还有发挖沙子的照片,很多是传统媒体没有报道的内容,非常自由,没有删帖的情况。滕彪还记得,当时不仅是在北大的“一塌糊涂”上激起激烈的讨论,其他论坛,如清华的水木清华、关天茶舍等论坛,也都在讨论这件事。

孙志刚事件经网络发酵,引起全国民众的激烈反应,2003年6月20日,《城市生活无着的流浪乞讨人员救助管理办法》公布;8月1日,一九八二年《城市流浪乞讨人员收容遣送办法》废止。这是中共建政以来,第一次由下而上废除的法律,也是唯一一次。而互联网对信息和舆情的传播、制造话题、带动公共讨论的作用也第一次成功显现在中国民众面前。

滕彪回忆说,2003年不仅是孙志刚事件,还有其他事件,比如Sars,湖南教师黄静案等,当时在网络上都讨论得很激烈,民间舆情强烈,造成很大的社会反响。因此,2003年也被称为维权运动元年,而互联网在其中功不可没:这一年,中国民众学会了通过网络来维权,通过网络得到舆情的关注。

但是,转折也发生在2003年。滕彪回忆,推出“由孙志刚之死看暂住证制度”在线论坛和Sars讨论论坛没多久,5月4日,“一塌糊涂”发出公告,称由于公民生活和三角地“没有做到坚持团结稳定鼓劲”,所以这两个版块暂停。此后,“一塌糊涂”设立了观察员,可以直接删除敏感文章。但这并没有阻止它被关闭的命运,一年后的2004年5月“一塌糊涂”被彻底关闭,离它五岁生日仅差几天。滕彪说:“他们的反应还是蛮快的。”

胡温新政背后的“学朝鲜”

《南方都市报》和《新京报》的创办人及前总编辑程益中与滕彪有着同样的观点,他认为中国互联网平台如今的局面早在2003年就开始形成,现在不过是老调重弹,是一轮又一轮打击之后的结果。这一次,把自媒体纳入管理,不过是重申,这就像严打似的,要把这个效果做给上面的人看而已。

程益中还进一步指出,2003年不仅是中国互联网的转折,而且也是整个中国政治的一个转折点。他说,2002年10月,胡温上台,当时宣传是“胡温新政”,这是当时新华社用的词,把胡锦涛温家宝上台,理解成中国要启动政改,这在当时有这么一种宣传。因为江泽民执政14年,很多人骂他,说做了14年,也不政改也不推动中国民主化进程,胡温上台了,给人感觉要把中断的政治改革重新续上的感觉。《新京报》的诞生也是基于这样的一个背景,这个国家要政改,《新京报》就是趁着这个大背景上去的,但实际上并不是这样。

程益中说:“我为什么会印象强烈呢?有一个非常重要的标志,2003年10月份的时候,南都案开始爆发了。南都案前期,也就是2003年七八月份的时候,就是七月之前吧,所有的外网都是能上的,当时很多论坛、社区都是很开放的。南都案一爆发,我就忙着南都案的事情,我是2004年3月19日进去的(注:因南都案,程益中于2003年3月19日被刑事拘留,4月1日逮捕。此案被认为是《南方都市报》关于孙志刚案和SARS事件的报道而引起的报复。),在这之前,我们南都利用媒体互联网发出了很多声音,利用互联网串联和各种反抗,还有和外网的各种联系,2004年8月份,我出来的时候,所有之前的网站全部上不去了,前后有半年的时间,所有的外网都上不了,这是一个重大的变化,就是说中国的防火墙已经起来了,这是很重要的,这是一个重大转变。”

程益中说,互联网刚出现的时候,当局还有些迟疑,觉得互联网管不住,只要把传统媒体管住就行,然而,2003年的孙志刚事件、SARS、南都案等一系列事件让当局发现互联网的影响力更大,必须管。于是必须改变这个局面,这个局面的转变就是这个时候发生的。

程益中回忆说,这些事情背后,还有一个更大的背景。他回忆说,当时江泽民给胡锦涛写了一封信,当时我还在办新京报,所以我得到了这封信的传达。大概是2003年国庆节前后,时间有些记不清,江写了一封信,大意说胡温上台一年,成绩不少,取得了不错的开局,但是,接下来这个但是就厉害了,但是在这个局面下,利用“胡温新政”这个口号,一些反对共产党的自由知识分子提出政改的主张,他们提出这个主张实际就是推翻中国共产党,为六四平反,这是很关键,警告胡温政府不要被利用,要防止这些人不切实际的期待。胡锦涛在这封信中有很长的批示,胡锦涛是同意他的看法的,胡锦涛的“学朝鲜”就是这么来的,胡锦涛批示就是说,朝鲜经济上困难不少,但政治上有很多不错的做法,是值得我们学习和借鉴的,就是说它的政治是正确的,这个批示大概就是这个意思,然后巴拉巴拉讲了一堆,就是要四个坚持,尤其是要坚持他的领导,不能让老一辈无产阶级革命家的江山断送在我们手中,不能被自由化知识分子他们的思潮所绑架。

因此,程益中认为,如今网络管控出现这个局面早在2003年就定下基调了,只是后来不断重申、不断强化。

习近平时代网络加速朝鲜化

在很长一段时间内,中国出现了平面媒体和网络两个不同但又交叉互动的话语空间,卢雪松停课事件、王天成告周叶中抄袭案、北大人事改革事件、声援《中国青年报》”冰点”周刊、杨佳事件、邓玉娇事件、汶川地震、08宪章、北京奥运、温州动车事故等等,在互联网各个平台上激起激烈的讨论,维权人士也用社交网络和互联网平台进行维权,在网络和社会上形成大的热点。滕彪认为,这些时事热点和网络事件都对官方的宣传系统、信息控制系统构成了挑战,虽然不是直接的,但这些都会让当局考虑网络设置话题的能力,形成民间舆论的能力的,从而制定应对之策进行管控,像防火墙、绿坝、还有vpn越来越难,把facebook 推特赶出去等等。滕彪指出,随着,互联网的发展,这种管控也一步一步升级,因言获罪的案例也越来越多。

不过,滕彪指出,习近平上台之后,网络管控的力度明显增强。他说,中国政府面对互联网的,是一直非常警惕,不过在江胡时期,影响没这么大,无论是BBS还是微博,这些平台的影响不足以威胁到当局的政权,其次,一些话语,尤其是经济自由主义的话语,也是当局推行市场经济的需要,所以相对于习近平的时代,打压得比较轻。但现在情况明显不同,习近平上台之后,互联网、社交媒体、NGO组织、维权运动、教会、新闻媒体等等,都逐一打压,打压所有的自由力量,所以对网络的监控也越来越严格不足为奇。背后的原因就是考虑到互联网对中国政治体制的威胁,不管实际威胁怎么样,但当局看来这是直接重大的威胁。

不可能的任务:枪口抬高一寸

作为一位老媒体人,程益中说,其实中国政府对媒体的控制没有结构性的变化,只是力度更大了。“对媒体都是一样的,从来没有宽松过,我在做总编的时候也没有宽松过,只不过后来它的力度越来越大,越来越到位,越来越制度化、架构化,并且是规模化。”因此,他认为,做自媒体在中国其实是没有希望、没有未来的。

曾在中国做过十年审查和审查相关工作的刘力朋也指出,随着互联网的发展,审查越来越严格,互联网刚出现的时候,审核员仅仅是私企的内部工作,内部管理也稍微轻松,但如今的审查,各种权利部门都有权力审查,有很多直接是网警审查。此外,不仅审查越来越严格,对审查员的控制也到了不可思议的地步,每一个审查员后面都有监控,且一些大的操作基本由两人完成,所有的资料文档都有数字指纹,几乎不太可能想起初那样“枪口抬高一寸”或是“睁只眼闭只眼”,更不可能把审查的资料和规则传到外界。

Like my work??
Don't forget to support or like, so I know you are with me..

CC BY-NC-ND 2.0

544 雾锁中国:中国大陆控制媒体策略大揭秘|何清涟

634 牆國誌:中國如何控制網路

600 专访政治学家韩博天:数字列宁主义下,中国将如何重塑全球秩序?|端传媒

3

Want to read more ?

Login with one click and join the most diverse creator community.