互联网内容审核员，机器背后的“打工人” – 作者:wangyiyunyidun-安全小百科

希腊神话故事中，西西弗斯被宙斯惩罚，每天必须把一块石头从山脚推到山顶，而推到山顶之后，石头又会因为重力滚到山下，于是西西弗斯必须每天周而复始地推石头。

平常上网浏览消息，你我都以为接收到的是所有信息，其实有这样一个行业默默存在，把许多有害信息屏蔽了，互联网内容审核正在走向人工强干预。

互联网内容审核工作就像是“推石头”。审核员们坐在办公室内，每日对着电脑屏幕，不停地判断。一般而言，他们会和人工智能合作，再登录审核后台之后，只需要按几个键，依次将上万条互联网内容屏蔽、忽略、封禁、通过……。

在这条数字化的流水线上，内容源源不断地涌现。刚开始，周而复始的作业让审核员们无比痛苦，但是后来在“推石头”的过程中，有所收获，有所提升，那么对于他们来说，“推石头”是有意义的。

图 | 年轻的互联网内容审核员不厌其烦地扫过每一条信息。速度必须要快，一个审核员平均一天需要浏览上万条信息。

01 “海归”回老家做审核

“爸妈都渐渐老了，而我能够在身边。不管在哪里都可以继续寻求突破，做自己想做的事。”

每年都有不少年轻人逃离一线城市。据一项对“北上广深”地区的调查结果显示，如果选择逃离，接近一半（49%）的受访者会选择回老家。离开上海回到老家的中高级人才也被称为“海归”。与此同时，“京归”、“广归”、“深归”等群体称呼衍生而来。金哲正是“海归”之一。

2017年冬天，已过而立之年的金哲辞去互联网金融产品公司客服主管的岗位，离开了呆了7年的上海，回到洛阳老家，重新适应曾经最熟悉的环境。幸运的是，她找到了一份向往的互联网工作，在这里她与自己和解，开始了新的生活。

洛阳是一个历史文化名城，也是一个老牌重工业基地。“那边有一条路叫建设路，沿着那个路有中国第一拖拉机厂、洛阳矿山机械厂、洛阳轴承厂，这些全都是国人耳熟能详的大型国企。” 金哲介绍道。

由于父亲是洛阳第一拖拉机制造集团的一名工程师，金哲从小被安排在一拖集团的员工子弟学校读书，对于身边同学的父母在哪个分厂工作都很了解，但工厂里的工作并没有给她留下好印象。

“大家也都知道工厂上班的环境是什么样的，老实说，毕业以后根本就不想去工厂上班。”从河南科技大学理工科毕业的金哲面临人生中的首次重大抉择，虽然不知道要什么，但她渴望做些与父母辈不一样的事。

今年是金哲回到家乡的第3年。告别了从事近10年的客服行业，她成为了一名互联网审核员，目前负责网易社区产品的审核工作，管理着一个20个人的小审核团队。

一天下来，她片刻不停地周转于各种各样的审核任务，包括把握审核标准、了解新的热点舆情、复查组员的审核内容、提醒组员在审核中应该注意的新鲜点、汇总反馈的问题账号与前台巡查内容等等。

“第一次接触才知道这个行业工作节奏非常快，工作压力也比以前大了不少，每一天都过得很紧张，但是很充实。”金哲表示。

除此之外，金哲时常要碰到一些奇奇怪怪的圈子，以及属于这个圈子的术语，例如BDSM群体常用的“大圈”与“小圈”。

“你一看，这个内容居然是这个意思啊，好震惊啊。”她回忆起当时的心情，略带尴尬地说“才知道原来还有这样的圈子，有这么一群人的存在。” 这份工作让她连连感叹认知的局限性。

“希望趁自己还算年轻，还能学的动，能再多增加一些新的知识，接触一些新的事物。”金哲笑容满面，完全一副好奇的模样。

在一天工作结束后，金哲会站着发回呆。“那座顶上像针一样尖的建筑是洛阳电视塔，有点类似上海的东方明珠。”金哲指着远处的建筑物说道。此刻她面朝西北，站在洛龙区审核中心的大落地窗前。

傍晚时分，茫茫的雾气没能笼罩高耸的电视塔，电视塔的背后是一连排现代化的办公楼，那里是西工区，是整个洛阳最繁华的地带。

图 |主打科技和大数据产业的洛龙区还留着大片的空地。随着产业结构丰富化，这里的高楼和汽车开始多起来。

尽管仅有一江之隔，西工区与洛龙区的发展差别泾渭分明。洛河那头是充满生活气息、高楼林立的老城区，而这头的洛龙区还留着大片的空地，主打科技和大数据产业。从审核中心这里望向对岸，没有任何视线阻碍。

眼前延绵的洛河，让金哲想起黄浦江。之前，她住在陆家嘴附近，喜欢在滨江大道散步，驻足于黄浦江两岸璀璨斑斓的夜景中。回到洛阳之后，金哲花了一整年才抚平内心的落差，但她并不后悔。她坦言，与客服相比，这个互联网内容审核更有发展前途。

今年7月，作为国家正式发布的一批新职业，互联网内容审核员的发展前景和专业性得到保证，持证上岗在未来或将成为常态。

“既能陪在家人身边，也能有一份稳中有升的收入，更适合我，未来还想继续从事这份工作。”金哲说。她是家中的独女，没有男朋友，父母都已退休在家，生活还算安逸。

图 | 对于三、四线城市而言，大数据不再是虚无缥缈的遥远名词，而是带来可观收入的工作。在洛阳大数据产业园区内，可以看见网易、今日头条、小米智米等互联网公司的电销和审核团队。

如今，她每日开车往返于家与洛阳大数据产业园之间。“差不多需要30分钟，走王城大道和古城快速路，比在上海挤2号线的早晚高峰要舒适不少，通勤的时间也少了一半。”

工作稳定之后，金哲和父母商议后决定，准备把县城的老房子卖了凑个首付，在洛阳换一套大一点的房子。国家统计局的一项报告显示，从2020年1-9月新房售价来看，洛阳商品房每平米的平均单价在10098元，而上海是这一数值的近6倍。

“这是最后一次搬家。”金哲仔细算了一下，在上海7年搬了5次家。这让沉迷于二次元的她不敢买心仪的手办，因为搬家的时候行李打包太麻烦了。金哲畅想着，以后要在新房子里放满自己喜欢的手办。

02 创业失败重回职场

“每月月薪能买一平米房。”

子帅出生在一个典型的少数民族家庭，他肤色黝黑、五官立体，信仰宗教。从爷爷那辈开始，一家人一起向南跋涉，搬到了河南小城商丘。“从小受到家里熏陶嘛，跟着去寺做礼拜兼学习知识，在家和寺之间长大。”

2020年初，一场疫情席卷全球，也影响到了这位居住在河南小城的青年。大学毕业以后，子帅并没有就业，而是选择了创业。2016年，他和朋友合营一家旅游公司，主要是通过为大型旅行社拉客赚钱。

“比如说，我们收入五十个客人，再负责联系车子，把客人送到机场交给大的旅行公司，把成本扣扣，最后报个价给大旅行社。”子帅说，河南本地小旅行社都这么做，彼此都能有利润。

不幸的是，受疫情影响，业务都停滞了，子帅把之前赚的几万块，全部赔进去了，包括支付员工工资和办公室租金。现在，这项创业计划只能是暂时搁置了。

“日子不过也得过呀。”今年9月份，子帅感受到了创业的残酷性，重新规划起自己的职业道路。

看到互联网内容审核员的招聘，子帅觉得机会来了，虽然入行门槛不高，可他认为互联网是十分有前途的行业，通过这个职业至少先入个门，一步步往上走。

此外，疫情过后，子帅开始关注基本生活保障。这份工作的福利保障在平均以上，在商丘许多传统行业鲜有给员工交纳五险一金的，也难有双休。上个月加上绩效，他到手工资差不多能在当地买1平米房，而商丘住宅商品房平均销售价格在4千左右。“虽然不高，但也说不上低。”

“之前一位室友开玩笑说，你每天看那些东西还能挣钱，何乐不为呢，”成为互联网内容审核员几个月后，子帅表示，“反正实际是完全不一样的。”

实际上，有害内容会先经过机器初审，人工智能技术能自动识别9成以上的问题内容，玩笑中提到的那些内容多半到不了审核员的屏幕前，留下来的内容杀伤力要小很多。

或许是因为特殊的信仰和成长环境，子帅对于民族分裂、宗教极端、暴力恐怖相关的违规内容印象深刻。在他看来，这是一份“伟大”的工作。如果没有互联网审核，网上可能会流传着更多暴力冲突的画面，刺激更多人的神经。

“他们做出来那种行为，我是非常不认同的。那种极端分子，也是被洗脑了，或是给境外势力买通了。”子帅若有所思地说。

03 Z世代当上审核主管

“这个行业只要你认真去做，该怎么发展，很清晰明了。”

早晨的阳光照进简陋破旧的城中村阁楼中，窗台上结着扎实的蜘蛛网，廊下的晾衣杆上悬挂着几件村民的衣服。梦阳正在端详着房间门口的电表。“昨晚停电了，刚好连着我房间的这路电线烧掉了。”她说，完全无视周围混乱的环境。

梦阳是河南禹州人，在武汉读了大学。2018年6月，她从武汉职业技术学院的电子信息工程系毕业后，按照学校的安排会进富士康、海尔一类的工厂做设备维护，设计电路图给到流水线进行生产安装。不过，她选择成为了一名互联网内容审核员。

“从遥控机、电脑、电视、手机、智能门禁装置到智能物流机器人都需要用到电路板。”现在她将这个专业的功用娓娓道来，但这里面还有一段小插曲。

在报填报志愿的时候，梦阳仅从字面意思进行了判断，“电子”和“信息”两个词语让她联想到了“互联网”，也让她以为这个专业学习的是互联网底层技术或者计算机编程。

“我们当时要搞那个电烙铁，用来焊接东西，你知道吗？”她脸上露出无奈的神情，接着从手机中翻出一张历史照片。这是在一堂家电维修课上，画面中的梦阳戴个口罩，挽起长发，手持电烙铁，小心翼翼地操作着一块不大的绿色电路板。“你说，一个女的上学，就是天天坐在那里搞焊接，这谁受得了。”

毕业后，梦阳头也不回地投入了互联网行业的怀抱，她的第一份工作是在小红书。刚开始做了3个月的标注，给机器提供数据，后来这个业务线标的差不多，梦阳就转到了内容审核。“当时小红书在武汉的基地叫呼叫中心，我们都以为是客服类的工作，完全没想过自己会从事互联网内容审核，以前也不知道还有这个工作。”

“这大概是我在这个行业的一个机遇吧，” 梦阳暗自思忖。今年，她加入网易易盾，从一线审核成长为审核组管理人员，在洛阳的一处城中村安顿下来。目前，如果有新产品要接入内容安全审核，她就带着60个人的团队迎头赶上，负责招聘、培训、排班、审核程度把握等工作。

图 | 村内的楼房大多由村民自建，加盖至4、5层在这里很常见。楼房前妇女们搬个小板凳闲话家常，由砖块堆砌的墙面袒露在外，似乎正焦急等待着拆迁的来临。

“这里离公司近，步行只需要10分钟。如果排到晚班，这个房子的优势就体现出来。” 梦阳说。一大早，她出了门，拐个弯，眼前豁然开朗，一排排崭新的办公楼映入眼帘，这里是洛阳大数据产业园，占地约22公顷，相当于31个标准足球场那么大。

上午，她在培训教室正前方就座，等待业务方远程视频接入，即将给对面的10多位员工梳理一下新产品的内容安全审核标准。这次培训主要是关于一个汽车线上社区对于涉黄、涉政、广告、违禁等有害内容的把控程度，是一个新业务。

这次培训持续了约一个小时，她有条不紊地讲解着一条条审核规则，神情语气比实际岁数要老成。墨绿色的长发搭在鲜红的毛衣上，显得格外醒目，才让人想起她也是个性张扬的Z世代中的一员。

在不久之前，她还坐在培训席中听讲，如同海绵一般吸收着闻所未闻的知识。“哇！真的还有这种事情嘛。”梦阳在惊讶之余，将很多知识点一一记在笔记本上。“那个笔记本我到现在都藏得很好，生怕丢了之后，被别人捡了去，可能要犯法了。”

对于梦阳而言，刚入行那段时光有点苦涩。大量从来没有接触过的知识点，好像重新回到高考前夕，尤其是每月一次的审核测试。她回忆道，那阵子冷得要命，从被窝中起来，首先得先哭一顿，排解一下情绪。有一次，后台蹦出一张泡在福尔马林中的尸体图片，吓得她差点报警。那阵子她经常做同一个恶梦：有人拿着刀追上她，朝她砍了数百刀，瞬间血糊拉碴。

不过，她坦言，一种身份认同感让她坚持了下来，一直坚持到现在。“自己突然成为一个很重要的人，可以了解到很多别人不知道的东西，很厉害，也很有意思。”

这个行业在慢慢地发展中，互联网产品的安全意识逐步提升，创造了更多就业机会。梦阳说，过去两年，小红书的审核人员从一两百人激增至一千多人。“在一线审核人员增加的同时，管理肯定得跟得上。未来，审核人员的职业道路会更加明朗，审核员管理岗，培训职能岗，策略运营岗，都是不错的选择。”

刚开始做审核的时候，梦阳觉得自己有一天可能会被机器给代替。不过，从事审核工作越久，她越是肯定自己永远都不会被机器代替。“因为网友真的是太厉害了，特别是中国语言博大精深，色情、赌博、诈骗一类的问题内容永远会有变形。”

图 | 梦阳迈开脚步，走在被科技园包围的城中村中。她在河南方言和普通话之间自由切换，轻松地融入了当地的生活圈。

和梦阳同届毕业的同学中，有的去搞销售、有的进餐厅做管培生、也有的在电影院服务。在她看来，这些职业发展前途比较一般，很多同学因此频繁换工作，定不下来。“我大学室友之前就是做销售，后来我把她拉进了这个行业，还有一些同学辞职后来问我，我就说你们可以过来试一下。这个行业只要你认真去做，该怎么发展，很清晰明了。”