互联网秘密规则：背后的内容管制如何重塑西方言论自由(上)

本篇文章3807字，读完约10分钟

在高风险公共领域爆炸性增长的时期，言论自由的界限是如何确立的？

如今，超过10亿youtube用户每分钟上传约400小时的视频。与此同时，instagram用户每小时发送1.46亿条赞，twitter用户发送2100万条推。去年8月，马克扎克伯格在facebook上表示，该网站已经达到“一个重要的里程碑:第一次有10亿人在一天之内使用facebook。”

然而，面对自由和监管，这些平台的内容过滤机制经常被企业利益、社会责任和基本人权之间的权衡所混淆。事实上，在我们痴迷的西方言论自由背后，有一种无形的机制。

youtube内容分析师的故事2006年夏天的一天，朱莉·莫拉·布兰科将永远记住这一天:这一天她开始了新的工作。莫拉·布兰科(Maura Blanco)当时是加州州立大学奇科分校的应届毕业生，主修艺术，辅修女性主义研究，她花了大部分时间创作雕塑。在搬到互联网初创公司youtube之前，布兰科在目前的电视上从事后期制作，每天都在为高额租金而挣扎。她想，也许，她可以赚到足够的钱，实现她一生的梦想:成为一名发型师。

那是一个温暖、阳光明媚的早晨，她正坐在公司的办公室里，公司位于圣马特奥市，风景如画的旧金山富裕区。莫拉-布兰科是这个无利可图的网站上60多名20多岁员工之一。

布兰科的团队——共有10人——被称为“小组”(安全、质量和用户支持部)。他们的团队通常工作四到六天，他们在部分时间轮班工作。晚上，他们一起看视频。他们的职责是什么？过滤网站上用户标记的攻击性或恶意内容，并维护羽翼未丰的youtube品牌。或者如布兰科所说。youtube的创始人希望youtube将成为一个新的网站--一个属于每个人的地方--而不是另一个电子博客。

面对标签:删除虐待动物的视频，删除血腥的视频，删除色情电影，等等。布兰科经常和他的同事米斯蒂·尤因·戴维斯开这些标签的玩笑。“你必须要求幽默，否则会太痛苦。”

电脑屏幕上出现了无尽的视频。大约4秒钟后，队员们可能看了一段屏幕视频，然后选择了“批准”——同意上传到网站上；“拒绝”是-删除视频，但不惩罚上传者；“罢工”——它不仅意味着删除，但也采取某些禁止上传帐户的措施。咔嚓，咔嚓，咔嚓……但是有一天，一些事情改变了布兰科的发展道路。

“哦，亲爱的！”布兰科仍然担心他那天早上看到的东西。但最后，她想起来了，说她在视频中看到一个蹒跚学步的孩子在一个黑暗的房间里，里面有可怕的暴力。

尤因-戴维斯冷静地帮助布兰科点击“罢工”，停用帐户，并报告给组长。然后，信息将被发送到报告中心，这是一个由国家失踪和受虐待儿童中心于1998年发起的报告系统。虐待儿童的现场是法律明确禁止的行为。

这段视频消失了，但下一段又来了。

是的，这是你的工作。布兰科和尤因-戴维斯在街上踱来踱去，心想:是的，你总会看到不好的东西。

大约十年后，虐待儿童的视频仍然萦绕在布兰科心头。“在我看来，这种情况经常出现。”“我没有很多职业规划。在我25岁的时候，我仍然为我的工资感到高兴，但我从来没有想到自己会如此黑暗和沉重。”

布兰科是《边缘》杂志采访的几十名主流互联网平台(如youtube和facebook)的前任或现任员工之一。在《被采访》中，他们都谈到了内容评论所创造的“互联网黎明明”。他们中的大多数人第一次披露了自己的经历，他们的故事揭示了在高风险公共领域爆炸性增长的时期，言论自由的界限是如何确立的。正如这位法学教授多年前首次提到的那样:“facebook比世界上任何一位最高法院的法官、国王或总统都有更多的权利来决定谁可以发言，谁的发言可以被听到。”换句话说，它们给人们带来了更大的发言权。

互联网内容从自由放任到监管

Youtube于2005年2月15日注册，由史蒂夫·陈、查德·赫尔利和贾韦德·卡里姆创建。2006年11月，谷歌以16.5亿美元收购了youtube，并将其作为子公司运营。

youtube要成为在线视频之王并不容易。在其成立之初，这三个20多岁的年轻人非常沮丧，因为从技术上讲，他们没有简单的方法来分享两个特别引人注目的视频:2004年摧毁东南亚的海啸片段和珍妮特·杰克逊的超级碗“服装事故”。2005年4月，他们进行了第一次上传测试。10月，他们发布了第一个热播视频，点击率超过100万:该视频是耐克的广告，展示了巴西足球明星罗纳尔迪尼奥获得“金靴奖”的场景。几周后，谷歌斥资16.5亿美元收购了视频分享网站。当时，谷歌称之为“互联网革命的下一阶段”，youtube已经有65名员工。这时，布兰科被提升为内容战略家。截至2006年年中，youtube用户每天在线观看超过1亿个视频。

youtube诞生时，它吸引了一个小部门来分享关于家人和朋友的视频。然而，随着网站的爆炸式扩张，内容和主题也变得多样化，甚至充斥着大量的有害内容:商业电影和音乐片段被上传，还有大量的业余和职业色情作品。慢慢地，虐待儿童、殴打和虐待动物的视频出现了。2007年底，youtube承诺遵守版权法，并成立了一个负责内容审查的团队。但是屏蔽恶意内容比想象的要复杂。首先，它需要密集的人力。

因此，上面提到的“小队”是有效的。他们为内容审查制定了一系列标准，简单地说就是“这个视频能和家人分享吗？”在大多数情况下，它们是相互独立的，一些有争议的问题留给创始人来决定。慢慢地，他们在行业中形成了一个前所未有的工作领域:专业内容审计。(作者可能不知道中国有广播电视局)

2006年秋天，youtube的律师和审计政策负责人在数据和视频插图方面与团队合作，为团队开发了一个六页的规则手册，每隔几周更新一次。没有一个政策定义，这个即兴团队没有意识到他们实际上是在发展一个关于言论自由的新的全球标准。

走向自由？互联网公司的反叛与约束

2009年夏天，伊朗示威者走上街头抗议艾哈迈迪内贾德当局的选举舞弊。这场被称为“绿色运动”的抗议是伊朗革命史上最重要的政治事件之一。在这场大规模的抗议和骚乱中，互联网已经成为示威者传递信息、发泄不满和获得外界同情的重要渠道。个人博客、推特、脸书等。已经成为示威者交流的重要方式；Youtube、flickr等已经成为国际媒体反映德黑兰街头真实情况的首选载体。布兰科和她的团队正在监控上传到youtube的许多抗议视频。

7月20日，该团队收到了一个由业余摄影师拍摄的视频，并上传到了youtube。这段视频是在伊朗总统选举抗议期间在街头拍摄的，记录了一名名叫neda agha-soltan的妇女在胸部中弹后死于街头的故事。在照片中，26岁女孩的血从眼中流出，她生命中最后也是最可怕的时刻被记录了下来。

视频上传后几个小时内，它就成了布兰科和团队的焦点。据她回忆，他们的政策导向没有任何关于“构成新闻价值”的指导，或者说它实质上构成了新闻伦理。但她知道视频的政治意义，并意识到他们的决定将有助于她的牺牲。

布兰科和团队最终决定保留这段视频。后来，这段视频引发了一场关于言论自由和人权的全球对话——它产生了巨大的政治影响。他们有很大的政治权力。

随后，小队政策小组迅速与法务部合作，决定放松其无端的反暴力政策，并匆忙设立了“新闻豁免”的标准。现在这段视频被广泛转载，全世界都可以见证这位支持民主的抗议者的壮举。后来，该视频还获得了何塞奖。

如今，超过10亿youtube用户每分钟上传约400小时的视频。与此同时，instagram用户每小时发送1.46亿条赞，twitter用户发送2100万条推。去年8月，马克扎克伯格在facebook上表示，该网站已经达到“一个重要的里程碑:第一次有10亿人在一天之内使用facebook。”

面对自由和监管，这些平台的内容过滤机制——往往是在权衡企业利益、社会责任、基本人权等问题的神话中——对言论自由、政府异议、社会规范的形成、用户安全和隐私产生了重大影响。应该删除什么？谁来决定内容是去还是留？什么是新闻价值？威胁？受伤了吗？说到执法。他们也很困惑

尽管公众对政府的审查制度和大学校园的言论自由管理感到愤怒，但客户内容管理为隐私和共同管理的互联网上的言论自由带来了一个和平的环境。关于内容审查，微软研究员凯特·克劳福德(kate crawford)将其定义为“一个深刻的人类决策过程，选择什么构成公共领域的言论自由。”

截至去年夏天，社交媒体平台，尤其是facebook，占所有主流新闻网站流量的43%，近三分之二的Facebook和twitter用户通过社交平台接收新闻内容。无节制的社交媒体经常涉及教派暴力、家庭暴力、招募暴力极端分子、大规模欺凌等等。根据该报告，社交媒体和移动技术给巴基斯坦和其他国家的妇女带来了真正的伤害，因为它们给强奸犯提供了勒索受害者的额外手段(受害者可能因被强奸而入狱)。

《大西洋月刊》的一篇报道所倡导的一种流行说法意味着当前的内容审查制度已经被打破。然而，对于那些在网上受到伤害的人来说，“分手”不再是一个合适的词。相反，这个系统应该已经完全被破坏了。在过去的18个月里，通过对十几位行业专家的采访，我们发现具有全球影响力的内容审计已经被边缘化，甚至达到了令人震惊的程度。早期凭经验得出的直觉审计政策今天依然存在，但被拒绝参与实质性公开对话和媒体问答的行业企业所掩盖。

走向边缘