人工智能商业著作

幕后之人

本书对于互联网内容审核员这一“幕后之人”群体的揭示性调查,不仅对商业互联网的现实做出了独到的描述,还提供了对数字时代全球化劳动力未来的洞察。

  • 副标题社交媒体时代的内容审核
  • 作者[美]莎拉·罗伯茨(Sarah T. Roberts)
  • 译者罗文
  • 原作名Behind the Screen: Content Moderation in the Shadows of Social Media
  • 出版社广东人民出版社
  • 出品方万有引力
  • 发行日期2023-05
  • I S B N9787218164243
  • 标签

★“如果你给互联网开一个口子……它就会被‘垃圾’填满”

登陆一个网站,打开一个APP,我们享受其中的优质内容,并沉浸其中;然而,我们所看到的一切并非它原本的面貌。一个隐秘且庞大的内容过滤机制,已经事先为用户扫除了无数劣质、不良的内容。而无论是这套商业过滤机制的操控者,还是具体筛查工作的执行者,仍然是活生生的人。

★“我希望他们可以离开阴影处,从屏幕后面走出来,走到有光亮的地方来。”

在一个自动化、智能化的时代,互联网的商业性内容过滤机制为何仍然需要大量人力的投入?从事这项工作的普通员工,他们每天如何开展工作,面对的是什么,又遭遇了什么?他们的经济权益、身心健康是否得到了保护?他们对于自己的劳动、社交媒体经济乃至互联网的文化和政策,又有哪些敏锐的理解和洞察?

★潜心八年、突破重重阻碍的田野调查,揭示互联网的真实生态和幕后运作

《幕后之人》源自本书作者莎拉·罗伯茨2010—2018年长达八年时间的调查研究。她突破了互联网公司保密协议、地域限制等重重阻碍,访谈了许多离职及在职的商业性内容审核员,以及包括业内人士、学者、律师、记者等在内的更大群体,全面考察了互联网商业性内容审核工作的不同类型,揭示了审核员们的生存境遇,并针对内容审核过程中出现的政策争议、犯罪制止、社会影响等进行了分析和阐述。

————————

【内容简介】

进入社交媒体时代,互联网上的内容日益混乱驳杂,商业性内容审核已成为一项广泛存在、极为必要的工作。而抵御不良内容的主要屏障并非是机器算法,而是人。数以百万计的审核员承担了大量的工作,他们评估社交平台用户上传的信息,筛选和移除色情、暴力、仇恨言论等不良内容。然而,出于各种原因,这个行业长期游离于社会关注之外,从事相关工作的审核员群体也不被大众所知。

在本书中,作者对商业性内容审核这一行业进行了充分的社会研究。基于对从硅谷到菲律宾、专业审核公司和主要社交媒体的一线员工的采访,本书对这个不被人所知的行业进行了全面分析,考察了互联网商业性内容审核工作的不同类型(短期合同工、专业公司、外包、零工),揭示了审核员们的社会待遇、身心健康、日常生活、职业发展等,并针对内容审核过程中出现的政策争议、犯罪制止、社会影响等进行了分析和阐述。本书对于互联网内容审核员这一“幕后之人”群体的揭示性调查,不仅对商业互联网的现实做出了独到的描述,还提供了对数字时代全球化劳动力未来的洞察。

————————

【专家、媒体推荐】

莎拉·罗伯茨这项新研究意义重大,它表明,在线内容审核是运作在劳动力剥削基础之上的全球性产业。

——约翰·诺顿(John Naughton),英国《卫报》

莎拉·罗伯茨是数字时代的一名先锋研究者,打开了一扇了解内容审核这一晦暗不明世界的窗口。《幕后之人》是数字经济这一关键领域的权威著作,必将影响未来几年的政策和研究。不仅如此——这真是一本好书!

——大卫·凯依(David Kaye),联合国特别报告员

这本书将会令我们对现代互联网的思考更为清晰。罗伯茨巧妙地戳破了社交媒体上内容自由流动的神话,并且引起了对数字劳动者工作的批判性关注。无论你之前如何看待互联网的运作方式,现在都要准备好重新审视它的一切。所有使用、信任互联网客观性的人,都须阅读该书。

——萨菲娅·乌莫贾·诺布尔(Safiya Umoja Noble),著有《算法压迫》

《幕后之人》是最优秀的社会科学著作之一。罗伯茨对内容审核员的劳动进行了深入研究,她从同情和共情的角度出发,深刻理解了内容审核员在全球数字劳动力市场中的位置,这为传播政治经济学研究提供了一个引人入胜的理论框架。对于关心互联网如何限制、构建和推动在线言论这一主题的读者来说,这本书是必读之作。

——弗兰克·帕斯奎尔(Frank Pasquale),著有《黑箱社会》

萨拉·罗伯茨会带你进入一个隐秘的世界,深入了解那些在全球公共领域中发挥着巨大作用但鲜为人知、不受赞誉的人们所付出的艰苦的情感劳动。《幕后之人》是必读之作,适合所有想要认识、理解在线言论私人治理的人。

——丽贝卡·麦金农(Rebecca MacKinnon),著有《联网者的同意》

技术学者的职责,是要揭开某个系统的神秘面纱,以使读者能够认识到那些看似巫师手笔的操作背后实际上是人类双手和智慧的结晶。莎拉·罗伯茨以动人而清晰的文字揭示了影响我们在Facebook等平台上所见内容的劳动和判断力量,以及这些平台无法实现它们所承诺的一切的事实。

——西瓦·维迪雅纳坦(Siva Vaidhyanathan),著有《反社交媒体》

作者简介  · · · · · ·

莎拉·罗伯茨(Sarah T. Roberts),美国加利福尼亚大学洛杉矶分校教育与信息研究院助理教授。她是2018年卡内基学者(Carnegie Fellow),并于2018年凭借在互联网内容审核方面的研究成果,荣获美国电子前哨基金会(EFF)巴洛先锋奖。

 

罗文,广东阳春人,毕业于深圳大学哲学系,师从著名尼采研究专家杨茂明教授。

 

目录  · · · · · ·

序言 互联网的背后
1994年夏,威斯康星州麦迪逊第一章 幕后之人
2010年夏,伊利诺伊州尚佩恩
被掩藏的数字劳动:商业性内容审核
机器中的幽灵:数字系统中的人为痕迹
结语第二章 理解商业性内容审核
“后工业社会”的知识劳动简史
工作的新本质:数字时代的知识劳动
全球化的知识劳动力:修辞和实践中的“外包”
Facebook的数字计件工作
商业性内容审核的重要性

第三章 硅谷的审核工作
没有攀岩墙,没有寿司,没有保险:MegaTech的合同工文化
MegaTech的审核:工厂式的环境
谁来决定?MegaTech的内部政策制定和应用
MegaTech与国际外交:商业性内容审核的隐形外交政策职能
在线犯罪制止者:MegaTech的阴暗面和商业性内容审核的司法面向
“你无法摆脱它”:工作压力、孤立和影响
“在泥潭之中”:审核工作对员工及其亲友的影响
旋转门:MegaTech的企业文化和商业性内容审核员的架构
“低垂的果实”:MegaTech和全球商业性内容审核外包
没有商业性内容审核的互联网

第四章 “我称自己为食罪者”
OnlineExperts:云端上的小型专业公司
远程办公,云端工作
品牌保护方面的社交媒体专长
员工价值观与公司需求:OnlineExperts的员工
“有时候会词不达意”:作为商品的本土文化语言知识
“我已经把它抛在一边了”:应对OnlineExperts的工作
“玻璃心者勿入”:网络的性质和商业性内容审核的干预
早期对新闻的审核
身份、禁止不雅用语、言论自由的范围
“我曾经称自己为食罪者”
“社群”的本质,线上和线下

第五章 “现代英雄”:马尼拉的审核工作
马尼拉的商业性内容审核:怡东城的约会应用数据把关人
菲律宾和作为基础设施的商业性内容审核
菲律宾的商业性内容审核工作环境:城市化、经济特区和IT园区
波尼法秀环球城
后殖民时代的遗产、BPO公司和菲律宾
“怡东城的现代英雄”

第六章 数字人文
2018年夏,加利福尼亚州洛杉矶

相关图书

深度学习革命
这是一本讲述人工智能,尤其是深度学习的历史与未来的书。
大模型应用开发极简入门
你的首本LLM大语言模型应用开发手册
5000天后的世界
硅谷精神之父、世界互联网教父,《失控》作者凯文·凯利全新作品
超越想象的GPT医疗
重新定义未来医疗——以GPT-4为代表的大语言模型将如何颠覆医疗行业,甚至重塑我们的工作、学习和生活方式
AI 3.0
创造具有人类智能的机器,是一场重大的智力冒险
人机对齐
对齐问题研究的成败,将对人类的未来产生决定性影响。