当算法入侵生活，你我随时可能被洗脑
爆出泄露数据丑闻，一家曾在2016 年帮助特朗普赢得美国总统大选的数据公司违规获取8700万脸书用户的信息。网络上发起了删除脸书活动，一周后，脸书股价暴跌 18%，市值蒸发800亿美元。
本书作者克里斯托弗. 怀利正是这则丑闻的吹哨人。怀利的举报引发了历史上最大规模的数据犯罪调查。他的故事不仅揭露了由流量经济驱动的众多公司的内在冷漠，同时暴露了民主制度本身深远的脆弱性。
文 ／ 克里斯托弗·怀利
所谓“数字心理战”
SCL从事心理战，而心理战的历史同人类战争史一样悠久。公元前6世纪，阿契美尼德王朝统治下的波斯人深知埃及人崇拜猫神贝斯特，于是在自己的盾牌上画猫，这样打仗的时候埃及人就不愿意瞄准他们。亚历山大大帝在征服异国领土后，不会单纯地烧杀劫掠，而是会运用积极的心理战术，留下部分希腊军队传播希腊文化，将战败的当地人吸收到他庞大的帝国中去。中世纪时，帖木儿和成吉思汗把恐怖作为心理武器，砍下敌人的头颅，并将其挑在长矛上示众。俄罗斯被称为“恐怖的伊凡”的伊凡四世在红场上设立数个巨大的煎锅，把敌人活活烤死，以此来恐吓民众，让他们顺从。二战期间，英国人上演假入侵，开动假坦克，甚至展开了一次神奇的“肉糜行动”，在一具身穿英军制服的尸首身上藏了一份伪造的作战计划，把误导敌人的艺术用得出神入化。对信息，包括不实信息的精心运用是在战场上取得战术优势的最有效的方法之一。
美国享有导弹、坦克、轰炸机、舰只和枪支方面的优势，所以美国领导人历来低估信息战的价值。美国开展过一些信息战，但多数是老掉牙的纸质传单类。朝鲜战争期间，美军用大喇叭搞宣传，同时用飞机把传单撒到敌军阵线上。越战期间，专业的心理战行动营策划了类似的宣传闪电战，其目标是赢得尽可能多的人心。然而，因为美国的国防预算在世界上遥遥领先，所以美军好比是拿着五花八门的玩具的小男孩，军力的扩大依赖有形物质和动能大小。
在病毒式宣传和由网络推波助澜的激进行为面前，坦克和掩体炸弹毫无用处。极端组织伊斯兰国（ISIS）不仅发射导弹，还发射叙事。俄罗斯为了弥补军备老化的劣势，采用混合式攻击，从操控目标人群的意识形态入手。恐怖组织利用社交媒体招募新成员，然后让他们拿起武器和炸弹去实现该组织的目标。这些非传统威胁和传统威胁一样危险，而西方大国一直在努力应对。你不能朝互联网发射导弹，而讲究上令下行、由白人直男主导的传统美军文化敌视那些可能把更微妙、技术更强的反击手段引入部队的另类新兵。
美国国防部高级研究计划局试图应对这些关于恐怖和冲突的新现实。其过往项目——诸如叙事网络和战略传播中的社交媒体等——的既定目标是“力图追踪理念和概念，以分析其中的规律和文化叙事”和“开发量化分析工具，以研究安全情境下的叙事及其对人类行为的影响”。美国军方还有一个叫作“人类、社会和文化行为建模”的项目，其目标是创建“社会文化分析和预测工具，为作战用户服务”。换句话说，许多此类项目旨在获得针对威胁的完全的信息上的不对称——拥有巨量信息，彻底压倒并占有敌方周边的信息空间。尼克斯瞄准了这一有利可图的市场，希望为SCL赢得新合同。
在SCL上班的最初几周，我开始研究怎样对传统信息战的战术进行数字化和改革。这是当时公司最感兴趣的地方，因为它意识到如果能开发出融合宣传和广告技术的新方法，它就能为北大西洋公约组织的许多军事单位填补一个重大能力缺口并从中获利。为了规划这一全新的数据领域，我们得调查一下有哪些以往研究可以借鉴，例如从点击流中获取新的信息源，通过画像和机器学习来改善针对目标受众的定向叙事传播。显然，把信息转化成武器还有其内在的复杂性。枪支和炸弹杀人的时候可不分对象和地点——物理属性全都一样，但信息武器必须根据多个因素定制：语言、文化、地点、历史，以及人口多样性。如果你想打造一个旨在实现大规模洗脑——积极破坏和操控大众认知——的非动能武器，你首先得深入了解激励人类的因素都有哪些。
叛乱从本质上来讲是非对称的，因为一小群人就能造成巨大影响。所以，如果要催化好战组织的内部叛乱，首先需要将资源集中在几个关键的目标群体上。为了优化这一催化行为，我们必须为那些既容易被新的思维方式影响，又有足够的人脉能把我们的反叙事植入他们的社交网络里的人精心画像并进行识别。
最有效的洗脑方式是直接改变自我的概念，即操控者试图从目标那里“窃取”自我的概念，并用他自己的概念替代。这个做法的第一步一般是抑制对方的叙事，然后主导目标周围的信息环境。这往往需要几个月的时间才能逐渐瓦解所谓的心理弹性因素。为此，一些专门设计的程序会诱导目标形成不现实的认知，导致目标的迷惘，破坏其自我效能。目标接收到暗示后就开始对一些小事或臆想的事件小题大做。反叙事的目的是抹掉某些事件的意义，让人感觉这些事件令人摸不着头脑，或者没有意义。反叙事的另一个目的是诱发不信任，从而减少与其他人的交流，这些人可能会妨碍目标思想的演变。当你心中浮起一个念头，认为自己被人以某种不公平的方式利用，或者当某些事件看似毫无意义或目的，那么你就会很难忠于某个现有的等级制度或群体。你会不太乐意容忍挫折、冒险或者听令于他人。
然而，单纯打击士气往往还不够，终极目的是激发跟冲动型、反常型或强迫型行为相关的负面情绪和思维过程。这样一来，目标的行为就会从轻微或消极抵抗（如降低劳动生产率、少冒险、散布谣言等）上升到更有破坏性的行为（如争论、不服从命令、叛乱等）。这种方法在南美洲用过，在那里它被用来引起贩毒团伙成员间的不和，提高了信息泄露、叛变或内部冲突的概率，从而削弱了毒品供应链。最易感的目标往往是那些表现出神经质或自恋特质的人，因为他们面对高压叙事时心理弹性往往较差。究其原因，神经质更容易让人想法偏执，因为神经质的人爱焦虑、易冲动，且凭直觉行事多于三思而行。自恋特质得分高的人之所以易感，是因为他们更容易产生嫉妒或“这是我应得的”之类的情绪，而这类情绪极易诱发违规和不服从等级制度的行为。也就是说，此类目标对骚扰、迫害、受害行为或不公待遇产生夸大的怀疑的可能性更大。他们是人们对某个较大组织进行颠覆时的“最低垂的果实”。后来，这一心得成为剑桥分析催化美国另类右翼叛乱的基础之一。
社交媒体诞生后，军事和安全机构突然间有办法直接了解到世界各地犯罪团伙和恐怖组织的保镖、文员、女朋友和情报员的思想和生活。社交数据提供了以往需要几个月的仔细观察才能搜集到的许多详细的个人信息。事实上，目标主动创建了包含丰富信息的个人档案，心理学家可以借此加快对他们性情的评估。于是，利用机器学习算法自动进行心理画像的研究纷纷上马。在这些算法的帮助下，情报机构得以通过自动化广撒网，使其影响范围媲美老式的发传单，但大大提高了信息的精确度，实现了定向传播。2011年，美国国防部高级研究计划局的研究经费开始流向社交媒体用户的心理画像和反政府信息在社交媒体上的传播，甚至在线欺骗。脸书、雅虎和美国国际商业机器公司（International Business Machines Corporation，简称IBM）都参加了该局资助的研究课题，评估信息在社交媒体上的消费和传播。俄罗斯也发起了社交媒体研究项目。
黑暗三人格
剑桥分析创立后刚刚崭露头角的非自愿独身者社群正是他心中的目标。非自愿独身者指的是那些被社会——特别是被女性——无视和严惩的男子，该社会不再看重普通男性。非自愿独身者社群是男权运动的一个分支，其部分动因是随着日益增长的经济不平等，千禧一代的年轻人无法像父辈一样从事高薪工作。除了丧失经济特权，传统和社交媒体所偏好的越来越不可企及的男性形象的标准也让他们深受其害（公众对男性所承受的身材压力和性别压力的认知不如他们对女性在这些问题上的认知）。长相在约会中日益重要，越来越多的人通过快速左滑屏幕上的照片（不喜欢）还是右滑屏幕上的照片（喜欢）决定是否与其约会。此外，随着女性在经济上的日益独立，她们有条件对伴侣精挑细选。既不够好看、收入又不够高的“普通男人”就经常面临爱意被拒之门外的严酷现实。
2014年夏天剑桥分析成立时，班农的目标是通过改变文化来改变政治，来自脸书的数据、算法和叙事是他的武器。首先，我们运用焦点小组讨论和定性观察来解锁某个既定人群的认知，了解他们在意的东西——任期限制、暗深势力、抽干沼泽、控枪和建高墙挡住移民这些话题。这些我们早就在2014年探讨过了，比特朗普竞选要早好几年。接着，我们想出如何影响民意的假设。剑桥分析通过在线样本库或实验在细分的目标人群身上测试这些假设，用数据来判断这些假设是否成立。我们还收集脸书用户的资料，寻找规律，以构建一个神经网络算法来帮助我们做预测。
少数特定人群表现出自恋（极端以自我为中心）、马基雅维利主义（无情的利己主义）和精神病态（情感抽离）的特质。跟所有人身上都或多或少体现的属于正常心理的人格五因素——开放性、尽责性、外向性、宜人性和神经质——不同，“黑暗三人格”属于社会适应不良，也就是说，一般而言，有此类人格障碍的人更可能做出反社会的行为，包括犯罪行为。根据剑桥分析收集的数据，研究团队可以识别出具有神经质和黑暗三人格特质的人，以及那些比普通公民更容易因冲动引发怒气或者接受阴谋论的人。剑桥分析会瞄准他们，通过脸书群组、广告或文章等向他们灌输特定叙事。这些叙事都是公司事先通过内部测试获得的，更可能煽动具有此类特质的极小众群体。剑桥分析希望挑动这些人的神经，让他们参与到政治中来。
之所以这样做，是因为当时脸书的算法有一个特别的属性。要是某个脸书用户关注沃尔玛这样的大众品牌的页面或者某部在黄金时段播出的情景喜剧，他接收到的新闻推送就不会有太大变化。但如果某个用户点赞了某个极端团体，如“骄傲男孩”（Proud Boys）或“非自愿独身者解放军”（Incel Liberation Army），那么算法就会把这个用户同其他用户区别开来，此后推荐引擎就会优先推送这些极端话题，做到新闻的量身定制。也就是说，脸书网站的算法会汇聚并推送类似的报道和页面，目的是提高该用户的参与度。在脸书看来，参与度的提升是唯一重要的度量标准，因为参与度越高，用户停留在脸书页面上看到广告的时间就越长。
这就是硅谷赫赫有名的衡量标准“用户参与度”的阴暗面。社交媒体极度倚重参与度的提升，所以它们经常侵害大脑的适应机制。碰巧，社交媒体上最抓人眼球的内容往往不是恐怖到令人发指就是让人一看就怒火中烧。进化心理学家认为，人类为了在前现代时期生存下来，养成了对潜在威胁的不成比例的高关注度。相比惊叹于头顶美丽的蓝天，我们直觉上会对横陈地面的腐烂尸体身上的血迹和创伤更敏感，因为关注后者能提高我们的生存概率。换句话说，我们人类在进化的过程中学会了密切关注潜在威胁。为什么看到惊悚视频时你的视线就挪不开？原因就在于你是人。
社交媒体平台还使用旨在激活我们大脑里“玩乐回路”和“可变强化程序”的设计，频繁但无规律地给我们奖励，既吊起我们的胃口又令我们捉摸不透，无法做出规划，从而在我们的大脑里建立起一个自我强化的不确定性、期待和反馈的回路。老虎机中奖的随机性让玩家无法制定制胜战略或做出规划，所以为了中奖，玩家只能一直玩下去。中奖的频率正好让你在失败之后愿意重整旗鼓继续玩。在赌博界，赌场挣钱靠的是赌徒玩的把数。在社交媒体界，社交平台挣钱靠的是用户的点击数。所以新闻推送页面可以无限滚动——用户不断刷屏、浏览内容跟赌徒一次又一次地扳动老虎机没有多大差别。
（本文摘编自克里斯托弗·怀利 所著《对不起，我操控了你的大脑》一书，由博集天卷·民主与建设出版授权发布）
非虚构 | 翻译好书 | 社科纪实
《对不起，我操控了你的大脑》
【加拿大】克里斯托弗·怀利 著
吴晓真 译
博集天卷·民主与建设出版
2021年7月
在《对不起，我操控了你的大脑》这本书中，怀利讲述了自己加盟“剑桥分析”，参与基于数据挖掘得出社交网络用户画像，并预测及引导其行为的研究，构建可用于宣传战的算法系统，继而卷入涉及脸书、俄罗斯、维基解密、特朗普竞选及英国脱欧的复杂网络的全过程。怀利在发现自己所效力的项目渐渐变成了一个操控民意，进而侵害社会、破坏⺠主的工具之后，站出来向当局举报了一切，并联合新闻界一起向公众发出警示：人们的身份和行为已经成为数据交易中的商品。控制信息的那些当今世界最强大的企业，正以过去无法想象的方式操控大众的思想。任何人都很难逃脱算法的掌控。
值班编辑 | 珠 兰
值班主编 | 张 英
努力登上人生巅峰2021-08-31 10:55:29
懂了，这就做社交媒体写新闻[奸笑]
三日月2021-08-31 22:45:54
没说到本质 本质就是永恒不变的量