警察如何使用推文监视抗议运动:通过BLM(6)
【2020年11月18日】在算法专制的黑箱之中,您的关注者不一定能看到您发布的内容,然而警察能看到一切,并随时可以使用您的发布作为抓捕您的线索。是谁在帮助他们做到这点?
欢迎回来!
如果您错过了前面的内容,可以在这里回顾:
根据 The Intercept 获得的泄漏文件和一位直接知情人士的说法,利用与 Twitter 的密切关系,臭名昭著的人工智能初创公司 Dataminr 一直在帮助警察部门以数字方式监控乔治·弗洛伊德被杀后席卷全国的抗议活动 —— 通过对社交媒体帖子的跟踪监视将示威者的最新行踪和行动告知给警方。
并且,这不是第一次。
早在2016年的一连串争议之后,Twitter 和 Dataminr 都声称,两家公司都 “不会参与或协助国内监控”。然而 Twitter —— 直到最近还是与CIA一起的 Dataminr 的长期投资者 —— 为该公司提供了对被称为 “火喉 (firehose)” 的内容流的完全访问权,这在科技公司中是罕见的特权,它让最近被估值超过18亿美元的 Dataminr 在任何推特用户点击发送后立即扫描每一条公开的推文。
警察监控社交媒体情报的历史
Dataminr 帮助 **世界各地** 的新闻编辑部、公司和政府以超乎寻常的速度跟踪任何目标事件在社交媒体和更广泛的网络上的发展。
通过人工和软件的结合,该公司提醒各组织围绕全球危机 —— 战争、枪击、骚乱、灾难等 —— 展开的讨论,使他们在新闻爆发时拥有竞争优势。
但是,这种竞争优势的意义,即 从社交媒体上数以亿计的推文和帖子的噪音中过滤出重要事件的超强能力,将根据客户的不同而大相径庭;一家使用 Dataminr 为其突发新闻报道提供信息的报纸的议程与银行或 FBI 的议程完全不同。正是 Dataminr 的这后一类业务 —— 即 利润丰厚的政府工作 —— 让该公司近年来几乎突飞猛进。
2016年,Twitter 被迫面对多份揭露其平台被用于实现国内监控的报告,包括《华尔街日报》当年5月关于 Dataminr 与美国间谍机构合作的报道;还有美国公民自由联盟10月发布的关于 Dataminr 竞争对手 Geofeedia 的报告;以及 ACLU 在12月对 Dataminr 协助联邦警察监控工作的另一项调查。
推特试图向公众保证,根据其规则,“严禁以监视为目的试图监控用户,任何违规者都将被踢出平台”。例如,时任副总裁 Chris Moody 在公司博客中写道:“使用 Twitter 的公共API或数据产品来追踪或识别抗议者和活动家,是绝对不能接受的。” 在给美国公民自由联盟的一封信中,Twitter 公共政策负责人 Colin Crowell 同样写道,“严禁使用 Twitter 数据进行监控”,“Datatminr 的产品不会为任何政府客户提供 …… 任何形式的监控”。
Twitter 还表示,作为其 “官方合作伙伴” 之一的 Dataminr 将 “不再支持融合中心直接访问” 推特位置等信息;融合中心是专门用于联邦政府和地方警方之间共享情报的最有争议的设施。
【注:“融合中心” 是美国的情报共享机制;由美国国土安全部和司法部共同发起创建,由州、地方和部落级别的政府执法部门和国土安全部门共同管理运营,以提升美国联邦、各州以及各地方政府相互之间的信息分享能力为主要任务的专门机构。经过了十几年的发展,融合中心已经由最初几个松散独立的执法情报机构发展为79个融合中心组成的国家融合中心网络;以应对任何突发事件,目标是 “预警感知”和情报导向作用。“预警感知” 即 少数派报告,关于 “情报主导警务” 可参见这里的访谈《不要相信改革:激进活动家如何废掉警用监视》】
Dataminr 同时宣布,它将不再为 “支持第一时间作出反应的人” 提供进行地理空间分析的情报产品,并补充说,这类客户没有 “直接的火喉访问权”。
但是,根据采访、公共记录请求和 The Intercept 审查的公司文件均显示,Dataminr 继续启用本质上是美国执法实体使用的监控,这与其先前的保证完全矛盾,即使它仍然在四年前概述的一些狭窄的技术边界内,比如不提供直接的火喉访问、推特地理定位或对融合中心的某些访问。
Dataminr 将有关 George Floyd 和 Black Lives Matter 抗议活动的推文和其他社交媒体内容直接转发给警方,显然是在全国范围内。在这样做的过程中,它利用其对 Twitter 数据的特权访问发挥了巨大的作用 —— 尽管目前的服务条款明确禁止软件开发人员 “通过 Twitter 跟踪、警报或监测敏感事件(如抗议活动、集会、或社区组织会议)”。
尽管 Dataminr 声称其执法服务仅仅是 “提供自然灾害、火灾、爆炸和枪击等紧急事件的突发新闻警报”,但正如该公司发言人在此前的报道中对 The Intercept 表示的那样,该公司为监控最近的抗议活动(包括非暴力抗议活动)提供了极大的便利,从全网抽取了大量的社交媒体数据,并将其转化为整洁的警方情报包。
社交媒体情报操作在全球流行,它是美国发明的:被称为 “情报主导型警务”。在本网搜索 “社交媒体情报” 以找到详细内容,包括监视的思考方式、技术工具、防御方法等;
中国是社交媒体情报监视忠诚的 “后起之秀”,当我们发现,出现在中国的、最“专业”的开源情报调查演示来自公安局情报大队时,您必须了解这件事有多危险,详见《这不是一场竞技表演:关于IYP为什么要采取开源情报》
对和平抗议的密切监视
Dataminr 对BLM抗议活动的监控包括对社交媒体的持续监控,以向警方提示抗议活动的地点和状况、特定集会内的事态发展等情况。
据直接了解 Dataminr 监控抗议活动的消息人士称,该公司和 Twitter 过去声称他们不纵容或启用监控的说法是 “胡说八道”,依靠的是一个故意缩小的定义。“Dataminr 确实没有专门跟踪抗议者和活动家个人,但是,在警方的要求下,他们正在跟踪抗议活动,因此也在跟踪抗议者”,消息人士解释说。
根据 The Intercept 查阅的内部资料,Dataminr 不仅细致地跟踪正在进行的抗议活动,还全面记录了全国各城市即将举行的反警察暴力集会,以布置监控工作,包括活动在这些城市内的预计发生时间和起始地点。
The Intercept 看到的一份抗议活动时间表显示,Dataminr 明确监视了从底特律、布鲁克林到宾夕法尼亚州的约克、弗吉尼亚州的汉普顿罗兹等数十场大大小小的抗议活动。
公司文件还显示,该公司指示其工作人员寻找 “警察对抗议者使用致命武力的推文”、“财产损失”、“针对政府或商业基础设施的广泛纵火或抢劫”、“新的涉警枪击或死亡事件,并可能被解释为种族偏见”,以及 “暴力抗议活动蔓延到新的美国主要城市” 的地点。
他们的工作人员还专门监控社交媒体上关于 “涉及弗洛伊德死亡的警官” 的帖子 —— 所有这些帖子都会通过名为 “第一警报” 的服务转发给 Dataminr 的政府客户。
The Intercept 看到的 Dataminr 关于监控抗议活动的文件没有说明是用于新闻客户、警察客户,还是两者都有。但是,2019年10月的一份 Dataminr 文件在该公司的所谓 “执法足迹” 内列出了纽约警察局、洛杉矶警察局、芝加哥警察局和路易斯安那州警察局。
洛杉矶警察局告诉 The Intercept,它对 Dataminr 进行了试用,但选择不签订合同,也没有在BLM抗议活动中使用该系统。路易斯安那州警方以所谓的国家保密法为由拒绝评论。纽约警察局也没有发表评论,也无法获得洛杉矶警察局的评论。
2019年1月,纽约一家法院命令纽约警察局交出有关其使用 Dataminr 的记录,这是由纽约公民自由联盟因该公司涉嫌监视 Black Lives Matter 活动家而提起的诉讼引起的。
“Dataminr 正在为当地警方提供信息,包括[许多]面临抗议活动的城市的警察局”,该消息人士说。“他们是 Dataminr 最大的一些客户,他们制定了议程。” Dataminr 发言人 Kerry McGee 拒绝就该公司的客户群体发表评论。
而通过公共记录请求获得的 Dataminr 发给明尼阿波利斯警察局的警示邮件显示,该公司收集、捆绑和标注了与反警察暴行抗议活动相关的几乎所有 Twitter 内容,并在这些事件发生时直接转发给警方,包括明显的非暴力抗议活动的信息。
邮件显示,Dataminr 转发了George Floyd 生活和遇害的城市、以及全国范围内对警察虐待行为的愤怒浪潮所激发的BLM抗议者的实时位置和图像,这一事实与该公司声称不向政府客户提供 “任何形式的监控” 的说法完全矛盾。
警报中的位置信息强调,虽然从技术上讲,Dataminr 可能无法直接获取 Twitter 在许多推文中附加的地理位置数据,但向警方转发的推文的文本和图像往往包含公开的地理参考,或者由 Dataminr 工作人员手动添加的地理标示。
虽然有些警报来自于当地和国家新闻记者的推特,但许多警报都来自普通旁观者的描述 —— 该监视系统称之为 “目击者” —— 他们当时正在观看或参加集会,并以完全个人的身份发推。
在5月31日,也就是弗洛伊德遇害6天后,Dataminr 向警方转发的一条首要警报(First Alert)信息中,提醒警方注意一条推文,内容是 “明尼阿波利斯市中心美国银行体育场外的和平抗议活动。结束种族主义。结束警察的暴行。结束不平等和不公平。#JusticeForFloyd #Minneapolisprotest #BlackLivesMatters”,同时还附上了一张由推特作者拍摄的照片。
由 Dataminr 的人力工作人员提供的附带说明中明确指出,这群抗议者曾 “在芝加哥大道400街区的美国银行体育场被监视到”。另一份三天前发给明尼阿波利斯警察局的首要警报向警方提示了这一所谓的 “公共安全威胁”:“在明尼苏达州奥克代尔市,看到抗议者坐在保安人员面前的街道上。” 另一条由 Dataminr 转发给明尼阿波利斯警察局的被监控推文和附带的照片上写着 “在 Lake & Lyndale 的和平抗议”。
这些所谓的 First Alert 还可以扫描其他流行的平台,如 Snapchat 和 Facebook,后者对于试图快速动员社区的抗议组织者来说特别有用,也特别常用。根据明尼阿波利斯警察局的记录,Dataminr 能够在抗议活动 *开始之前* 将警方引向 Facebook 的抗议活动页面。
Dataminr 给警察的一些警报传递了可疑的信息。例如,5月28日,该公司传递了一个关于亿万富翁慈善家乔治-索罗斯(George Soros)的不可靠的说法,告知明尼阿波利斯警察局,“推特用户 Candace Owens 声称明尼阿波利斯市警察局长说,许多抗议者不是来自该市,并声称投资者乔治-索罗斯正在通过开放社会基金会资助抗议者。” 这是假的。
监视即服务
Dataminr 仍然公开宣称自己 “永远不会参与监控”,但是同时又为监控抗议活动提供便利,该公司的员工并没有忽视这种明显的矛盾。
在6月份的一次员工会议上,The Intercept 获得了一段录音,Dataminr 的一位经理试图辩解为什么该公司代表警方持续监控第一修正案保护的活动 “事实上并不是监控”。
这位被消息人士确认为执行副总裁 Jason Wilcox 的经理承认,很可能有 Dataminr 的员工在思考一些困难的问题,“我们的技术,我们的公司, 我们的平台,如何发挥作用,以解决这些正在发生的事件?” —— 暗指当时正处于狂热阶段的第一周的全国性抗议活动,“我们与执法部门做生意,这意味着什么?”
Wilcox 为 Dataminr 的辩护主要是基于某种措辞上的诡辩:向警方转发数据 “并不是一种监视形式”,“而是一种意识形态中立的新闻收集形式”。在另一种委婉的说法中,Wilcox 将转发给警方的监视报告描述为 “通过实时事件了解情况,[在]许多事件中,人们的生命受到威胁,警察可以更快地做出反应”。
这通常也是 Twitter 和 Dataminr 的公关团队将这一专供政府的情报产品描述为 “新闻警报” 的来源 —— 而非情报;这一理由在很大程度上掩盖了比如说,一家报纸可能会如何利用快速更新的抗议信息、与警方可能想利用同样的数据做什么之间的重大差异。
【注:这种狡辩非常常见,就如中国,常年将社交媒体情报监视称之为 “舆情分析”】
当被要求评论时,Dataminr 的 McGee 写道:“ Dataminr 不对公司内部会议发表评论。”
Wilcox 还为 Dataminr 与警方的合作进行了辩护,强调了该公司与 Twitter 的密切关系,Twitter 是该监视公司伟大的火喉施主,Wilcox 认为,“Twitter 往往是最早接触的社交媒体平台之一,他们非常关注确保自己的平台不被滥用。”
Dataminr 为警方工作的内部理由也部分建立在它 “没那么邪恶” 的歪理邪说上。“我们看了很多不同的公司利用社交媒体, 他们往往,不是每个都如此,但往往, 有一个非常不同的目标”,Wilcox 狡辩说,“他们的目标是帮助监控。他们建立用户图谱,当用户跨社交媒体平台走动时,他们会持续跟踪用户,他们会跟踪一个人在一段时间内说的所有话。而我们不这样做。”
Wilcox 说出了其他一些机制,他说,这显示了他是如何 “努力确保我们的技术不能在这里被随意滥用”,即内置限制警方可以使用哪些关键词来定制他们的 “新闻警报”。
但是,根据直接了解 Dataminr 监视抗议活动的消息来源表示,这是误导性的。所谓的第一警报系统中 *没有任何东西可以阻止警方* 过滤或手动搜索他们从 Dataminr 收到的情报中的特定术语,如 “#BLM “或 “Antifa”。
一旦一条抗议相关的推文被 Dataminr 的监视系统抓取并从另一端输送给警察局的收件箱时,换句话说,Dataminr 就失去了对信息使用方式的控制。这也与 Dataminr 给警方的宣传大相径庭。
在最近被称为 “BlueLeaks” 的在线数据泄漏中,包含了一份明显的2019年 Dataminr 公司向FBI介绍其产品的幻灯片,该幻灯片称:“Dataminr 的使命是整合所有公开可用的数据信号,以创建主导的信息发现平台”。并吹捧政府客户能够定制 “自定义标准” 的警报,如 “主题选择” 和 “地理位置过滤器”。最终目标是:”缩短事件发生与出警之间的时间”。
监视还是“新闻警报”?
当被问及上述 Dataminr 与执法部门的合作时,Twitter 和 Dataminr 都采取了类似的狡辩 —— 他们称 “这不是监控,因为我们有反对监控的政策,因此意味着我们不参与监控”。两家公司都不愿评论或讨论上述行为究竟如何不符合监控的定义,也不愿提供两家公司所定义的此类制度究竟叫个什么名字。
但在一些监控学者、法律专家和活动家看来,无论他们使用什么样的文字游戏,Dataminr 的目的和 Twitter 的启用都是毫无疑问的。民权组织 Color of Change 的活动总监 Brandi Collins-Dexter 指出,Dataminr 的做法是 “如果它像鸭子一样走路,像鸭子一样叫,那它就是鸭子 —— 就是监控”。
“我们知道,执法机构花费了令人叹为观止的金钱来积极追踪、瞄准和监视黑人社区”,Collins-Dexter 说,“ Twitter 不能两全其美,一方面向黑人活动家献殷勤,把自己推销成组织起来反对不公正的杰出工具,而另一方面却对一些与他们签订合同的公司显然是为了监视的目的视而不见。”
民权组织 MediaJustice 的负责人 Steven Renderos 对此表示赞同,“令人不安的是,Dataminr 正在为警方提供服务,认为把 Twitter 帖子交给警察没有坏处是有缺陷的逻辑”,Renderos 说。“警方有利用社交媒体追踪黑人活动家的悠久历史。Dataminr 的做法只是科技公司如何助长美国种族主义警务的最新例子。”
“ Dataminr 与警方分享有关示威和抗议者的帖子,这是令人难以置信的担忧,很难理解这种做法如何令警方的监视不违反 Twitter 自身的政策”,北加州ACLU的律师 Matt Cagle 说。“像 Twitter 这样的社交网络需要保护用户,并确保开发者不会与执法机构分享他们的第一修正案保护行为,这种做法有可能使人们 —— 尤其是边缘社区 —— 进一步受到监视压迫和国家暴力。”
美国大学客座法学教授 Andrew Ferguson 驳斥了这些公司的论点,即由于 Dataminr 只摄取公共推文,所以该系统只能够收集新闻 —— 就像警察拍下示威者的照片,最好理解为新闻摄影,而不是照片监视。
“监控活动并将信息转发给警方显然就是监视”,《大数据警务的崛起》一书的作者弗格森解释说,“如果警方是一家基于数据的广告公司,我们会说这是消费者监视。如果警方直接追踪抗议者,我们会说这是政府监控。转发同样的信息并称其为‘新闻’也无法否认它仍然是监视。”
Twitter 的数亿用户是否会买账 — 相信自动向警方转发推文只是无辜的新闻采集?这仍然是一个悬而未决的问题,但对大多数人来说,这是一个没有意义的问题。除了繁琐的公共记录申请外,很难想象有人能了解到自己的抗议推文是否被政府承包商的算法吞噬。
当然您也不会知道,当您被捕时警察抓人的依据来自哪里。⚪️
POLICE SURVEILLED GEORGE FLOYD PROTESTS WITH HELP FROM TWITTER-AFFILIATED STARTUP DATAMINR