隐私终结者:火遍美国的人脸识别App,用一张照片“顺藤摸瓜”_详细解读_最新资讯_热点事件

神译局是36氪旗下编译团队,关注科技、商业、职场、生活等领域,重点介绍国外的新技术、新观点、新风向。

编者按:AI带来了各种好处,有望为生产力带来极大解放。但是很多人也在担心一个敌托邦的未来,所以在欧美对人脸识别技术的应用非常抵触。美国一个爬取了30亿张公开照片的新兴人脸识别app正在赢得美国警方的青睐,但也遭到了新的担忧。《纽约时报》的Kashmir Hill对该app进行了报道,原文标题是:The Secretive Company That Might End Privacy as We Know It

隐私终结者:火遍美国的人脸识别App,用一张照片“顺藤摸瓜”

直到最近,Hoan Ton-That最受欢迎的一款app还是让人把特朗普独特的黄头发p到自己照片上的那款。

然后Ton-That做了一件很重要的事情:他发明了一种工具,这种工具可以终止你走到街上不为人所知的能力,并将其提供给数百个执法机构。

他有一家小公司,叫做Clearview AI。Clearview AI设计了一款突破性的面部识别app。你给某人拍了张照片,然后把照片上传就能够看到那个人的公开照片以及照片的相应链接。这套系统的骨干是一个数据库,里面含有Clearview 声称从Facebook、YouTube、Venmo 及数百万其他网站上抓取过来的30亿张图像,这个规模已经远远超出了美国政府或硅谷巨头建立的任何东西。

美国联邦和各州的执法人员说,尽管他们对Clearview的工作原理及其背后知识知之甚少,但他们已经用这个app来帮助破解入店行窃、身份盗窃、信用卡欺诈、谋杀及对儿童性虐等案件。

迄今为止,由于会对隐私构成强烈侵犯,可基于人脸轻松识别每个人的技术一直是个禁忌。

但该公司表示,在没有经过公众审查的情况下,去年已有600多家执法机构开始使用Clearview 。根据《纽约时报》对其app背后的计算机代码的分析,里面含有将照片与增强现实眼镜配对的编程语言。用户有可能可以识别出他们看到的每个人。

出于安全目的,Clearview 还将该app至少许可给了几家公司。

圣塔克拉拉大学高科技法律研究所联合主任Eric Goldman说:“把这个东西武器化的可能性是无穷无尽的。想象一下,一个流氓的执法人员想要跟踪可能的恋人,或者某个外国政府用它来挖掘有关别人的秘密,然后勒索对方或将之投入监狱会怎样。”

Clearview 一直都给自己蒙上神秘色彩,以避免对其突破界限的技术的争论。2019年11月,我开始对该公司进行调查时,它的网站上只有一个空白页面,显示的营业地点是在曼哈顿一个并不存在的地方。该公司在领英上仅列出了一名员工,是一名名叫“John Good”的销售经理,此人原来就是该程序的开发者Ton-That,只不过用了一个假名。在我咨询后的一个月的时间里,这家公司的员工没有回复我的电子邮件或电话。公司在LinkedIn上仅列有一名员工,名字叫做“John Good”,职位是销售经理。结果表明,此人就是开发者Ton-That用的假名。这一个多月我发出的无论是电子邮件还是电话都没有收到对方的回应。

这家公司一边躲着我,一边也在监视我。应我的要求,多名警官用Clearview的这款app跑了一下我的照片。这些警官很快就接到了该公司代表打过来的电话,问他们是不是对媒体说了什么。这表明Clearview 有能力(在这个例子里面也表现出了一种嗜好)监控执法人员在寻找谁。

面部识别技术一直存在争议。Clearview的app还会带来额外风险,因为执法机构会将敏感照片上传到该公司的服务器上,而它保护数据的能力还没有经过测试。

这家公司最终开始回答我的问题,说自己此前的沉默是隐身模式早期创业的典型表现。Ton-That承认设计了一款用于增强现实眼镜的原型,但表示该公司没有发布该原型的计划。他说,我的照片引发了报警,因为该app“会对可能的异常搜索行为进行标记”,以防用户进行被其认为是“不适当的搜索”。

除Ton-That之外,Clearview 另一位创始人是Richard Schwartz创立(鲁道夫·W·朱利安尼任纽约市长时他是助手),并得到了曾投资Facebook和Palantir的风投家Peter Thiel的资金支持。

Clearview还有一个早期投资者,一家叫做Kirenaga Partners 的小公司。后者的创始人David Scalzo对Clearview 令互联网可通过人脸人肉别人的担心不予理会,称这是很有价值的破案工具。

Scalzo 说:“我得出的结论是,由于信息的不断增加,隐私永远都不会有了。法律必须明确什么是合法的,但你不能禁止技术。”

AI迷

31岁的Ton-That从小在澳大利亚长大。2007年,他大学辍学,自己来到了旧金山。那一年是iPhone刚好推出的日子,他的目标是尽早进入到自己所期待的充满活力的社交媒体app市场。

2015年,他推出了Trump Hair,这款app可以把特朗普与众不同的头发添加到大家的照片上,后来又做了一款照片共享程序。但这两个都失败了。

2016年,Ton-That移居纽约。他开始大量阅读有关人工智能、图像识别以及机器学习的学术论文。

2016年,Schwartz和Ton-That两人在曼哈顿学院(一个保守的智囊团)举行的读书会上相识。现年61岁的Schwartz在1990年代曾为朱利安尼效力,积累了令人印象深刻的人脉。两人很快决定一起运作人脸识别业务:Ton-That负责开发app,而Schwartz则利用他的人脉来招揽商业兴趣。

警察部门对面部识别工具的应用已有近20年的历史,但是从过往来看,那些工具只能搜索政府提供的图像,比方说大头照和驾照照片。

Ton-That希望能够超越这个。2016年,他开始招募了一些工程师。其中有一个人帮助设计了可以自动收集整个互联网(比方说,求职招聘网站和社交网络)的人脸图像的程序。这些公司的代表说,他们的政策是禁止这种爬取的。

招进来的另一名工程师则负责完善源自学术论文的面部识别算法。其结果是:一个用上了Ton-That所谓的“最先进的神经网络”的系统,这套系统可根据面部的几何形状将所有图像转换为数学公式或矢量,比方说人的双眼之间的距离。Clearview 创建了一个庞大的目录,用来将所有具有相似矢量的照片聚集到“邻居”中。当用户把一张面部照片上传到Clearview的系统中时,它就会将面部转换为矢量,然后显示存放在该矢量“邻居”里面的所有爬取过来的照片——以及指向这些图片来源的网站链接。

追踪初创企业融资情况的网站Pitchbook表示,Clearview 现在还不大,其融资额约为700万美元。但该公司拒绝确认这个金额。

执法应用带火了这款app

2019年2月,印第安纳州警方开始试用Clearview。他们刚用了这款应用20分钟就破获了一起案件。两名男子在公园打架,后来其中一个人开枪打中了另一个人的肚子。有一个看热闹的人用手机记录了这一罪行,于是警方有了一张枪手的静态照片,得以用来跑Clearview的app。

他们马上找到了一张匹配的:这名男子出现在某人在社交媒体上发布的一个视频里面,而且他的名字也出现在这段视频的字幕里面。时任印第安纳州警察局局长的Chuck Cohen说:“他没有驾驶执照,而且成人后未被捕过,所以政府数据库没有他的资料。”

该名男子随后被捕并受到指控。Cohen说,如果不是因为具备了在社交媒体搜索自己脸部的能力的话,警方可能认不出自己。据该公司称,印第安纳州警方成为了Clearview的第一个付费客户。(警方对此拒绝发表评论,只说他们对Clearview的app进行了测试。)

该公司最有效的销售技巧是为警方提供30天的免费试用。Ton-That终于有了一款火起来的应用。

该公司和政府官员说,包括美国联邦调查局和国土安全部在内的美国联邦执法部门以及加拿大执法部门都在试用这款app。

Ton-That说这项工具未必总能见效。Clearview 数据库里面的大多数照片都是在齐眼的高度拍摄的。而警方上传的大部分资料均来自安装在天花板或墙上的监控摄像头。

该公司表示,尽管如此,自己的工具找到匹配项的概率最高可达75%。

Clearview之所以流行的原因之一是服务的独特性。这是因为Facebook等社交媒体网站都是禁止大家抓取用户照片的;Clearview 违反了该网站的服务条款。

一些执法人员说,他们并不知道自己上传的照片被发送到并存储到Clearview的服务器上。Clearview 尝试通过向潜在客户提供FAQ文档来打消其顾虑,这份文档称其客户服务员工是不会看警察上传的照片的。

Clearview 还聘请了乔治·W·布什总统当政期间任副检察长的Paul Clement来缓解对该app合法性的担忧。

在2019年8月Clearview 向包括亚特兰大警察局和佛罗里达州Pinellas县治安官办公室在内的潜在客户提供的备忘录里面,Clement表示,执法机构“出于预期目的使用Clearview时并不违反联邦宪法或相关的现行州生物识别与隐私法。”

Clement现为KirklandEllis律师事务所的合伙人,他说,只要不是拿到逮捕令去逮捕对方的唯一依据,当局就不必告诉被告对方是通过Clearview 被指认的。Clement并未会多项置评要求予以回应。

这份备忘录看起来发挥了作用。亚特兰大的警方以及皮涅拉斯县警察局很快开始用上了Clearview 。

但波士顿东北大学法律与计算机科学教授Woodrow Hartzog则把Clearview 视为美国应禁止人脸识别的最新证据。

Hartzog 说:“ 我们已经靠行业的努力来实现自我监督,避免采用如此危险的技术,但是现在这道防线正在破裂,因为摆在桌上的钱太多了。我看不到未来我们既能够利用人脸识别技术带来的好处,又不会滥用随之而来的监视技术。阻止它的唯一方法就是禁止这项技术。”

译者:boxi。