【？？？】全球最大社交软件“鉴黄”功能引争议：用户需先上传自己的果照？

来源丨经授权转自 码农翻身经授权转自（ID：coderising）

“你好，这里xx检察院，你现在涉嫌参与一宗境外洗钱案件，请在下方网站上缴保证金，否则将向你发出逮捕令。”

“你好，我是xx银行工作人员，您的资金现在有安全风险，请尽快转入到我们提供的安全账户上。”

......

在接受了密集的反诈宣传之后，诸如此类的电信诈骗套路，相信大家都已经见怪不怪了。

但现在，如果有一家网站告诉你，你的果照可能被别人发布在网上恶意传播，为了避免这样的风险，你可以选择先自行上传果照到他们的安全检测工具中。

然后，这个工具便可以根据你提供的照片，再在网上扫描查看是否有他人发布的相匹配的内容。

若是匹配成功，那么别人发布的这张果照，就会审核违规作删除处理。

你信吗？

看到这里，大概很多小伙伴都会觉得十分荒谬，可能还会断定这家网站是想“空手套黄图”。

但如果说，提出这个方案的正是全球最大社交网站Facebook。

你还信吗？

近年来，伴随着社交网络的兴起，“yan照门”已不再是明星的“专利”。

一种叫做Revenge Porn的网络暴力在互联网上蔓延，无数普通人也成为了受害者。

所谓Revenge Porn，便是指男女分手后为了报复对方，将其不雅照上传到网络平台上，甚至用来牟利的行为。

而这种行为最泛滥的平台之一，就是全球最大社交网站Facebook。

一般来说，如果用户在网站上发现了别人发布的自己的果照，想要删除的话，只能先向Facebook举报，再等待平台工作人员审核删帖。

但在这段时间里，果照往往已经被传播很多次，造成的负面影响也无法挽回。

于是，在2017年的时候，Facebook想出了一个“奇招”来解决这个问题——向广大用户征集果照。

用户可以通过Messenger软件，将自己的私密照片发送给Facebook。

然后，Facebook的审核人员将为这些照片生成一个独一无二的数字指纹（digital footprint）。

当有人试图在Facebook或Instagram上传同一张照片时，AI就能自动识别出来并进行屏蔽删除了。

从理论上来讲，这种依靠用户主动上传识别的方式，的确可以从源头上扼杀果照的传播。

当时，这个方案也在澳大利亚、美国、加拿大等地成功试点，但也引起了舆论的担忧。

有网友评价这种方式是“为了防止被人枪杀，先自杀一个”。

现在，4年过去了，Facebook也在今年改名为Meta，却依然没有放弃这项计划的打算。

据最新媒体报道，Meta在近日官宣了一项第三方工具，而这个工具，就是专门用来打击Revenge Porn的。

简单来说，就是曾经负责给用户提交的果照生成数字指纹的审核人员“下岗”了，现在取而代之的是AI。

据悉，这个第三方工具名为StopNCII.org，是由Meta和一个非营利组织合作开发的独立网站。

用户可以在这里上传自己的果照或视频，并填写一系列基本问题，包括年龄、人物、内容简述等。

点击提交后，这些照片或视频将被转换成独特的数字指纹，即“哈希值”。

然后，这些数字指纹将由Facebook和Instagram共享，平台便会拿着这些哈希值与其他网友上传的图像进行匹配。

哈希值差异越小，图片相似性越大，如果匹配成功，平台就会在第一时间对图片进行拦截和删除。

据了解，后期StopNCII.org中的数字指纹还会面向其他网站开放。

另外，根据StopNCII.org的官方介绍，它们不会使用、存储或查看用户上传的照片，照片由始至终都只会在用户本地计算机上进行处理。

它们保存并共享的，只是通过算法生成的照片数字指纹。

但是，StopNCII.org真的管用吗？

答案是不一定。

首先，“哈希值”的匹配本身就存在技术上的“漏洞”，不能保证照片能达到100%吻合。

比如，前男友/女友在你的果照上随意加几笔涂鸦、马赛克、贴纸，或者裁剪、翻转，都有可能绕过这一道检测。

因为经过处理后的照片，已经是一个全新的数字指纹了。

另外，StopNCII.org也无法判断用户上传的图片是不是果照。

如果用户上传的完全是正常照片，那么很有可能造成误伤。

最后，虽然官方保证不会储存用户照片，但没有人能保证中间环节中是否会有人窃取。

何况，Facebook已经多次被曝出泄露用户隐私数据的丑闻。

从这些角度来看，StopNCII.org计划的初衷虽然是美好的，但真正实施起来还是有很多的问题亟待解决。

尽管这个方法听起来十分滑稽，但现实是，类似的技术已经被诸多科技巨头广泛使用。

包括谷歌、 微软 、Twitter、苹果等都采用了“哈希值”匹配的方法来清除网上的儿童se情内容。

当然，此前iOS 15上线这个功能的时候也引起了全球不少用户的抗议。

对任何人来说，为了避免未知的风险，而先把自己的私密照片主动“泄露”出去，是一件非常违背常理的事情。

如果平台不能保护好这些数据，可能会带来更大的一场灾难。

鉴于Facebook近年来的用户口碑，想必也不会有多少人愿意将自己的裸照上传到StopNCII.org。

虽然StopNCII.org是否能起到作用还有待观察，但无论如何，利用图片识别技术打击网络暴力的做法是值得肯定的。

只不过，在这项技术彻底得到完善之前，还是请大家先保护好自己吧。