【???】全球最大社交软件“鉴黄”功能引争议:用户需先上传自己的果照? - 品至安防-方案下载坑

您现在的位置是:主页 > 行业新闻 >

【???】全球最大社交软件“鉴黄”功能引争议:用户需先上传自己的果照?

2021-12-19 10:40:56605人已围观 0


来源丨经授权转自 码农翻身经授权转自(ID:coderising)


“你好,这里xx检察院,你现在涉嫌参与一宗境外洗钱案件,请在下方网站上缴保证金,否则将向你发出逮捕令。”


“你好,我是xx银行工作人员,您的资金现在有安全风险,请尽快转入到我们提供的安全账户上。”


......


在接受了密集的反诈宣传之后,诸如此类的电信诈骗套路,相信大家都已经见怪不怪了。



但现在,如果有一家网站告诉你,你的果照可能被别人发布在网上恶意传播,为了避免这样的风险,你可以选择先自行上传果照到他们的安全检测工具中。


然后,这个工具便可以根据你提供的照片,再在网上扫描查看是否有他人发布的相匹配的内容。


若是匹配成功,那么别人发布的这张果照,就会审核违规作删除处理。



你信吗?


看到这里,大概很多小伙伴都会觉得十分荒谬,可能还会断定这家网站是想“空手套黄图”。


但如果说,提出这个方案的正是全球最大社交网站Facebook。


你还信吗?




近年来,伴随着社交网络的兴起,“yan照门”已不再是明星的“专利”。


一种叫做Revenge Porn的网络暴力在互联网上蔓延,无数普通人也成为了受害者。


所谓Revenge Porn,便是指男女分手后为了报复对方,将其不雅照上传到网络平台上,甚至用来牟利的行为。


而这种行为最泛滥的平台之一,就是全球最大社交网站Facebook。



一般来说,如果用户在网站上发现了别人发布的自己的果照,想要删除的话,只能先向Facebook举报,再等待平台工作人员审核删帖。


但在这段时间里,果照往往已经被传播很多次,造成的负面影响也无法挽回。


于是,在2017年的时候,Facebook想出了一个“奇招”来解决这个问题——向广大用户征集果照。



用户可以通过Messenger软件,将自己的私密照片发送给Facebook。


然后,Facebook的审核人员将为这些照片生成一个独一无二的数字指纹(digital footprint)。


当有人试图在Facebook或Instagram上传同一张照片时,AI就能自动识别出来并进行屏蔽删除了。



从理论上来讲,这种依靠用户主动上传识别的方式,的确可以从源头上扼杀果照的传播。


当时,这个方案也在澳大利亚、美国、加拿大等地成功试点,但也引起了舆论的担忧。


有网友评价这种方式是“为了防止被人枪杀,先自杀一个”。



现在,4年过去了,Facebook也在今年改名为Meta,却依然没有放弃这项计划的打算。


据最新媒体报道,Meta在近日官宣了一项第三方工具,而这个工具,就是专门用来打击Revenge Porn的。


简单来说,就是曾经负责给用户提交的果照生成数字指纹的审核人员“下岗”了,现在取而代之的是AI。



据悉,这个第三方工具名为StopNCII.org,是由Meta和一个非营利组织合作开发的独立网站。


用户可以在这里上传自己的果照或视频,并填写一系列基本问题,包括年龄、人物、内容简述等。


点击提交后,这些照片或视频将被转换成独特的数字指纹,即“哈希值”。



然后,这些数字指纹将由Facebook和Instagram共享,平台便会拿着这些哈希值与其他网友上传的图像进行匹配。


哈希值差异越小,图片相似性越大,如果匹配成功,平台就会在第一时间对图片进行拦截和删除。


据了解,后期StopNCII.org中的数字指纹还会面向其他网站开放。




另外,根据StopNCII.org的官方介绍,它们不会使用、存储或查看用户上传的照片,照片由始至终都只会在用户本地计算机上进行处理。


它们保存并共享的,只是通过算法生成的照片数字指纹。



但是,StopNCII.org真的管用吗?


答案是不一定。


首先,“哈希值”的匹配本身就存在技术上的“漏洞”,不能保证照片能达到100%吻合。


比如,前男友/女友在你的果照上随意加几笔涂鸦、马赛克、贴纸,或者裁剪、翻转,都有可能绕过这一道检测。


因为经过处理后的照片,已经是一个全新的数字指纹了。



另外,StopNCII.org也无法判断用户上传的图片是不是果照。


如果用户上传的完全是正常照片,那么很有可能造成误伤。


最后,虽然官方保证不会储存用户照片,但没有人能保证中间环节中是否会有人窃取。


何况,Facebook已经多次被曝出泄露用户隐私数据的丑闻。



从这些角度来看,StopNCII.org计划的初衷虽然是美好的,但真正实施起来还是有很多的问题亟待解决。


尽管这个方法听起来十分滑稽,但现实是,类似的技术已经被诸多科技巨头广泛使用。


包括谷歌、 微软 、Twitter、苹果等都采用了“哈希值”匹配的方法来清除网上的儿童se情内容。


当然,此前iOS 15上线这个功能的时候也引起了全球不少用户的抗议。



对任何人来说,为了避免未知的风险,而先把自己的私密照片主动“泄露”出去,是一件非常违背常理的事情。


如果平台不能保护好这些数据,可能会带来更大的一场灾难。


鉴于Facebook近年来的用户口碑,想必也不会有多少人愿意将自己的裸照上传到StopNCII.org。


虽然StopNCII.org是否能起到作用还有待观察,但无论如何,利用图片识别技术打击网络暴力的做法是值得肯定的。


只不过,在这项技术彻底得到完善之前,还是请大家先保护好自己吧。


随机图文

站点信息

  • 文章统计 1437 篇文章
  • 微信公众号:扫描二维码,关注我们