首页>业界新闻

小红书下架背后,UGC平台内容审核难在哪儿?

作者:燃财经 2019/7/31 13:43:310780



VIA: 燃财经

在虚假种草和“清洗KOL”事件之后,小红书再次陷入风波。

7月29日,有用户反馈小红书在应用宝及华为、OPPO等手机厂商的应用商店显示无法下载。燃财经登陆某安卓应用商店,小红书APP显示内部优化中,暂不提供下载,而iOS系统目前还能下载。有报道称,iOS系统下的App Store近期也会下架小红书。

对此,小红书7月30日回应称,已了解到该情况,正在和有关部门积极沟通。对于下架原因,各种报道的推测包括涉黄涉“黑医美”等违规种草、被用户举报、内容或数据违规等,小红书方面未予以证实。

从跨境电商到内容社区,六年多以来,小红书聚集了2亿多用户,2018年时估值已达30亿美元。其高速发展和陷入争议都源于UGC(用户生产内容)模式,一方面,大量真实案例分享与产品功效介绍笼络了一大批用户;另一方面,巨大的流量吸引了不少灰产,烟草软文、虚假种草产业链、违禁医美药品等都曾引发外界质疑。

去年以来,对于内容平台来说,强监管的警报信号密集响起。快手、火山小视频、网易云音乐、荔枝FM、喜马拉雅也曾经历过下架风波,为了减少内容风险,各家除了建立自己的风控体系、强化人工运营和审核之外,一些公司也会找第三方合作,探索更多内容审核方式。

一家为各类平台提供审核服务的公司对燃财经表示,目前在人工智能的辅助下已经能够实现关键词黑名单、专家干预、贴标签机器学习和无监督机器学习等方式拦截有害内容,再配合以舆情监控和人工审核,能够帮助企业大大提高效率。

对于内容社区来说,不断提升审核能力将是未来平台治理的一大任务。小红书原本在商业化之路上就面临着平衡用户体验和合理变现的挑战,如今,强化审核走向合规成为了更急迫的命题。

种草沃土滋生黑产

最早将“种草”发展成一种商业模式的小红书,正深陷“种草”效应扩大后失控的场面。

早在2019年4月就有报道称,在小红书APP上输入“烟”进行关键词搜索,页面提示有9.5万条“笔记”,搜索“女士”、“女烟”等也会出现与“电子烟”相关的“测评”和“体验报告”,背后有很多是烟草营销机构。

由于国家明令禁止烟草广告,小红书上的烟草软文一经发现立刻遭到质疑。随后小红书下线了烟草类笔记。



小红书上的医美及烟草“种草” 图片来源于网络

此后不久,小红书又被爆出虚假种草产业链,代写代发种草文章可根据粉丝数量明码标价,点赞、转发、上热门均可人为操纵。一时间,小红书遭遇信任危机。

针对此次事件,小红书推出新版的《品牌合作人平台升级说明》,只有经过小红书平台审核成为“品牌合作人”后,KOL才可在小红书上接广告。提高门槛后,近2000名KOL被取消资格。清洗KOL的行为一度引发恐慌。

另一方面,小红书加大了对平台的审核力度。小红书方面称,公司有几十人的反作弊团队,500人的审核团队,以及100多套数据模型打击代写、刷量等作弊行为。据小红书发布的2019第二季度社区反作弊报告显示,平台平均每天清理刷量笔记4285篇,每天有920篇人工刷量笔记被清理,平均每5分钟清理18.6个刷量账号。

小红书还推出了“小红心”评分体系,根据社区热度和商城销量的综合排名来筛选参与评分的单品,邀请一年内购买过该产品的用户参与评测,得出类似日本“COSME大赏”的榜单。小红书APP显示,目前有3702件全球热门好物进入小红心评分体系,有518296位使用者真实评测。

这一切看起来使小红书在朝着更好的社区生态发展,但7月29日,有媒体报道小红书借种草卖人胎素等违禁药,推广微整形速成班,平台上的用户以种草的名义为未获准入的韩国品牌“粉毒”、“白毒”等各种肉毒杆菌引流,下单后即可推荐相应地区的工作室进行急性肉毒杆菌注射。另外还有各种推广“微整速成班”的笔记,有师资造假已遭大学澄清的机构仍然在小红书上推广。

报道称,以“粉毒”为关键词在小红书搜索,平台会出现许多看似科普或“种草”的文章,实际上是隐性售卖医美产品的“广告”,甚至有网友直接晒出注射的亲身体验。而这些品牌并不符合国家准入标准,属于违禁药品。

形形色色的违禁广告,改头换面包装成“种草“笔记,又大大方方出现了。

小红书在这件事情之后遭到下架,不少人猜测“违禁医美种草”是其下架原因。但小红书方面否认这一说法并表示,“被应用商店暂时下架的情况有很多种,公司正在和主管部门沟通,沟通情况很积极,请关注后续进展。”

强监管下的自我审核

一直以来,内容平台涉黄涉赌的问题都是平台审核和政策监管的“重灾区”。

2019年6月,国家网信办曾对吱呀、Soul、语玩、一说FM等26款违法违规音频平台,分别采取约谈、下架、关停服务等阶梯处罚。网易云音乐、荔枝FM、企鹅FM、喜马拉雅、最右、探探等APP也在今年经历了下架。

2018年4月,快手、火山小视频安卓版APP也曾被下架整改,要求全面清查库存节目,对低俗、暴力、血腥、色情、有害节目立即下线。

内容社区不断的自我审核与外部监管并存基本成为常态。强监管之下,对于内容平台的审核能力提出了更高要求,一些企业也探索了新的方式。

张一鸣曾发道歉信表示强化总编辑责任制,全面纠正算法和机器审核的缺陷,不断强化人工运营和审核,将6000人的运营审核队伍扩大到10000人。

除了通过内容质量中心严把内容质量关外,今日头条还建立了打击低俗的人工智能小程序“灵犬系统”,输入文字或文章链接,系统即可检测内容质量指数,并给出算法模型的鉴定结果,配合人工审核进行内容质量把控。

就在2019年7月30日,“灵犬3.0”发布,升级了识别类型和模型能力,支持图片识别(反色情低俗、反血腥暴力)和文本识别(反色情低俗、反暴力谩骂、反标题党)。

快手则在下架风波时回应称正全面整改中,采取对现有库存视频加大清查力度、控制每日短视频上传总量等7大措施,并将审核团队从2000人扩充至5000人。其招聘信息显示,“内容审核编辑”的工作要求为:审核用户上传到快手的视频、图片、评论的合法性、合规性,对违规账号进行合理处置,维护社区的绿色与健康。

除了建立自己的风控体系之外,一些公司也会去找第三方合作。

为各类平台提供审核服务的从业者江洋对燃财经表示,人工审核和机器审核相辅相成,有一部分机器不能拦截到的东西,通过人工去提供一些标签,算法就可以去验证,同时捕捉到跟这个账号有关联的群组和账号,这样效率会更高。

内容审核难在哪儿?

即使企业大力审核,各类APP仍然难逃被下架的命运。那么,内容审核难在哪儿?有哪些新模式与技术应用在审核上?

江洋告诉燃财经(ID:rancaijing),目前审核方面的技术已经经历了四个阶段。

第一代审核解决方案以名单类(如黑名单)等方案为主,技术上比较简单,建立基于数据的名单,根据一些关键词,并通过大数据AI技术收集数据名单中的有效信号,拦截相关信息。

第二代审核方式由公司启用专家系统,即把行业专家多年积累的风控和业务知识通过系统的方案固化下来,做出一些拦截欺诈的规则模型,并在风控中做一些自动化的决策。比如可以设置一个账号发广告不能发超过50条,到第51条账号就会被封。

第三代开始了机器学习,或者说有监督的机器学习。即给风控案例或数据做一些标签,通过各种机器学习的手段,把它固化成模型,通过不停的迭代,做风控和反欺诈方面的决策。

他举例,比如系统监测到某账号或登陆IP之前有过欺诈行为,通过这些有限的数据让机器去学习,总结出一些规则来拦截。例如有的用户把涉黄的词汇用拼音代替,或加一个隔断符号,机器可以通过一千条类似的文本学习到这个规则,有效拦截掉类似的不良内容,这种方法强依赖于大量打上标签的数据。

第四代审核技术则进入了无监督的机器学习,对于很多缺乏标签的问题和不断更新进化的新问题,运用无监督机器学习检测信息。

江洋表示,现代的欺诈和黑产趋向于群组性的行动,这样的组织甚至有上中下游产业链,可能购买了1万个账号通过群控的软件发布违规信息。这些账户的行为比较异常,且多个账号有紧密联系,无监督机器学习就是利用了这一点,比如账号注册时间在某个时间段内,IP有时在美国,有时在越南,账号之间可能存在过交易行为,交易数额在一定范围内。在这样的情况下,即便没有数据贴标签,系统也能捕捉出来群组进行拦截。

他举例解释第三代和第四代的差别,比如一群猫和狗混在一起,有监督的机器学习需要一条一条的列出猫的胡须长、走路更轻等,把这些特征各打一个标签,再到群组里去识别匹配,而无监督的机器学习是在没有标签的时候,通过这些动物之间的特性和关系来区分。

但是,如果不是有组织大批量的账号行为,可能就需要人工审核或其它舆情监测的平台来辅助。目前各平台采用的多是系统拦截加人工的方式,有规则、黑名单、人工智能风控,也有人工审核,二者结合进行欺诈信息和不良内容的清洗。

除了技术因素之外,平台的主观选择也是一大重要因素,很多社交平台存在涉黄问题,但如果不打擦边球,平台活跃度可能降低。所以,在审核上,一方面黑产组织在不断与规则作斗争,开发新模式,再加上用户数巨大,技术加人工的审核难度依然不小,另一方面,平台在权衡内容和活跃度的时候,也要做出取舍。

推荐虚假种草帖需担责

小红书平台上用户发布违规内容,板子是否该打到小红书身上?

中国政法大学传播法研究中心副主任朱巍对燃财经表示,小红书上的“种草帖”本质上就是广告,因为它们都可以通过内容引流直接变现,按照2016年《互联网广告管理暂行办法》的规定,媒介方平台经营者、广告信息交换平台经营者以及媒介方平台成员,对其明知或者应知的违法广告,应当采取删除、屏蔽、断开链接等技术措施和管理措施,予以制止。

朱巍指出,假如一个用户发布了内容,平台没有推荐,点击量不高,小红书不承担责任。但如果是一些小红书进行算法推荐且内容达到很高的浏览量和成交额的内容出了问题,或是用户举报平台不处理、竞价排行内容出问题、卖家留的联系方式是虚假等情况,小红书要承担连带责任。

“小红书的模式可以说是社交电商中最成功的一种模式,获得了大量用户的信任。现在问题出来,对小红书来说未必是坏事。小红书应该把篱笆墙扎好,用更高的水平来要求自己。这并非是提高运营成本,而是以用户的信任和保障产品质量为基础,将来会更多地占有市场。”朱巍表示。

小红书原本在商业化之路上就面临着保证用户体验与合理变现的挑战,如今,强化审核走向合规成为了更急迫的命题。
相关文章
1
评论
作品榜 最新提交