澎湃新闻记者 陈宇曦
疫情期间,社交软件QQ推出了一款可用于线上自习的多人直播产品:QQ自习室。进入QQ自习室,网友可以分享自己的学习场景视频,在评论区互动互相加油打气等。
但在近日,澎湃新闻发现,在这样一款以学生为主要目标用户群体的产品中,有极少数用户利用QQ自习室传播淫秽色情内容。
针对这一情况,1月27日,QQ团队作出回应,称经自查发现确实存在少量恶意用户发布低俗内容及进行黑产引流。目前,QQ已经关闭了深夜自习室(23:00-8:00)的评论功能,提出进一步收紧评论尺度标准、提升用户加好友门槛。
从产品功能来看,QQ自习室的使用群体以学生为主,进入QQ自习室可见,有大量中考、高考、考研为主题的自习室。进入一个自习室后可上麦自习也可直接入座自习,在评论区与其他自习的网友交流,系统会记录用户自习的天数与时长。
澎湃新闻记者随机进入一间自习室,评论区出现了为淫秽色情引流的暗语:诸如8.88、加群、懂的加,甚至有用户主动问:有东西吗,下面则有人回应称:私我。
对于为何未能及时识别这些疑似涉黄内容,QQ团队称这是不同语义变化以及文本的变种对抗导致的延迟打击问题。据了解,QQ自习室评论有着脏字过滤系统,以及机器文本安全模型的识别,并采取了技术风控手段和人工巡查结合的方式,但专业黑产团伙在作恶时,会想办法绕过平台安全策略,发送擦边评论内容进行引流。
在通过暗语吸引目标用户后,黑产会引导用户添加好友私聊的方式,进行色情内容传播。
QQ方面表示,将通过提升用户加好友门槛的方式,对于加好友实施涉黄引流进行打击。可采用的方式有:加好友增加自习室用户的打卡自习时长要求、非长期自习用户不能加或者被加好友等。
但该方法能杜绝产品被黑产利用吗?QQ团队向澎湃新闻记者介绍,QQ鼓励用户在发现违规信息时,对相关违规账户进行举报。我们呼吁用户增强信息安全意识,对违法违规帐号和行为进行举报,一旦发现并核实立即封停。对于情节严重者,还将向司法机关举报。
责任编辑:是冬冬
校对:徐亦嘉