日均拦截95%以上的导流欺诈行为、日均识别打压搬运抄袭帖2.9万条,日均3000+用户参与平台众裁活动……近期,新型开放式社交平台Soul App发布了《Soul第四季度生态安全报告》。
报告显示,Soul通过AI识别和黑灰产识别技术上线动态查重功能和多项反诈机制,从技术研发、产品设计及多方协同打击方面着手,建立严密的风控机制,并打造了由辨识真伪、平台打击、用户宣导和治理众裁四部分组成的循环反馈双擎生态安全治理模式。2022年第四季度,Soul重点围绕导流诈骗治理、绿色生态共建、虚假内容打击、一键防网暴等四大用户安全生态专项开展治理,再次交出一份亮眼的成绩单。凭借在生态安全治理方面的领先实践,Soul受邀参与由中国互联网协会调解工作委员会主办的“2022网络安全治理机制高峰论坛”,并入选《2022网络安全运营服务机制及网络反诈应对报告》。
重拳出击新型诈骗,配合公安机关成功打击导流诈骗团伙
报告显示,2022年四季度,Soul通过站内官方账号Soul反诈中心,在私信、广场等多场景对用户进行反诈安全提示,曝光达800余万次。四季度,Soul上线1000多项风控策略,处罚100万人次,导流外溢案件发案下降50%以上,日均拦截95%以上的导流欺诈行为,获得用户正向反馈超10万次。另外,通过主动发现线索,Soul还配合公安机关成功打击站内导流诈骗团伙2个。
由于Soul本身不具备转账功能,因此,有一些不法分子想方设法将用户吸引至第三方平台,再实施诈骗。针对这一情况,Soul严厉打击通过欺骗性手段,骗取用户信任导流到站外的行为。特别是对于“投资”“刷单”“转账”和与支付相关的高危敏感字眼,Soul会在用户对话页面上及时弹出警示标志,甚至会给用户发短信、打电话,通过及时提醒让用户远离诈骗。同时,Soul还会在第一时间响应用户的举报,核查并封禁涉嫌诈骗的账号。
值得一提的是,Soul通过企业与政府多部门联动,实现预警、劝阻、黑库、情报等能力共享、协同打击。及时阻断和叫醒用户,持续加强警企合作走访提醒,提升平台安全感。
在防范网络诈骗方面,Soul还因势而动,不断升级,建立了更严密的风控体系,对不同群体“杀猪盘”诈骗实现精准打击。同时,Soul还通过优化用户端及时提醒机制,防范用户上当受骗。
创新安全生态治理新模式,日均3000+用户参与共治众裁
报告显示,2022年第四季度,Soul在广场治理中日均拦截1.8万条软色情内容,日均处理违规用户1000人次,日均帖子、评论举报量较上季度下降30%,在群聊派对治理中,Soul日均中断5000余条违规语音消息,日均拦截违规文字消息1.4万条,日均梯度处罚违规2000多用户。在低俗内容和不良价值观集中治理方面,Soul交出一份亮眼成绩单。
构建清朗的网络空间,需要传递正确的价值观。为了给用户提供绿色清朗的社交环境,Soul长期对擦边低俗、拜金炫富、挑唆男女对立等不良价值观内容开展专项整治,从内容广场、文字群组、群聊派对等多场景进行集中优化,让平台充满温暖、友善的氛围。
在Soul上,平台用户群体大部分是以95后、00后为代表的Z世代。对Z世代来说,一方面,他们反对说教式强制管束,另一方面,他们受教育程度越来越高、正能量十足,愿意承担起社区自治责任。
针对年轻一代的特点,Soul上线风纪委活动,邀请用户对不良价值观内容进行打分,实施众裁,风纪委活动得到用户的积极响应。数据显示,目前已有2万余名用户成为风纪委成员,日均超3000成员参与其中。此外,针对低俗内容,Soul在此前软色情识别模型以及低俗色情识别模型的基础上,于四季度又上线超过20条不良低俗内容打压策略,进一步精准识别,有效保护用户。
升级“动态查重”功能,用户对虚假内容处理满意度提升20%
在网络空间,虚假不实内容就像一颗颗烟幕弹,严重影响网络安全生态治理。为更好地治理虚假不实内容,2022年第三季度Soul在业内首创“动态查重”功能,还发起《尊重原创 分享真实》公约(又称《Soul Real》公约),呼吁用户参与原创内容保护。
2022年第四季度,Soul对“动态查重”功能进行升级。例如,如果发布者的图片曾在站内广场出现过,Soul不仅在其个人主页对应的内容帖下方提示“该内容曾在站内出现过”,还在广场详情页帖子下增加相应展示,让虚假、跟风内容处处现形。此外,Soul还增加举报入口,通过消息提醒原创作者对搬运内容进行举报维权,更好地保护原创者的合法权益。
报告显示,四季度Soul官方风纪球长发布“保护原创、鼓励真实”相关的宣传科普内容14篇,涉及违规处罚公示、安全标准宣导、真实公约等方面,总计曝光量达5252万。该季度,Soul日均识别打压搬运抄袭帖2.9万,搬运抄袭相关举报日均下降30%,用户对虚假内容处理的满意度提升20%。
实现“一键防网暴”,强化“友善评论引导”
“恶语伤人六月寒”。在社交网络中,时时出现的网络暴力,成为伤人利器,也成为网络生态的“毒瘤”。在网络暴力治理方面,Soul打出了防治相辅的组合拳。
2022年第四季度,Soul上线了一键防网暴功能。在用户遇到攻击辱骂、低俗色情骚扰等情况下,Soul自动触发“今日自闭”开启提醒。用户选择开启“今日自闭”功能后,将不再收到灵魂匹配、奇遇铃和内容广场等场景中的陌生人信息。据统计,新功能上线后,每天尝试使用自闭功能的用户超3万人。此外,Soul还在私聊对话、内容广场、游戏等不同场景与功能板块,对辱骂攻击、挑唆男女对立、地域歧视等网暴行为重拳出击。
此外,当用户因为人身攻击被举报多次以后,Soul将限制用户的评论功能并引导用户签署“友善互动声明”,只有签署后才能继续发表评论,并且Soul在广场内容的发布中还启动禁止评论功能,发布者可以自定义选择可评论的用户群体。
通过防治结合,Soul在网络暴力治理方面也取得硕果,日均避免用户遭受网暴与频繁骚扰5000多次,日均处理私聊不文明行为用户300多人,日均提醒引导私聊文明发言20万次,日均发送友善评论提示900多次,累计签署友善互动声明的用户达5万余人。
在互联网平台,集聚着很多充满活力、热衷探索的青年人。对青年群体来说,他们是互联网的深度参与者,也是互联网清朗网络空间的重要构建者。Soul相关负责人表示,“对社交平台来说,要肩负主体责任,通过积极的自治措施,增强用户安全意识、引导网络良好风气。同时,提升平台管控效率,强化用户权益维护。”Soul定期发布《Soul季度生态安全治理报告》,不仅是向社会公示平台安全与生态治理的举措与阶段性进展,也为互联网平台提供了网络安全生态治理的宝贵经验。
免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。
新化月报网报料热线:886 2395@qq.com
相关文章
最近更新
- “共治众裁”,“一键防网暴”……Soul生态安全报告亮出平台治理绝招2023-01-12
- 腾讯云与新希望金融科技达成战略合作,擘画金融PaaS蓝图 2023-01-12
- 第十五届时代营销盛典:舒客荣膺“2022年度最受Z世代好评品牌”2023-01-12
- 【独家】甘肃省人民代表大会常务委员会任命名单2023-01-12
- 每日视讯:关岭:“三个平台” 助推东西部人才协作走深走实2023-01-12
- 38个!济南公示市级一刻钟便民生活圈名单2023-01-12
- 姜雪峰委员:学术与产业需要一套翻译体系,让产学研对话平台化2023-01-12
- 最新消息:益阳高新公安经侦大队开展春节期间防范打击非法集资普法宣传活动2023-01-12
- 特步跑鞋助力运动员破半马国家纪录,包揽国际白金标双冠2023-01-12
- 公司年会礼盒、明星工作室礼盒的尽头竟然是闲鱼?2023-01-12
- 新冠感染转阴后还咳不停,要怎么治疗?2023-01-12
- 防治感冒、流感、新冠,连花清瘟该怎么用?且听专家解读2023-01-12
- 海外高知女性探索口碑好物,豹品会员制商城重磅发布2023-01-12
- 庄国泰任甘肃省政协党组书记2023-01-12
- 天天速递!江西遂川:“适老化”让“慢速度”提效2023-01-12
- 全球头条:港澳委员出席云南两会 聚焦口岸建设与人才交流2023-01-12
- 全球时讯:推进深港口岸经济带建设,2023年省工作安排,深圳涉及这些方面2023-01-12
- 解码!医疗资源缘何在肥西聚集?2023-01-12
- 临湘:年货节“乡当有味” 集体经济“乡当有为”2023-01-12
- 2022年第四季度全球PC出货量跌28.1% 联想、惠普、戴尔、华硕均较大幅度下滑2023-01-12
- 硬核跨越冰海雪原,全新一代瑞虎7 PLUS热血融化长白山2023-01-12
- 如何判断板块轮动?怎么看买的股票是什么板块?2023-01-12
- 股票定增解禁后股价会上涨吗?为什么股票解禁前拉升?2023-01-12
- 当前关注:我市部署春节期间特种设备安全监管2023-01-12
- 天天热文:兴旺产业助力乡村振兴2023-01-12
- 焦点讯息:隆尧县陈庄村:村民的生活有奔头2023-01-12
- 通讯!市城管局数字城管中心开展节前专项排查2023-01-12
- 每日简讯:我市将实施重大项目强引领增动能行动2023-01-12
- 【环球播资讯】甘肃农民工朋友如遇欠薪问题,请通过这些方式举报投诉2023-01-12
- 股票信用账户开户条件是什么?信用账户可以进行普通交易吗?2023-01-12