日均拦截95%以上的导流欺诈行为、日均识别打压搬运抄袭帖2.9万条，日均3000+用户参与平台众裁活动……近期，新型开放式社交平台Soul App发布了《Soul第四季度生态安全报告》。
报告显示，Soul通过AI识别和黑灰产识别技术上线动态查重功能和多项反诈机制，从技术研发、产品设计及多方协同打击方面着手，建立严密的风控机制，并打造了由辨识真伪、平台打击、用户宣导和治理众裁四部分组成的循环反馈双擎生态安全治理模式。2022年第四季度，Soul重点围绕导流诈骗治理、绿色生态共建、虚假内容打击、一键防网暴等四大用户安全生态专项开展治理，再次交出一份亮眼的成绩单。凭借在生态安全治理方面的领先实践，Soul受邀参与由中国互联网协会调解工作委员会主办的“2022网络安全治理机制高峰论坛”，并入选《2022网络安全运营服务机制及网络反诈应对报告》。
重拳出击新型诈骗，配合公安机关成功打击导流诈骗团伙
报告显示，2022年四季度，Soul通过站内官方账号Soul反诈中心，在私信、广场等多场景对用户进行反诈安全提示，曝光达800余万次。四季度，Soul上线1000多项风控策略，处罚100万人次，导流外溢案件发案下降50%以上，日均拦截95%以上的导流欺诈行为，获得用户正向反馈超10万次。另外，通过主动发现线索，Soul还配合公安机关成功打击站内导流诈骗团伙2个。
由于Soul本身不具备转账功能，因此，有一些不法分子想方设法将用户吸引至第三方平台，再实施诈骗。针对这一情况，Soul严厉打击通过欺骗性手段，骗取用户信任导流到站外的行为。特别是对于“投资”“刷单”“转账”和与支付相关的高危敏感字眼，Soul会在用户对话页面上及时弹出警示标志，甚至会给用户发短信、打电话，通过及时提醒让用户远离诈骗。同时，Soul还会在第一时间响应用户的举报，核查并封禁涉嫌诈骗的账号。
值得一提的是，Soul通过企业与政府多部门联动，实现预警、劝阻、黑库、情报等能力共享、协同打击。及时阻断和叫醒用户，持续加强警企合作走访提醒，提升平台安全感。
在防范网络诈骗方面，Soul还因势而动，不断升级，建立了更严密的风控体系，对不同群体“杀猪盘”诈骗实现精准打击。同时，Soul还通过优化用户端及时提醒机制，防范用户上当受骗。
创新安全生态治理新模式，日均3000+用户参与共治众裁
报告显示，2022年第四季度，Soul在广场治理中日均拦截1.8万条软色情内容，日均处理违规用户1000人次，日均帖子、评论举报量较上季度下降30%，在群聊派对治理中，Soul日均中断5000余条违规语音消息，日均拦截违规文字消息1.4万条，日均梯度处罚违规2000多用户。在低俗内容和不良价值观集中治理方面，Soul交出一份亮眼成绩单。
构建清朗的网络空间，需要传递正确的价值观。为了给用户提供绿色清朗的社交环境，Soul长期对擦边低俗、拜金炫富、挑唆男女对立等不良价值观内容开展专项整治，从内容广场、文字群组、群聊派对等多场景进行集中优化，让平台充满温暖、友善的氛围。
在Soul上，平台用户群体大部分是以95后、00后为代表的Z世代。对Z世代来说，一方面，他们反对说教式强制管束，另一方面，他们受教育程度越来越高、正能量十足，愿意承担起社区自治责任。
针对年轻一代的特点，Soul上线风纪委活动，邀请用户对不良价值观内容进行打分，实施众裁，风纪委活动得到用户的积极响应。数据显示，目前已有2万余名用户成为风纪委成员，日均超3000成员参与其中。此外，针对低俗内容，Soul在此前软色情识别模型以及低俗色情识别模型的基础上，于四季度又上线超过20条不良低俗内容打压策略，进一步精准识别，有效保护用户。
升级“动态查重”功能，用户对虚假内容处理满意度提升20%
在网络空间，虚假不实内容就像一颗颗烟幕弹，严重影响网络安全生态治理。为更好地治理虚假不实内容，2022年第三季度Soul在业内首创“动态查重”功能，还发起《尊重原创 分享真实》公约（又称《Soul Real》公约），呼吁用户参与原创内容保护。
2022年第四季度，Soul对“动态查重”功能进行升级。例如，如果发布者的图片曾在站内广场出现过，Soul不仅在其个人主页对应的内容帖下方提示“该内容曾在站内出现过”，还在广场详情页帖子下增加相应展示，让虚假、跟风内容处处现形。此外，Soul还增加举报入口，通过消息提醒原创作者对搬运内容进行举报维权，更好地保护原创者的合法权益。
报告显示，四季度Soul官方风纪球长发布“保护原创、鼓励真实”相关的宣传科普内容14篇，涉及违规处罚公示、安全标准宣导、真实公约等方面，总计曝光量达5252万。该季度，Soul日均识别打压搬运抄袭帖2.9万，搬运抄袭相关举报日均下降30%，用户对虚假内容处理的满意度提升20%。
实现“一键防网暴”，强化“友善评论引导”
“恶语伤人六月寒”。在社交网络中，时时出现的网络暴力，成为伤人利器，也成为网络生态的“毒瘤”。在网络暴力治理方面，Soul打出了防治相辅的组合拳。
2022年第四季度，Soul上线了一键防网暴功能。在用户遇到攻击辱骂、低俗色情骚扰等情况下，Soul自动触发“今日自闭”开启提醒。用户选择开启“今日自闭”功能后，将不再收到灵魂匹配、奇遇铃和内容广场等场景中的陌生人信息。据统计，新功能上线后，每天尝试使用自闭功能的用户超3万人。此外，Soul还在私聊对话、内容广场、游戏等不同场景与功能板块，对辱骂攻击、挑唆男女对立、地域歧视等网暴行为重拳出击。
此外，当用户因为人身攻击被举报多次以后，Soul将限制用户的评论功能并引导用户签署“友善互动声明”，只有签署后才能继续发表评论，并且Soul在广场内容的发布中还启动禁止评论功能，发布者可以自定义选择可评论的用户群体。
通过防治结合，Soul在网络暴力治理方面也取得硕果，日均避免用户遭受网暴与频繁骚扰5000多次，日均处理私聊不文明行为用户300多人，日均提醒引导私聊文明发言20万次，日均发送友善评论提示900多次，累计签署友善互动声明的用户达5万余人。
在互联网平台，集聚着很多充满活力、热衷探索的青年人。对青年群体来说，他们是互联网的深度参与者，也是互联网清朗网络空间的重要构建者。Soul相关负责人表示，“对社交平台来说，要肩负主体责任，通过积极的自治措施，增强用户安全意识、引导网络良好风气。同时，提升平台管控效率，强化用户权益维护。”Soul定期发布《Soul季度生态安全治理报告》，不仅是向社会公示平台安全与生态治理的举措与阶段性进展，也为互联网平台提供了网络安全生态治理的宝贵经验。
