齐鲁晚报·齐鲁壹点 记者 高寒
近年来，随着线上社交软件的兴起，特别是今年6月《未成年人保护法》的实施，社交软件内容审核、管控机制及未成年人保护方面的问题，再次引发人们的关注和讨论。近期，针对市面上的新兴社交软件Soul，齐鲁晚报·齐鲁壹点记者就相关问题进行了测评，并采访相关负责人。据了解，Soul在未成年人保护、防诈骗等领域已实现AI与人工相结合，保障用户特别是未成年人的权益。
防诈骗机制：识别和封锁高危账号
近期，网络上最火的APP莫过于“国家反诈中心”APP。在“国家代表队”的带领下，一些高度重视社会责任的平台也积极响应号召，将用户的信息安全和反诈骗保护放在突出位置。而作为主打社交功能的Soul，其反诈能力也成为了影响平台前景的重要因素。
目前，Soul已在相关部门的指导下成立反诈小组，通过六大风控技术手段和500多种各场景布控反诈策略，2020年以来Soul全年封号用户数量超过206万。加之目前Soul本身不具备转账功能，这使得不法分子无法在Soul平台上直接进行诈骗。
在站内机制层面，Soul在预防监控和技术反诈等方面建立了一套较为完备的打击诈骗活动的风控体系。依托平台本身强大的技术支持，系统将自动对IP异常登录、账号基础信息经常变更等行为进行标记和预警。此外，针对买卖账号这一恶劣行径，Soul风控团队通过完备的风控体系与布局，查获一批代理号。通过代理注册的账号，上线了直接打击的封号策略，对黑灰产进行了强有力的打击。
而为了防止不法分子将用户引流到第三方，Soul也在对用户进行反诈教育，并在平台上设置多种反诈预警提醒。当识别到聊天消息中含有明显导流意向内容，或者“转账”“”“支付宝”等高危敏感字眼，页面便会直接屏蔽消息或在页面出现显著标识，提醒用户注意防范。
Soul风控平台负责人张高政表示：“对待网络诈骗黑产，Soul秉承零容忍的原则。虽然Soul通过多项风控策略与措施让诈骗在Soul上无机可趁，但不少用户还是被引流到其他平台，在脱离了Soul平台的保护后被骗，我们深感痛心。为了更好地保护我们的用户，在公安部第三研究所的技术指导下，我们已成立反诈专项小组，积极推动联防联控机制，形成打击合力、增强防范治理效果。同时，也与上海有关部门合作建立了反诈模型，积极配合相关案件侦办工作。”
投诉举报处理机制：Soul站内举报机制齐全，投诉100%得到受理
在一款UGC内容较为丰富的平台内，包括反诈在内的诸多工作，都离不开来自用户本身的投诉举报。记者亲身体验，目前在Soul APP内的各类功能入口，均设有举报按钮。而根据统计，Soul站内共设置了举报电话、客服电话、意见反馈、官方邮箱、封禁申诉通道、站内举报等投诉举报渠道。
而在投诉处理率方面，齐鲁晚报·齐鲁壹点采访Soul相关负责人得知，Soul设置的每个投诉渠道均由专人负责监控和处理，受理率为100%。对于被用户举报的违规内容或个人，官方将及时进行删除、封禁等。
“当然对于用户的投诉，我们在进行诸如封号处理时也会非常谨慎。”Soul相关负责人表示，平台采用人工机器双审核机制。当用户的账号被举报核实确有违规行，或被检测到在帖子、评论、群聊、私聊等场景发布违规信息时，平台会对此类违规账号进行封禁功能、封号等不同等级的分层处理。目前，系统和人工的误封可能性严格控制在0.7%以内。对于可能存在的误封情况，用户也可以通过站内申诉、拨打客服电话等方式解决。
未成年人保护机制：严格控制未成年用户注册
据了解，目前Soul禁止18周岁以下用户新注册账号，而已有的存量青少年用户，将在青少年模式中继续正常使用。
Soul方面表示，目前平台已经新增AI自动识别机制，通过算法、模型来监测疑似未成年用户。同时，组建人工巡检队伍“护星队”，通过巡检发现疑似未成年人的相关信息，第一时间上报处理。此外，平台也推出了针对年龄的举报机制。
“通过以上途径发现的未成年人，平台将第一时间限制其社交功能并将引导该用户进行实名认证，若认证为未成年人，该用户将进入青少年模式且无法主动退出。”
今年9月，《上海网络平台青少年模式设置指南（试行版）》推出，Soul等18家网络平台成为首批试点者。Soul相关负责人表示，Soul将持续主动丰富青少年模式下的内容，让其变得更加健康、更有吸引力。关于青少年模式，知情人士介绍，Soul将在近期上线针对未成年人用户的一系列限制功能，诸如限制主动匹配的次数、限制每日累计登入时长等。
找记者、求报道、求帮助，各大应用市场下载“齐鲁壹点”APP或搜索小程序“壹点情报站”，全省600多位主流媒体记者在线等你来报料！