8月18日,抖音发布《抖音网络诈骗打击治理报告(2021年1月至6月)》(以下简称“报告”)。报告显示,2021年1月至6月,抖音安全中心主动封禁涉嫌诈骗帐号超过80万个,拦截下架涉嫌诈骗视频内容超过100万条。同时,抖音安全中心与多地警方跨平台联动,落地打击网络诈骗团伙57个,抓获诈骗分子273人。
报告显示,抖音安全中心为了在不同用户场景中识别、拦截网络诈骗帐号、行为,建立了百亿级别样本量风控数据库,包括风险文本库、风险链接库、风险设备库、风险IP库、风险图像库及风险视频库等。
基于该风控数据库,抖音安全中心自主研发的智能反欺诈系统建立了设备风险识别、行为风险识别、关联风险识别以及内容风险识别四大风控识别体系,能够在帐号注册、登录、发布、评论等不同场景下判断相关帐号是否属于诈骗帐号、是否有诈骗相关行为,并执行对应的处理措施。
在百亿级别样本量风控数据库与四大风控识别体系的基础上,结合抖音产品功能、内容属性、用户行为特征,抖音安全中心基于机器学习、深度学习等人工智能技术,针对网络诈骗的特点自主研发了反欺诈模型、风控策略,拦截平台上的网络诈骗内容与行为。报告显示,抖音平台上每天在运行的反欺诈模型有上百个,风控策略超过8500个,能够主动拦截超过93%的欺诈行为。
目前,网络诈骗的发展呈现场景复杂、链条长、跨平台等多种特点,这也是抖音目前遭遇的网络诈骗行为特征。对此,抖音从事前事中事后三部分,在不同场景中,多维度治理网络诈骗。
要在网络诈骗过程中保护用户权益不受损,“提前发现、事先拦截”是最有效的方式之一。抖音安全中心基于该原则,通过自研反欺诈模型、风控策略,对帐号、产品页进行治理。一方面,提升网络诈骗团伙的帐号使用成本,降低网络诈骗行为的触达面。另一方面,拦截网络诈骗团伙在不同场景中生产的诈骗内容,提前阻断网络诈骗团伙对用户的触达途径。
在事中阻断工作中,抖音安全中心建立了日常巡检制度,通过搜索、推荐、热点榜单等内容消费场景,模拟用户真实使用习惯,从用户可触及的内容侧入手,主动发现、处置风险内容。此外,抖音也在日常运营中,基于搜索、私信等多场景上线警示提醒,实时阻断用户与内容、用户与网络诈骗分子的接触。
例如,针对刷单诈骗、贷款诈骗等多类诈骗行为,在用户搜索相关关键词时,抖音上线搜索防诈温馨提示。报告显示,2021年1月至6月,抖音搜索防诈温馨提示展现量超过1177万次,其中,针对常见刷单诈骗的温馨提示展示量超过126万次。
跨平台是当前网络诈骗的主要特征之一,而不同网络平台之间数据信息无法直接打通,使得单平台治理打击只会面临长期持续对抗局面,要想彻底打击网络诈骗,跨平台、跨机构的联动打击至关重要。对此,抖音安全中心积极探索联动多方治理打击解决方案。
报告显示,过去几年,抖音安全中心与国家反诈中心建立信息共享机制,及时同步涉抖音类诈骗案件信息,联合各地警方、反诈中心进行落地打击。2021年1月至6月,抖音安全中心联动多地公安机关,落地打击网络诈骗团伙57个,抓获嫌疑人273人。
此外,针对短期较为突出的重点网络诈骗行为,抖音安全中心建立了专项治理制度,对高发网络诈骗行为进行研究,补齐风险内容识别能力,增强打击力度。报告显示,针对高发频发的致富类网络诈骗,2021年1月至6月,抖音安全中心专项打击治理中封禁违规帐号超过34万个。
网络诈骗属于可防性犯罪,需要防患于未然。在平台进行拦截阻断、联动打击之外,用户防骗意识提升非常重要。
报告显示,抖音安全中心也联合国家反诈中心等机构,从“思想防护”角度入手开展网络诈骗防范宣传工作,提升广大用户的防骗意识与能力,压缩网络诈骗的生存空间。
例如,在国家反诈中心指导下,2021年5月,抖音开展主题为“反诈者集合”的反诈公益宣传活动,来自全国多个省市公安机关、反诈机构、反诈大V在抖音上拍摄、制作反诈教育视频。目前,“反诈者集合”话题下视频播放量已经超过28.3亿。
除了反诈主题活动,抖音已经成为反诈防诈宣传教育的新阵地。国家反诈中心及全国多个省市公安机关、反诈机构,也在抖音上针对网络诈骗等犯罪行为,持续推出反诈宣传教育直播、短视频内容,获得了广大网民的认可。
报告显示,2021年2月入驻抖音的国家反诈中心目前在抖音上拥有超过327万粉丝。其他反诈机构,如温州反诈中心、熊猫反诈等,也都拥有几十上百万的粉丝。