2020年 11-12 月,为了净化平台环境,保护用户利益,抖音安全中心展开了为期两个月的“啄木鸟专项行动”。本次行动中,抖音安全中心通过自主研发的智能反欺诈系统,结合最新的模型策略,拦截涉嫌诈骗涉嫌诈骗违规行为882397次,封禁涉嫌诈骗帐号184964个,其中涉嫌“杀猪盘诈骗”帐号112726个、涉嫌“购物诈骗”帐号24088个、涉嫌“宠粉诈骗”帐号20763个、涉嫌“刷单诈骗”帐号20031个,其他类别诈骗相关帐号7356个。
“杀猪盘诈骗”是过去两年曝光较多的诈骗类型之一,主要是指通过婚恋平台、社交软件等方式寻找潜在受害者,通过聊天发展感情取得信任,然后将受害者引入博彩、理财等诈骗平台,诱导充值、骗取受害者钱财。
针对“杀猪盘诈骗”,抖音安全中心向用户发布安全提示:“遇到私聊要求加微信的情况,请谨慎添加好友,更不要转账汇款。一定要谨记:私聊加微信的不是爱情,是‘杀猪盘’诈骗。”
同时,抖音安全中心风控团队还设立专项,针对网上高发的“杀猪盘”类诈骗行为,研发新型策略模型,基于异常帐号行为风险识别、内容风险识别以及作弊行为聚集关联性风险识别,从头像、签名、内容、互动等多维度挖掘风险帐号,并结合专家审核团队进行人工判断进行作弊拦截与帐号处罚。
“购物诈骗”是诈骗团伙通过假冒商家、假冒客服、假冒物流快递等身份,以“物流问题、退款退货问题、货品质量问题”等诈骗套路诈骗用户。“宠粉诈骗”、“刷单诈骗”也是近些年比较常见的网络诈骗方式。
互联网技术的快速发展给普通用户带来便利,也给诈骗技术升级提供了灰色空间。近两年,诈骗团伙正在呈现智能化、产业化、链条化和跨平台化的趋势,由于黑灰产产业对新兴技术和工具的利用,诈骗团伙也形成了“恶意注册-引流-诈骗-洗钱”等各环节精细分工的完整链条,这也加大了平台与诈骗团伙的对抗难度。
根据信通院发布的《新形势下电信网络诈骗治理研究报告(2020 年)》,2020年 1-10 月,信息通信行业累计处置涉诈网络资源 15.3 亿件次,其中诈骗呼叫 2.3 亿次、短信 13 亿条、互联网帐号 103 万个、域名 2.5 万个,受理电信网络诈骗用户举报 15.2万件次。
为了打击平台上的潜在诈骗行为,抖音安全中心以“提前发现、事先拦截”为原则,持续提升技术能力,研发推出新型反欺诈系统,升级反欺诈策略模型,形成持续迭代的反欺诈解决方案,能够在帐号注册、登陆、发布评论内容等阶段判断帐号是否是黑灰产诈骗帐号、是否有黑灰产诈骗类似行为,并执行对应的处理措施。
抖音安全中心风控团队黄海透露:“抖音安全中心风控团队已经将数据安全、人工智能等技术应用到反诈骗工作中,目前抖音平台上每天在运行的反欺诈模型有上百个,风控策略超过8000个,能够主动拦截超过92%的欺诈行为,对于难以判断的行为、帐号,会同步到抖音安全中心的运营团队进行复审处理。”
除此之外,抖音安全中心还通过用户投诉举报、审核巡查等方式挖掘诈骗帐号,并进行处罚。同时,抖音安全中心持续通过线上用户安全教育,以站内信、短视频等方式向用户普及防骗反诈的知识攻略。截至 2020 年11月,抖音安全中心官方抖音帐号已产出75期防诈反诈教育视频,累计视频播放量7.1亿次。
“一直以来,抖音持续通过技术手段、产品手段、运营手段治理平台上的各类违法违规行为。我们团队也在关注研究黑灰产、诈骗行业,不断提升与他们的对抗、打击技术能力,”黄海表示,“啄木鸟专项行动是我们保护用户的战场,也是我们与不法分子对抗的练兵场,在专项行动中沉淀下来的技术、方法,会长期保障抖音每一位用户的权益。”