以科技为驱动力,让世界更安全、更美好
360成立于2005年,是中国领先的互联网与安全服务提供商。推出360安全卫士、360手机卫士、360安全浏览器等安全产品。
随着全社会、全行业数字化的深入,“大安全”时代正在加速到来。 360以“让世界更安全、更美好”为使命,致力于实现“持续创造黑科技,做全方位守护者”的愿景,随之而来的业务发展更加全面,包括:政企服务、金融科技、直播、个人服务、智能穿戴等业务。
业务挑战
网盾业务
360网盾是一款免费的互联网防护软件,可以拦截木马、欺诈网站等,保护消费者免受病毒、假冒网站的欺骗。它的运行机制是对每个URL进行分析。经过URL检测系统判断后,可以准确识别该URL属于哪一类。通过将有问题的URL发布到云端,其他安全服务提供商可以通过订阅云服务来检查相关URL是否安全,从而为用户提供更安全的网页内容服务。
目前,整个网盾业务的核心场景可以分为以下四个部分:
网站威胁监控:每天存储1亿条数据,存储资源链接数据超过8亿条;关联分析场景:大型恶意网站、色情、赌博、毒品网站等关联分析;高速返回:897亿数据表,每个场景100+条查询需要5秒内返回;人工操作分析:大家每天不断查询统计分析。应对业务数据量爆发式增长,MySQL的读写成为瓶颈。例如,虽然可以通过划分数据库和表来分割磁盘空间,但这对于业务和DBA来说都是大量的工作;最痛苦的就是修改这些大表,这对于大表来说是非常困难的。对表执行DDL的成本非常高。总的来说,MySQL已经不能满足网盾的业务需求,这对360云平台负责底层数据平台支持的技术团队提出了新的选型要求。
360云平台负责为360集团各主要业务线提供服务支持。涉及的数据库支持方案包括:MySQL、Redis、MongoDB、ElasticSearch、Greenplum、PiKA。经过充分的市场调研,360云平台团队决定引入TiDB来满足这一业务需求。
整体架构如上。使用TiDB 的业务主要有两类:
原有MySQL业务迁移。由于单机磁盘的限制,单实例磁盘无法支撑数据量的爆发式增长。数据比较重要,需要备份并支持7*24小时恢复。此类业务可以通过DM套件实现无障碍迁移。 1TB的导入时间为16小时。如果是比较大的数据源,TiDB 是新集群,可以使用TiDB Lightning 进行数据导入,速度可以达到100G/小时。全新的业务。现在所有新的业务都会放入TiDB 中,而且这类业务的数据量一般都比较大。目前,网盾业务中多张表已突破10亿级别,其中一张表已达到100亿+。
智慧商业业务
广告主实时线下报表业务
广告主实时上报业务流程:业务数据进入Kafka。其中一个处理环节是通过Druid获取Kafka数据,提供实时分析。另一个环节是通过Flink聚合并写入MySQL分库和分表数据库,然后通过广告商Dimensions提供实时查询需求。
广告主线下报表业务流程:每天清晨,数据仓库将前一天的所有数据从MySQL分库分表中提取到Hive中,然后通过统计聚合后将结果数据写入MySQL结果表中。 Spark或业务程序,并提供离线报告。平台或控制台平台查询。
举报作为广告平台的核心业务,面临以下问题:
数据量大:数据总量数千亿,单表数据量120~1.5亿。低响应延迟:用户任意时段、任意关键词的查询都需要实时反馈。复杂查询:时间维度、地区、行业、关键词等,同时满足多样化展示。架构复杂:基于MySQL的分库分表无法进行全局统计,只能根据广告主UID生成详细的报表。全局统计需要引入Druid来辅助处理;离线报表需要Hive数据仓库提取全量数据才能实现。数据库选择:MySQL 还是TiDB?
在部署TiDB 之前,360 曾尝试过MySQL 单实例来满足业务需求。经过测试发现MySQL单实例压力较大。为了分散写入压力,不得不走MySQL分库分表的老路,而且数据量很大。子库、表的拆分规则经常需要改变。每次规则变更都可能涉及数据的搬迁,业务端也需要投入大量人力维护路由规则并满足广告主的报表需求。引入其他数据库,每天早上离线ETL提取MySQL,导致网卡满载,也会影响凌晨的其他业务操作。
部署TiDB 后,TiDB 良好的扩展性彻底解决了分库分表的问题。同时,经过性能压力测试,2小时内存储了1.5亿条数据(TPS:2W/s)。整个系统负载完全满足业务需求。通过搭配TiFlash(TiDB的实时分析引擎插件),我们可以对合并后的单表进行全局、详细的各个维度的实时分析,并实现离线报表的在线统计,无需T+1比如离线数据仓库的时效性和同步流程,同时也在财务层面提供强一致性保障。
广告物料数据业务
对于广告主来说,在搜索推广中,基于安全、准确、值得信赖的新一代搜索引擎360搜索,通过关键词技术匹配,定位目标网民,精准展示企业推广信息。物质创意的作用是帮助广告主吸引潜在客户,进而产生转化行为,如注册、网上提交订单、电话咨询、上门拜访等。
目前,360广告的素材平台将承载客户制作的图片、文字、视频等信息,支持推广账号、推广计划、推广群体、关键词、推广创意理念、先进风格。添加、编辑、删除等操作。
在使用TiDB 之前,豆安京底层素材数据采用的是16 套分库*4 的MySQL 架构。每套分库MySQL单表已达10亿条,单表数据大小370G。对于单库QPS超过10000的SQL请求,MySQL表已经达到性能瓶颈,高峰期抖动频繁,新业务希望给大表添加字段。由于硬盘空间不足,新业务无法上线。如果继续使用MySQL,则需要将当前的16组分库拆分为64组分库(大约需要数百台新服务器)。除了增加新服务器之外,迁移和运维成本也非常高。
通过技术选型研究,360商业业务线技术团队最终决定使用TiDB作为素材平台的底层数据库。目前支持素材平台的TiDB 集群有63 个节点,每日SQL 请求超过70 亿条。刚刚过去的双十一,QPS高达25W/s。工作日SQL请求99%在15ms以内,响应速度、稳定性、扩展性均达到预期。
部署TiDB 的好处如下:
标签:
用户评论
性能提升10倍,360这招太给力了!双十一这么大的流量都能顶住,太安心了。
有17位网友表示赞同!
360这次双十一的表现真的很出色,性能提升10倍,终于不用卡顿了。
有8位网友表示赞同!
360顶住双十一流量,说明他们的技术实力真的很强,点赞!
有13位网友表示赞同!
360这次双十一的表现让我对他们的技术更有信心了,性能提升10倍,真厉害。
有7位网友表示赞同!
360能轻松顶住双十一流量,看来他们的服务器升级得很到位啊!
有14位网友表示赞同!
看了360这次双十一的表现,我打算试试他们的产品,性能提升10倍,值得信赖。
有7位网友表示赞同!
360这次双十一的表现让我刮目相看,性能提升10倍,确实不简单。
有5位网友表示赞同!
双十一这么忙,360还能保持这么高的性能,360真的太给力了!
有7位网友表示赞同!
360这次的性能提升确实明显,顶住双十一流量不是问题,期待更多产品升级。
有9位网友表示赞同!
360能轻松应对双十一流量,说明他们的团队真的很优秀,必须点个赞。
有8位网友表示赞同!
360这次双十一的稳定性能让我对他们的产品更有信心了,性能提升10倍,效果明显。
有14位网友表示赞同!
360在双十一期间的稳定表现让我感到惊喜,性能提升10倍,真是物有所值。
有18位网友表示赞同!
360这次双十一的表现确实值得称赞,性能提升10倍,终于可以放心购物了。
有11位网友表示赞同!
360在双十一期间的稳定性让我对他们的产品更有信心,性能提升10倍,赞一个!
有17位网友表示赞同!
360这次双十一的性能提升太明显了,顶住流量没问题,期待更多优化。
有10位网友表示赞同!
360能轻松应对双十一流量,说明他们的技术实力真的很强,性能提升10倍,赞!
有10位网友表示赞同!
360这次双十一的表现让我感到很满意,性能提升10倍,购物体验大大提升。
有8位网友表示赞同!
360在双十一期间的稳定性能让我感到安心,性能提升10倍,真的很厉害。
有16位网友表示赞同!
360这次双十一的性能提升让我对他们的产品更加信任,顶住流量没问题,好评!
有6位网友表示赞同!