欢迎来到知嘟嘟! 联系电话:13095918853 卖家免费入驻,海量在线求购! 卖家免费入驻,海量在线求购!
知嘟嘟
我要发布
联系电话:13095918853
知嘟嘟经纪人
收藏
专利号: 2018104981724
申请人: 武汉斗鱼网络科技有限公司
专利类型:发明专利
专利状态:已下证
专利领域: 计算;推算;计数
更新日期:2024-03-26
缴费截止日期: 暂无
价格&联系人
年费信息
委托购买

摘要:

权利要求书:

1.一种数据计数去重方法,其特征在于,包括:接收到客户端去重调用请求后,利用dubbo组件进行负载均衡,以分配服务器进行去重处理;解析所述请求,根据所述请求中预设的去重级别参数,在所述服务器上创建对应数量的redis数据存储bitmap;获取所述请求中的去重内容参数和所述去重级别参数,通过Bloom  Filter算法计算得到去重结果,当所述去重级别大于1级且去重结果返回值为0时,重新计算一组hash函数,再次通过Bloom  Filter算法去重,其中,通过Bloom  Filter算法去重次数与所述去重级别相等;所述当所述去重级别大于1级且去重结果返回值为0时,重新计算一组hash函数,再次通过Bloom  Filter算法去重,其中,通过BloomFilter算法去重次数与所述去重级别相等具体为:通过Bloom  Filter算法计算得到去重结果后,当所述去重级别大于1级且去重结果返回值为0时,重新计算一组hash函数得到hash值,在redis存储单元的bitmap中查询所述hash值,根据查询结果的返回值和已经去重的次数,判定是否进行再次去重,其中,所述已经去重次数即是通过Bloom  Filter算法去重次数;发送去重后的计数到所述客户端。2.根据权利要求1所述的方法,其特征在于,所述接收到客户端去重调用请求后还包括:通过spring  boot框架生成接口调用服务,并创建HTTP方式调用和RPC方式调用。3.根据权利要求1所述的方法,其特征在于,所述解析所述请求,根据所述请求中预设的去重级别参数,在所述服务器上创建对应数量的redis数据存储bitmap包括:根据所述请求中包含数据库名、分区数据及去重级别,在数据存储组件redis中查询并判断对应的数据库名和分区数据是否存在,当不存在时,在所述数据存储组件中创建bitmap数据,并设置为0。4.根据权利要求3所述的方法,其特征在于,所述在所述数据存储组中创建bitmap数据,并设置为0还包括:设置所述bitmap数据生存时间,当所述数据生存时间消耗完,自动销毁所述bitmap数据。5.一种数据计数去重系统,其特征在于,包括:服务调用模块:用于通过spring  boot框架生成接口调用服务;负载均衡模块:用于在接收到用户调用请求后,利用dubbo组件进行负载均衡,以分配服务器进行去重处理;去重计算模块:用于获取所述请求中的去重内容参数和去重级别参数,通过BloomFilter算法计算得到去重结果,当所述去重级别大于1级且去重结果返回值为0时,重新计算一组hash函数,再次通过Bloom  Filter算法去重,其中,通过Bloom  Filter算法去重次数与所述去重级别相等;所述当所述去重级别大于1级且去重结果返回值为0时,重新计算一组hash函数,再次通过Bloom  Filter算法去重,其中,通过BloomFilter算法去重次数与所述去重级别相等具

体为:通过Bloom  Filter算法计算得到去重结果后,当所述去重级别大于1级且去重结果返回值为0时,重新计算一组hash函数得到hash值,在redis存储单元的bitmap中查询所述hash值,根据查询结果的返回值和已经去重的次数,判定是否进行再次去重,其中,所述已经去重次数即是通过Bloom  Filter算法去重次数;数据存储模块:用于根据所述请求中预设的去重级别参数,在所述服务器上创建对应数量的redis数据存储bitmap。6.根据权利要求5所述的系统,其特征在于,所述服务调用模块包括:接口生成模块:用于通过spring  boot框架生成接口调用服务,并创建HTTP方式调用和RPC方式调用。7.根据权利要求5所述的系统,其特征在于,所述数据存储模块还包括:数据查询单元:用于根据所述请求中包含数据库名、分区数据及去重级别,在数据存储组件中查询并判断对应的数据库名和分区数据是否存在,当不存在时,在所述数据存储组件中创建bitmap数据,并设置为0。8.一种服务器,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至4中任一项所述数据计数去重方法的步骤。9.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至4中任一项所述数据计数去重方法的步骤。