1.基于云计算的移动终端不良信息过滤方法,其特征在于,包括如下步骤:
S1、客户端根据自定义过滤规则和网站在线检测过滤待检测的网页,再将本地的过滤规则和待检测的网页发送至云端;
S2、待检测的网页按照预先设定的URL过滤和关键字过滤进行初步过滤;
S3、对初步过滤后的网页进行预处理,并输入至云计算的分类器;
S4、分类器通过并行架构计算出待检测的网页上信息之间的关联关系,并对信息进行初步分类,再根据预设好的阈值判断是否为不良网站;
S5、经过初步分类的信息通过决策树算法进行二次分类,识别待检测的网页的类型;
所述步骤S4中初步分类包括网页信息分析阶段和网页信息分类阶段;网页信息分析阶段的具体步骤为:从分布式文件系统中读取训练集,并存放到分布式数据集中;根据预先定义好的参数将训练集均匀分割为若干个小训练集,采用分布式操作计算分割后的小训练集与待测样本之间的距离,获取若干个邻近的候选样本,根据每个小训练集与候选样本之间的距离,获取每个小训练集最邻近的候选样本;
网页信息分类阶段的具体步骤为:汇总网页信息分析阶段获取的每个小训练集最相邻的候选样本,以加权的方式将所有最邻近的候选样本中加权值最高的一类作为训练集的最终分类。
2.根据权利要求1所述的基于云计算的移动终端不良信息过滤方法,其特征在于,所述自定义过滤规则是手动设置黑白名单或所需屏蔽的关键字,网站在线检测是通过识别待检测的网站的URL和文本内容进行过滤。
3.根据权利要求1所述的基于云计算的移动终端不良信息过滤方法,其特征在于,所述客户端通过网络内容检测请求控制模块向云端发起请求,将本地的自定义过滤规则传输到云端更新,再向云端传输待检测的网页信息。
4.根据权利要求1所述的基于云计算的移动终端不良信息过滤方法,其特征在于,所述URL过滤为在云端设置已知不良网站的黑名单和已认证网站的白名单,在黑名单和白名单中查找是否包含待检测的网页网站,所述关键字过滤为将待检测的网页中的文本内容与预先设置的关键字实时对比,当匹配数量达到设定阈值后进行过滤。
5.根据权利要求1所述的基于云计算的移动终端不良信息过滤方法,其特征在于,所述步骤S3中对初步过滤后的网页进行预处理包括文本预处理和图像预处理,所述文本预处理为使用Libpcap函数包抓取网页的文本内容,去除HTML标签及CSS样式,再采用统计模型中文分词,过滤分词出的无帮助词汇;所述图像预处理为对待测图形去噪、分割以及边缘分割,再通过YCbCr色彩模型对分割后的图形进行二值化,提取肤色像素,获取肤色像素的比例以及图片的纹理特征,并通过人脸识别估算人脸的轮廓面积。
6.根据权利要求1所述的基于云计算的移动终端不良信息过滤方法,其特征在于,所述步骤S4中分类器为并行KNN分类过滤器,所述初步分类包括网页信息分析阶段和网页信息分类阶段。
7.根据权利要求6所述的基于云计算的移动终端不良信息过滤方法,其特征在于,所述网页信息分析阶段的具体步骤为:从分布式文件系统中读取训练集,并存放到分布式数据集中;
根据预先定义好的参数将训练集均匀分割为若干个小训练集,并存储到内存中;采用分布式操作计算分割后的小训练集与待测样本之间的距离,获取若干个邻近的候选样本;
根据每个小训练集与候选样本之间的距离,获取每个小训练集最邻近的候选样本。
8.根据权利要求6所述的基于云计算的移动终端不良信息过滤方法,其特征在于,所述网页信息分类阶段的具体步骤为:汇总网页信息分析阶段获取的每个小训练集最邻近的候选样本;以加权的方式将所有最邻近的候选样本中加权值最高的一类作为训练集的最终分类。9.根据权利要求1所述的基于云计算的移动终端不良信息过滤方法,其特征在于,所述步骤S5的具体步骤为:将初步分类的信息作为输出条件从分布式数据集中读取;将信息以键值对的方式存储,并通过cart算法决策树判断网站类型。
10.基于云计算的移动终端不良信息过滤系统,其特征在于,包括客户端和云端;所述客户端内设置有用户自定义规则模块,用于手动设置黑白名单或所需屏蔽的关键字,和网络在线检测模块,用于通过识别待检测的网站的URL和文本内容进行过滤;所述客户端通过网络内容检测请求控制模块向云端发送本地的过滤规则和待检测的网页;
所述云端包括初步过滤模块,用于按照预先设定的URL过滤和关键字过滤进行初步过滤;
初步分类判断模块,用于通过并行架构计算出待检测的网页上信息之间的关联关系,并对信息进行初步分类,再根据预设好的阈值判断是否为不良网站;
和二次分类识别模块,用于将经过初步分类的信息通过决策树算法进行二次分类,识别待检测的网页类型;
初步分类判断模块中,初步分类包括网页信息分析阶段和网页信息分类阶段;网页信息分析阶段的具体步骤为:从分布式文件系统中读取训练集,并存放到分布式数据集中;根据预先定义好的参数将训练集均匀分割为若干个小训练集,采用分布式操作计算分割后的小训练集与待测样本之间的距离,获取若干个邻近的候选样本,根据每个小训练集与候选样本之间的距离,获取每个小训练集最邻近的候选样本;
网页信息分类阶段的具体步骤为:汇总网页信息分析阶段获取的每个小训练集最相邻的候选样本,以加权的方式将所有最邻近的候选样本中加权值最高的一类作为训练集的最终分类。