123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157158159160161162163164165166167168169 |
- package com.fdkankan.sensitive;
- import java.util.HashSet;
- import java.util.Iterator;
- import java.util.Map;
- import java.util.Set;
- /**
- * @Description: 敏感词过滤
- * @Project:test
- * @Author : chenming
- * @Date : 2014年4月20日 下午4:17:15
- * @version 1.0
- */
- public class SensitiveWord {
- @SuppressWarnings("rawtypes")
- public Map sensitiveWordMap = null;
- public static int minMatchTYpe = 1; //最小匹配规则
- public static int maxMatchType = 2; //最大匹配规则
- /**
- * 构造函数,初始化敏感词库
- */
- public SensitiveWord(){
- if (sensitiveWordMap == null){
- sensitiveWordMap = new SensitiveWordConfig().initKeyWord("/static/txt/"+ ConstantFileName.BBS_SENSITIVE);
- }
- }
-
- /**
- * 判断文字是否包含敏感字符
- * @author chenming
- * @date 2014年4月20日 下午4:28:30
- * @param txt 文字
- * @param matchType 匹配规则 1:最小匹配规则,2:最大匹配规则
- * @return 若包含返回true,否则返回false
- * @version 1.0
- */
- public boolean isContaintSensitiveWord(String txt,int matchType){
- boolean flag = false;
- for(int i = 0 ; i < txt.length() ; i++){
- int matchFlag = this.CheckSensitiveWord(txt, i, matchType); //判断是否包含敏感字符
- if(matchFlag > 0){ //大于0存在,返回true
- flag = true;
- }
- }
- return flag;
- }
-
- /**
- * 获取文字中的敏感词
- * @author chenming
- * @date 2014年4月20日 下午5:10:52
- * @param txt 文字
- * @param matchType 匹配规则 1:最小匹配规则,2:最大匹配规则
- * @return
- * @version 1.0
- */
- public Set<String> getSensitiveWord(String txt , int matchType){
- Set<String> sensitiveWordList = new HashSet<String>();
-
- for(int i = 0 ; i < txt.length() ; i++){
- int length = CheckSensitiveWord(txt, i, matchType); //判断是否包含敏感字符
- if(length > 0){ //存在,加入list中
- sensitiveWordList.add(txt.substring(i, i+length));
- i = i + length - 1; //减1的原因,是因为for会自增
- }
- }
-
- return sensitiveWordList;
- }
-
- /**
- * 替换敏感字字符
- * @author chenming
- * @date 2014年4月20日 下午5:12:07
- * @param txt
- * @param matchType
- * @param replaceChar 替换字符,默认*
- * @version 1.0
- */
- public String replaceSensitiveWord(String txt,int matchType,String replaceChar){
- String resultTxt = txt;
- Set<String> set = getSensitiveWord(txt, matchType); //获取所有的敏感词
- Iterator<String> iterator = set.iterator();
- String word = null;
- String replaceString = null;
- while (iterator.hasNext()) {
- word = iterator.next();
- replaceString = getReplaceChars(replaceChar, word.length());
- resultTxt = resultTxt.replaceAll(word, replaceString);
- }
-
- return resultTxt;
- }
-
- /**
- * 获取替换字符串
- * @author chenming
- * @date 2014年4月20日 下午5:21:19
- * @param replaceChar
- * @param length
- * @return
- * @version 1.0
- */
- private String getReplaceChars(String replaceChar,int length){
- String resultReplace = replaceChar;
- for(int i = 1 ; i < length ; i++){
- resultReplace += replaceChar;
- }
-
- return resultReplace;
- }
-
- /**
- * 检查文字中是否包含敏感字符,检查规则如下:<br>
- * @author chenming
- * @date 2014年4月20日 下午4:31:03
- * @param txt
- * @param beginIndex
- * @param matchType
- * @return,如果存在,则返回敏感词字符的长度,不存在返回0
- * @version 1.0
- */
- @SuppressWarnings({ "rawtypes"})
- public int CheckSensitiveWord(String txt,int beginIndex,int matchType){
- boolean flag = false; //敏感词结束标识位:用于敏感词只有1位的情况
- int matchFlag = 0; //匹配标识数默认为0
- char word = 0;
- Map nowMap = sensitiveWordMap;
- for(int i = beginIndex; i < txt.length() ; i++){
- word = txt.charAt(i);
- nowMap = (Map) nowMap.get(word); //获取指定key
- if(nowMap != null){ //存在,则判断是否为最后一个
- matchFlag++; //找到相应key,匹配标识+1
- if("1".equals(nowMap.get("isEnd"))){ //如果为最后一个匹配规则,结束循环,返回匹配标识数
- flag = true; //结束标志位为true
- if(SensitiveWord.minMatchTYpe == matchType){ //最小规则,直接返回,最大规则还需继续查找
- break;
- }
- }
- }
- else{ //不存在,直接返回
- break;
- }
- }
- if(matchFlag < 2 || !flag){ //长度必须大于等于1,为词
- matchFlag = 0;
- }
- return matchFlag;
- }
-
- public static void main(String[] args) {
- SensitiveWord filter = new SensitiveWord();
- System.out.println("敏感词的数量:" + filter.sensitiveWordMap.size());
- String string = "太多的伤感情怀也许只局限于饲养基地 荧幕中的情节,主人公尝试着去用某种方式渐渐的很潇洒地释自杀指南怀那些自己经历的伤感。"
- + "然后法轮功 我们的扮演的角色就是跟随着主人公的喜红客联盟 怒哀乐而过于牵强的把自己的情感也附加于银幕情节中,然后感动就流泪,"
- + "难过就躺在某一个人的怀里尽情的阐述心扉或者手机卡复制器一个人一杯红酒一部电影在夜三级片 深人静的晚上,关上电话静静的发呆着。"+"江泽民";
- System.out.println("待检测语句字数:" + string.length());
- long beginTime = System.currentTimeMillis();
- Set<String> set = filter.getSensitiveWord(string, 1);
- long endTime = System.currentTimeMillis();
- System.out.println("语句中包含敏感词的个数为:" + set.size() + "。包含:" + set);
- System.out.println("总共消耗时间为:" + (endTime - beginTime));
- }
- }
|