技术标签: 算法 java 开源分享项目 后台 intellij-idea dfa算法 springboot 开发语言
package com.datago.common.utils.sensitive;
import java.util.*;
/**
* @ProjectName innovate 初始化敏感词库,将敏感词加入到HashMap中,构建DFA算法模型
* @Package com.datago.common.utils.sensitive
* @Name SensitiveWordInit
* @Author HB
* @Date 2022/1/25 18:12
* @Version 1.0
*/
public class SensitiveWordInit {
@SuppressWarnings("rawtypes")
public static HashMap sensitiveWordMap;
public SensitiveWordInit() {
super();
}
/**
* 初始化词库
*
* @param datas 敏感词集合
* @return
*/
public static HashMap init(String datas) {
addSensitiveWord(datas);
return sensitiveWordMap;
}
private static void addSensitiveWord(String word) {
sensitiveWordMap = new HashMap(word.length());
Map<String, Object> now = null;
Map now2 = null;
now2 = sensitiveWordMap;
for (int i = 0; i < word.length(); i++) {
char key_word = word.charAt(i);
Object obj = now2.get(key_word);
if (obj != null) {
//存在
now2 = (Map) obj;
} else {
//不存在
now = new HashMap<>();
now.put("isEnd", "0");
now2.put(key_word, now);
now2 = now;
}
if (i == word.length() - 1) {
now2.put("isEnd", "1");
}
}
}
/**
* 获取内容中的敏感词
*
* @param text 内容
* @param matchType 匹配规则 1=不最佳匹配,2=最佳匹配
* @return
*/
public static List<String> getSensitiveWord(String text, int matchType) {
List<String> words = new ArrayList<String>();
Map now = sensitiveWordMap;
int count = 0; //初始化敏感词长度
int start = 0; //标志敏感词开始的下标
for (int i = 0; i < text.length(); i++) {
char key = text.charAt(i);
now = (Map) now.get(key);
if (now != null) {
//存在
count++;
if (count == 1) {
start = i;
}
if ("1".equals(now.get("isEnd"))) {
//敏感词结束
now = sensitiveWordMap; //重新获取敏感词库
words.add(text.substring(start, start + count)); //取出敏感词,添加到集合
count = 0; //初始化敏感词长度
}
} else {
//不存在
now = sensitiveWordMap;//重新获取敏感词库
if (count == 1 && matchType == 1) {
//不最佳匹配
count = 0;
} else if (count == 1 && matchType == 2) {
//最佳匹配
words.add(text.substring(start, start + count));
count = 0;
}
}
}
return words;
}
}
package com.datago.common.utils.sensitive;
import com.datago.common.core.redis.RedisCache;
import com.datago.common.utils.StringUtils;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.stereotype.Component;
import java.util.*;
/**
* @ProjectName innovate 敏感词过滤
* @Package com.datago.common.utils.sensitive
* @Name SensitivewordFilter
* @Author HB
* @Date 2022/1/25 18:14
* @Version 1.0
*/
@Component
public class SensitivewordFilter {
private static RedisCache redisCache;
@Autowired
public void setRedisCache(RedisCache redisCache) {
SensitivewordFilter.redisCache = redisCache;
}
@SuppressWarnings("rawtypes")
private static Map sensitiveWordMap = null;
public static void initSensitiveWord(String datas) {
sensitiveWordMap = SensitiveWordInit.init(datas);
}
/**
* 替换敏感字字符
*
* @param txt
* @param matchType
* @param replaceChar 替换字符,默认*
* @author HB
* @version 1.0
*/
public static String replaceSensitiveWord(String datas, String txt, int matchType, String replaceChar) {
if (sensitiveWordMap == null) {
initSensitiveWord(datas);
}
String resultTxt = txt;
//matchType = 1; //最小匹配规则
//matchType= 2; //最大匹配规则
List<String> set = SensitiveWordInit.getSensitiveWord(txt, matchType); //获取所有的敏感词
Iterator<String> iterator = set.iterator();
String word = null;
String replaceString = null;
while (iterator.hasNext()) {
word = iterator.next();
replaceString = getReplaceChars(replaceChar, word.length());
resultTxt = resultTxt.replaceAll(word, replaceString);
}
return resultTxt;
}
/**
* 获取替换字符串
*
* @param replaceChar
* @param length
* @return
* @author HB
* @version 1.0
*/
private static String getReplaceChars(String replaceChar, int length) {
String resultReplace = replaceChar;
if (length > 6) {
length = 6;
}
for (int i = 1; i < length; i++) {
resultReplace += replaceChar;
}
return resultReplace;
}
/**
* 过滤敏感词汇
*
* @param sensitiveTxt 输入数据
* @return com.datago.common.core.domain.AjaxResult
* @Author HB
* @Date 2022/1/27 10:03
**/
public static String filterSensitive(String sensitiveTxt) {
//从缓存中提取数据敏感词汇
Map<String, String> datas = redisCache.getCacheObject("treeSensitive");
//替换敏感词汇
String updateTxt = null;
for (Map.Entry<String, String> entry : datas.entrySet()) {
SensitivewordFilter.initSensitiveWord(entry.getKey());
if (StringUtils.isNotEmpty(updateTxt)) {
updateTxt = replaceSensitiveWord(entry.getKey(), updateTxt, 1, entry.getValue());
} else {
updateTxt = replaceSensitiveWord(entry.getKey(), sensitiveTxt, 1, entry.getValue());
}
}
return updateTxt;
}
}
/**
* 过滤datago_sensitive敏感词汇
* sensitiveTxt 传参
*/
@Log(title = "过滤敏感词汇")
@GetMapping("/filterSensitive/{sensitiveTxt}")
public AjaxResult filterSensitive(@PathVariable(value = "sensitiveTxt") String sensitiveTxt) {
String s = SensitivewordFilter.filterSensitive(sensitiveTxt);
return AjaxResult.success(s);
}
https://www.hutool.cn/docs/#/dfa/DFA%E6%9F%A5%E6%89%BE
文章浏览阅读4.4k次,点赞2次,收藏16次。写这篇文章的由来是因为后边要用这个工具,但是由于某些原因有部分小伙伴和童鞋们可能不会安装此工具,为了方便小伙伴们和童鞋们的后续学习和不打击他们的积极性,因为80%的人都是死在工具的安装这第一道门槛上,这门槛说高也不高说低也不是太低。所以就抽时间水了这一篇文章。_eclipse安装教程
文章浏览阅读4.1w次,点赞12次,收藏193次。小编为大家收集了11个web前端开发,大企业实战项目案例+5W行源码!拿走玩去吧!1)小米官网项目描述:首先选择小米官网为第一个实战案例,是因为刚开始入门,有个参考点,另外站点比较偏向目前的卡片式设计,实现常见效果。目的为学者练习编写小米官网,熟悉div+css布局。学习资料的话可以加下web前端开发学习裙:600加上610再加上151自己去群里下载下。项目技术:HTML+CSS+Div布局2)迅雷官网项目描述:此站点特效较多,所以通过练习编写次站点,学生可以更多练习CSS3的新特性过渡与动画的实_前端项目实战案例
文章浏览阅读73次。素数,不同的质数,各种各样的问题总是遇到的素数。以下我们来说一下求素数的一种比較有效的算法。就是筛法。由于这个要求得1-n区间的素数仅仅须要O(nloglogn)的时间复杂度。以下来说一下它的思路。思路:如今又1-n的数字。素数嘛就是除了1和本身之外没有其它的约数。所以有约数的都不是素数。我们从2開始往后遍历,是2的倍数的都不是素数。所以我们把他们划掉然后如...
文章浏览阅读532次,点赞9次,收藏14次。探索Keras DCGAN:深度学习中的创新图像生成项目地址:https://gitcode.com/jacobgil/keras-dcgan在数据驱动的时代,图像生成模型已经成为人工智能的一个重要领域。其中,Keras DCGAN 是一个基于 Keras 的实现,用于构建和训练 Deep Convolutional Generative Adversarial Networks(深度卷积生...
文章浏览阅读116次。今天在搭建springcloud项目时,发现如上错误,顺便整理一下这个异常:1. mapper.xml的命名空间(namespace)是否跟mapper的接口路径一致<mapper namespace="com.baicun.springcloudprovider.mapper.SysUserMapper">2.mapper.xml接口名是否和mapper.java接..._spring-could org.apache.ibatis.binding.bindingexception: invalid bound state
文章浏览阅读1.1k次。四种高效数据库设计思想——提高查询效率:设计数据库表结构时,我们首先要按照数据库的三大范式进行建立数据。1. 1NF每列不可拆分2. 2NF确保每个表只做一件事情3. 3NF满足2NF,消除表中的依赖传递。三大范式的出现是在上世纪70年代,由于内存资源比较昂贵,所以严格按照三大范式进行数据库设计。而如今内存变得越来越廉价,在考虑效率和内存的基础上我们可以做出最优选择以达到最高效率。_数据库为什么能提高效率
文章浏览阅读302次。一. HTML标签分类1.根据标签个数分类。 单标签:只有一个标签。 <br>, <hr>,<img>,<meta>, 实现一个特定的功能。 双标签:既有开始标签,也有结束标签。 Html,head,Body,title,h1~h6,p,a,ul,li,ol,strong,em。2.根据标签特性分类(网页效果)。 2.1行属性..._ol是单标记还是双标记
文章浏览阅读1.6k次。应用程序在启动和运行的时候往往需要读取一些配置信息,配置基本上伴随着应用程序的整个生命周期,比如:数 据库连接参数、启动参数等。配置主要有以下几个特点:配置是独立于程序的只读变量配置对于程序是只读的,程序通过读取配置来改变自己的行为,但是程序不应该去改变配置配置伴随应用的整个生命周期配置贯穿于应用的整个生命周期,应用在启动时通过读取配置来初始化,在运行时根据配置调整行为。比如:启动时需要读取服务的端口号、系统在运行过程中需要读取定时策略执行定时任务等。配置可以有多种加载方式常见的有程序内部_基于配置是什么意思
文章浏览阅读170次。Glib库实现了一个非常重要的基础类--GObject,这个类中封装了许多我们在定义和实现类时经常用到的机制: 引用计数式的内存管理 对象的构造与析构 通用的属性(Property)机制 Signal的简单使用方式 很多使用GObject..._
文章浏览阅读6.3k次,点赞2次,收藏9次。在 golang 中若写定时脚本,有两种实现。一、基于原生语法组装func DocSyncTaskCronJob() { ticker := time.NewTicker(time.Minute * 5) // 每分钟执行一次 for range ticker.C { ProcTask() }}func ProcTask() { log.Println("hello world")}二、基于 github 中封装的 cron 库实现package taskimport (_golang 定时任务
文章浏览阅读2.1k次。 来源:http://blog.csdn.net/clever101/archive/2008/10/18/3096049.aspx 声明:本文章是我整合网上的资料而成的,其中的大部分文字不是我所为的,我所起的作用只是归纳整理并添加我的一些看法。非常感谢引用到的文字的作者的辛勤劳动,所参考的文献在文章最后我已一一列出。 对关注性能的程序开发人员而言,一个好的计时部件既是益友,也_vc 通过线程和 sleep 获取精准时间
文章浏览阅读58次。公司突然说要进行wap开发了,以前从没了解过,但我却异常的兴奋,因为可以学习新东西了,呵呵,我们大家一起努力吧。首先说说环境的搭建。可以把.wml的文件看做是另一种的html进行信息的展示,但并不是所有的浏览器都支持,好用的有Opera,还有WinWap。编写wml文件语法比较严格,不好的是我还没有找到好的提示工具,就先用纯文本吧。我找到了一个很好的学习网站:http://w3sc..._winwap学习