一区二区久久-一区二区三区www-一区二区三区久久-一区二区三区久久精品-麻豆国产一区二区在线观看-麻豆国产视频

一個簡單的關鍵字過濾算法

早上看到老趙的《一個較完整的關鍵字過濾解決方案(上)》文章,講到怎樣在項目中嵌入過濾方案的問題,以及提到 xingdsumtec 兩位大師發表的系列互拼的文章,在此我也忍不住談談自己遇到的問題以及一個的簡化版的算法。

因為過濾關鍵字機制到處可見,于是聰明的網友就會想到各種各樣的方法突破,例如:

1、中文會用繁體字的方法避開關鍵字掃描
2、在關鍵字中間插入無意思的特殊字符,例如 * & # @ 等,而且個數可變
3、使用諧音或拆字法變換關鍵字

在實現自己的算法時也有些問題:

4、隨著時間推移,關鍵字列表會越來越大,有些論壇常用的正則表達式N次掃描的方法顯得效率很低。
5、關鍵字有不同的嚴重級別,有些需要禁止,有些只需要替換,還有一些可能記錄一下即可。


針對這些問題,可采用的應對方法:

1、加載關鍵字列表時,將所有的關鍵字轉換成繁體字一份,以掃描繁體版的關鍵字;
這個轉換工作只需一句就可以實現了:
s=Microsoft.VisualBasic.Strings.StrConv(word, Microsoft.VisualBasic.VbStrConv.TraditionalChinese, 0);

2、在掃描原文本時,如果遇到關鍵字的首個文字,忽略其后的特殊字符,直到下一個有意義的文字為止,當然這里需要在定義關鍵字列表時指定哪些才需要這樣掃描,并不是所有關鍵字都采用這種方式;
例如有關鍵字 “你好”經常會被人輸入成“你x好”或者“你xxxxx好”,那么在關鍵字列表里就需要定義成“你*好”,在匹配關鍵字時,如果遇到星號就忽略原文本下一個為特殊的字符。

3、遇到諧音和拆字時,沒什么好辦法了,只好將這些諧音詞和拆分詞也加入到關鍵字列表。

4、不用正則表達式或者 String.IndexOf方法,可以將所有關鍵字的首字相同的組成一個一個小組,然后在將首字放到一個散列表(HashTable/Dictionary),在掃描原文本時先在散列表里掃描,如果碰到了首字再掃描同組的關鍵字,這樣簡單處理一下效率可以提高很多。

還有一個比用散列表更好的方法,將散列表改成一個大小為char.MaxValue的數組,然后將首個文字轉成int,即char->int,然后將關鍵詞集合放到相應下標里。這樣在掃描原文本時,將被掃描的字符轉成int,然后試探數組相應下標的元素是否不為NULL。這樣比用散列表會更快一些。

5、在定義關鍵字時,同時給一個“級別”屬性,例如使用 E,R,B分別表示只記錄、替換、禁止等情況。
于是關鍵字的列表如下所示:
你滾 E
他niang的 R
成*人*網*站 B

這里貼一下關鍵的部分代碼:

Code

NET技術一個簡單的關鍵字過濾算法,轉載需保留來源!

鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播更多信息之目的,如作者信息標記有誤,請第一時間聯系我們修改或刪除,多謝。

主站蜘蛛池模板: 久久成人免费网站 | 久久久亚洲国产精品主播 | 九月婷婷亚洲综合在线 | 国产xx肥老妇视频奂费 | 亚洲激情综合在线 | 日本综合欧美一区二区三区 | 国产成人精品日本亚洲专利 | 米奇777四色精品人人爽 | 成人三级视频在线观看 | 一本色道久久综合亚洲精品加 | 午夜国产福利在线观看 | 国产精品亚洲欧美一级久久精品 | 国产精品日本不卡一区二区 | 久久综合久久鬼 | 成人免费福利视频 | 成人在线综合 | 女人与拘一级毛片 | 国产美女一级片 | 一区二区视频在线播放 | www色在线 | 国内精品视频在线播放一区 | 成人在线免费观看视频 | 久久国产网站 | 欧美黑人巨大日本人又爽又色 | 精品久久久久久久久久久 | 中文字幕久久久久久精 | 免费777my性欧美另类 | 久久国产高清波多野结衣 | 91美女在线播放 | 日本高清在线观看视频www | 国产精品国产自线拍手机观看 | 色www精品视频在线观看 | 国产大片免费观看中文字幕 | 日韩中文字幕久久久经典网 | 亚洲欧美日韩国产一区二区三区精品 | 国产精品视频大全 | 日韩免费视频播放 | 日韩在线一区高清在线 | 久久婷婷是五月综合色狠狠 | 亚洲国产成人资源在线软件 | 中文字幕久久精品 |