分词算法matlab用正向最大匹配算法实现中文分词!急!!!

分词算法  时间:2021-09-01  阅读:()

什么是“分词发”?

“分词发”主要是针对搜索引擎的,因为搜索引擎是老外开发的,老外只懂英文,而且由于英文的书写方式单词与单词之间是空格隔开的,所以计算机很容易把一句英文句子分个成一个一个的单词,但是中文是以字为单位的,一个一个分开就失去了他的意义,举个简单的例子:英文句子I am a student,中文的意思是“我是一个学生”,通过空格搜索引擎能够很容易的知道student是一个单词,但是无法知道需要学和生合起来才表达一个意思,为了让搜索引擎从一个句子中分割出有意义的词,所以就引入了分词这一概念……

请问:计算中文短文本相似性需要对短文本进行分词吗?如果需要的话,有什么分词方法?

要看你选择的相似性算法有什么样的要求了,一般都是用词汇空间距离,这样肯定要进行分词操作的。

分词方法现在有很多,你可以在网上找一些现成的代码来做,不管哪一种分词方法都不能做到100%的分词准确性,还是要加入人工干预的。

哪个高手有中文分词逆向最大匹配算法?

逆向最大匹配法通常简称为RMM法。

RMM法的基本原理与MM法相同 ,不同的是分词切分的方向与MM法相反,而且使用的分词辞典也不同。

逆向最大匹配法从被处理文档的末端开始匹配扫描,每次取最末端的2i个字符(i字字串)作为匹配字段,若匹配失败,则去掉匹配字段最前面的一个字,继续匹配。

相应地,它使用的分词词典是逆序词典,其中的每个词条都将按逆序方式存放。

在实际处理时,先将文档进行倒排处理,生成逆序文档。

然后,根据逆序词典,对逆序文档用正向最大匹配法处理即可。

例子:’我一个人吃饭’ 反向最大匹配方式,最大长度为5

java编个中文分词的程序

import?java.io.Reader; import?java.io.StringReader; .apache.lucene.analysis.*; .apache.lucene.analysis.cjk.CJKAnalyzer; .ChineseAnalyzer; .apache.lucene.analysis.standard.StandardAnalyzer; .mira.lucene.analysis.MIK_CAnalyzer; public?class?JeAnalyzer?{ ????public?static?void?testStandard(String?testString)?{ ????????try?{ ????????????Analyzer?analyzer?=?new?StandardAnalyzer(); ????????????Reader?r?=?new?StringReader(testString); ????????????Filter?sf?=?(Filter)?analyzer.tokenStream("",?r); ????????????System.err.println("=====standard?analyzer===="); ????????????Token?t; ????????????while?((t?=?sf.next())?!=?null)?{ ????????????????System.out.println(t.termText()); ????????????} ????????}?catch?(Exception?e)?{ ????????????e.printStackTrace(); ????????} ????} ????public?static?void?testCJK(String?testString)?{ ????????try?{ ????????????Analyzer?analyzer?=?new?CJKAnalyzer(); ????????????Reader?r?=?new?StringReader(testString); ????????????Filter?sf?=?(Filter)?analyzer.tokenStream("",?r); ????????????System.err.println("=====cjk?analyzer===="); ????????????Token?t; ????????????while?((t?=?sf.next())?!=?null)?{ ????????????????System.out.println(t.termText()); ????????????} ????????}?catch?(Exception?e)?{ ????????????e.printStackTrace(); ????????} ????} ????public?static?void?testChiniese(String?testString)?{ ????????try?{ ????????????Analyzer?analyzer?=?new?ChineseAnalyzer(); ????????????Reader?r?=?new?StringReader(testString); ????????????TokenFilter?tf?=?(TokenFilter)?analyzer.tokenStream("",?r); ????????????System.err.println("=====chinese?analyzer===="); ????????????Token?t; ????????????while?((t?=?tf.next())?!=?null)?{ ????????????????System.out.println(t.termText()); ????????????} ????????}?catch?(Exception?e)?{ ????????????e.printStackTrace(); ????????} ????} ????public?static?String?transJe(String?testString,?String?c1,?String?c2)?{ ????????String?result?=?""; ????????try?{ ????????????Analyzer?analyzer?=?new?MIK_CAnalyzer(); ????????????Reader?r?=?new?StringReader(testString); ????????????TokenStream?ts?=?(TokenStream)?analyzer.tokenStream("",?r); ????????????Token?t; ????????????while?((t?=?ts.next())?!=?null)?{ ????????????????result?+=?t.termText()?+?","; ????????????} ????????}?catch?(Exception?e)?{ ????????????e.printStackTrace(); ????????} ????????return?result; ????} ????public?static?void?main(String[]?args)?{ ????????try?{ ????????????String?testString?=?"中文分词的方法其实不局限于中文应用,也被应用到英文处理,如手写识别,单词之间的空格就很清楚,中文分词方法可以帮助判别英文单词的边界"; ????????????System.out.println("测试的语句????"+testString); ????????????String?sResult[]?=?transJe(testString,?"gb2312",?"utf-8").split(","); ????????????for?(int?i?=?0;?i?<?sResult.length;?i++)?{ ????????????????System.out.println(sResult[i]); ????????????} ????????}?catch?(Exception?e)?{ ????????????e.printStackTrace(); ????????} ????} } jar包?? lucene-analyzers-2.4.1.jar lucene-core-2.4.1.jar IKAnalyzer2.0.2OBF.jar

matlab用正向最大匹配算法实现中文分词!急!!!

SqlConnection con = new SqlConnection con.Open(); string sqlstr = "sql语句"; SqlDataAdapter da = new SqlDataAdapter(sqlstr, con); DataSet ds= new DataSet(); da.Fill(ds); dataGridView1.DataSource = ds.Tables[0]; con.Close();

青云互联:美国洛杉矶CN2弹性云限时八折,15元/月起,可选Windows/可自定义配置

青云互联怎么样?青云互联是一家成立于2020年6月的主机服务商,致力于为用户提供高性价比稳定快速的主机托管服务,目前提供有美国免费主机、香港主机、香港服务器、美国云服务器,让您的网站高速、稳定运行。美国cn2弹性云主机限时8折起,可选1-20个IP,仅15元/月起,附8折优惠码使用!点击进入:青云互联官方网站地址青云互联优惠码:八折优惠码:ltY8sHMh (续费同价)青云互联活动方案:美国洛杉矶...

这几个Vultr VPS主机商家的优点造就商家的用户驱动力

目前云服务器市场竞争是相当的大的,比如我们在年中活动中看到各大服务商都找准这个噱头的活动发布各种活动,有的甚至就是平时的活动价格,只是换一个说法而已。可见这个行业确实竞争很大,当然我们也可以看到很多主机商几个月就消失,也有看到很多个人商家捣鼓几个品牌然后忽悠一圈跑路的。当然,个人建议在选择服务商的时候尽量选择老牌商家,这样性能更为稳定一些。近期可能会准备重新整理Vultr商家的一些信息和教程。以前...

3G流量免费高防CDN 50-200G防御

简介酷盾安全怎么样?酷盾安全,隶属于云南酷番云计算有限公司,主要提供高防CDN服务,高防服务器等,分为中国境内CDN,和境外CDN和二个产品,均支持SSL。目前CDN处于内测阶段,目前是免费的,套餐包0.01一个。3G流量(高防CDN)用完了继续续费或者购买升级包即可。有兴趣的可以看看,需要实名的。官方网站: :点击进入官网云南酷番云计算有限公司优惠方案流量3G,用完了不够再次购买或者升级套餐流量...

分词算法为你推荐
公告格式通知格式??高级工程师证书如何取得高级工程师证?方便快捷请问有什么方便快捷的方法除黑头支付宝证书网上证书 支付宝java教程pdf求Java程序设计教程实验手册(翻译版) PDF版怎样清除历史记录如何清除历史记录小时代发布会完整版《小时代3.0》签售发布会在哪举行?it人物怎么成为一个IT人士什么是3g什么是3G网络?大屏播放软件屏幕大些的MP4播放器哪里有卖的?
台湾vps 紧急升级请记住新域名 3322动态域名注册 域名备案流程 godaddy域名解析教程 如何申请免费域名 万网域名证书查询 亚洲大于500m hostgator 鲜果阅读 服务器架设 百兆独享 已备案删除域名 新世界服务器 腾讯总部在哪 中国电信测速器 帽子云排名 个人免费邮箱 iki 阿里云邮箱登陆 更多