什么是中文分词及词性标注
中文? 众所周知,英文是以词为单位的,词和词之间是靠空格隔开,而中文是以字为单位,句子中所有的字连起来才能描述一个意思。
例如,英文句子I am a student,用中文则为:“我是一个学生”。
计算机可以很简单通过空格知道student是一个单词,但是不能很容易明白“学”、“生”两个字合起来才表示一个词。
把中文的汉字序列切分成有意义的词,就是中文分词,有些人也称为切词。
我是一个学生,分词的结果是:我是 一个 学生。
目前主流的中文分词算法有: 1、 基于字符串匹配的分词方法 这种方法又叫做机械分词方法,它是按照一定的策略将待分析的汉字串与一个“充分大的”机器词典中的词条进行配,若在词典中找到某个字符串,则匹配成功(识别出一个词)。
按照扫描方向的不同,串匹配分词方法可以分为正向匹配和逆向匹配;按照不同长度优先匹配的情况,可以分为最大(最长)匹配和最小(最短)匹配;按照是否与词性标注过程相结合,又可以分为单纯分词方法和分词与标注相结合的一体化方法。
常用的几种机械分词方法如下: 1)正向最大匹配法(由左到右的方向); 2)逆向最大匹配法(由右到左的方向); 3)最少切分(使每一句中切出的词数最小)。
还可以将上述各种方法相互组合,例如,可以将正向最大匹配方法和逆向最大匹配方法结合起来构成双向匹配法。
由于汉语单字成词的特点,正向最小匹配和逆向最小匹配一般很少使用。
一般说来,逆向匹配的切分精度略高于正向匹配,遇到的歧义现象也较少。
统计结果表明,单纯使用正向最大匹配的错误率为1/169,单纯使用逆向最大匹配的错误率为1/245。
但这种精度还远远不能满足实际的需要。
实际使用的分词系统,都是把机械分词作为一种初分手段,还需通过利用各种其它的语言信息来进一步提高切分的准确率。
一种方法是改进扫描方式,称为特征扫描或标志切分,优先在待分析字符串中识别和切分出一些带有明显特征的词,以这些词作为断点,可将原字符串分为较小的串再来进机械分词,从而减少匹配的错误率。
另一种方法是将分词和词类标注结合起来,利用丰富的词类信息对分词决策提供帮助,并且在标注过程中又反过来对分词结果进行检验、调整,从而极大地提高切分的准确率。
对于机械分词方法,可以建立一个一般的模型,在这方面有专业的学术论文,这里不做详细论述。
2、 基于理解的分词方法 这种分词方法是通过让计算机模拟人对句子的理解,达到识别词的效果。
其基本思想就是在分词的同时进行句法、语义分析,利用句法信息和语义信息来处理歧义现象。
它通常包括三个部分:分词子系统、句法语义子系统、总控部分。
在总控部分的协调下,分词子系统可以获得有关词、句子等的句法和语义信息来对分词歧义进行判断,即它模拟了人对句子的理解过程。
这种分词方法需要使用大量的语言知识和信息。
由于汉语语言知识的笼统、复杂性,难以将各种语言信息组织成机器可直接读取的形式,因此目前基于理解的分词系统还处在试验阶段。
3、 基于统计的分词方法 从形式上看,词是稳定的字的组合,因此在上下文中,相邻的字同时出现的次数越多,就越有可能构成一个词。
因此字与字相邻共现的频率或概率能够较好的反映成词的可信度。
可以对语料中相邻共现的各个字的组合的频度进行统计,计算它们的互现信息。
定义两个字的互现信息,计算两个汉字X、Y的相邻共现概率。
互现信息体现了汉字之间结合关系的紧密程度。
当紧密程度高于某一个阈值时,便可认为此字组可能构成了一个词。
这种方法只需对语料中的字组频度进行统计,不需要切分词典,因而又叫做无词典分词法或统计取词方法。
但这种方法也有一定的局限性,会经常抽出一些共现频度高、但并不是词的常用字组,例如“这一”、“之一”、“有的”、“我的”、“许多的”等,并且对常用词的识别精度差,时空开销大。
实际应用的统计分词系统都要使用一部基本的分词词典(常用词词典)进行串匹配分词,同时使用统计方法识别一些新的词,即将串频统计和串匹配结合起来,既发挥匹配分词切分速度快、效率高的特点,又利用了无词典分词结合上下文识别生词、自动消除歧义的优点。
有哪些好的命名实体识别的工具,词性标注工具
一、NLTK进行分词
nltk.sent_tokenize(text) #对文本按照句子进行分割
nltk.word_tokenize(sent) #对句子进行分词
二、NLTK进行词性标注
用到的函数:
nltk.pos_tag(tokens)#tokens是句子分词后的结果,同样是句子级的标注
三、NLTK进行命名实体识别(NER)
用到的函数:
nltk.ne_chunk(tags)#tags是句子词性标注后的结果,同样是句子级
上例中,有两个命名实体,一个是Xi,这个应该是PER,被错误识别为GPE了; 另一个事China,被正确识别为GPE。
四、句法分析
nltk没有好的parser,推荐使用stanfordparser
但是nltk有很好的树类,该类用list实现
可以利用stanfordparser的输出构建一棵python的句法树英语中词类的词性符号,求!!!!(要全的!!)
名词 noun简写 n
形容词 adjective简写adj
副词 adverb简写adv
动词 verb简写 v
介词preposition简写prep
感叹词interjection简写int
数词numeral 简写 num
连词conjunction简写conj
代词pronoun简写pron
冠词article简写art词性都有什么?他们都代表什么?
讲词性的话,希望你能跟中文一起理解,词性还是相通的
名词 一般就是指一样东西,比如人,狗,书,车子(person, dog, book, car)
代词 就是指人称啊,比如你我他,你们我们他们 (you, I, he, you, we, they)
动词 就是指一样动作喽,一般都是那个名词发出的,比如人死了,狗跳了,书卖了,车子开了。
你们来了,他们走了。
(People died. The dog jumped. The book was sold. The car is starting. e. They leave.)
形容词 就是形容一个名词的,一般都跟XX的,比如美丽的,高的,新的,精彩的。
(Beautiful, tall, new, wonderful)组合起来用就是美丽的女人,高的楼,新的房子,精彩的电影(beautiful woman, tall building, new house, wonderful movie)
副词 和形容词有点类似,不过形容词是形容名词的,副词是形容动作的,也形容形容词(加强效果嘛,因为形容词就不能形容形容词的)。
比如跳得高,跑得快(jump high, run fast) 还比如非常美丽,极度可怕 (very beautiful, extremely scary)
忘了说及物动词和不及物动词了,及物动词就是你做一个动作不光你一个人,还非得把人家惨和起来,比如你烧,不可能烧就完了,比如还要烧个东西吧,那就烧饭 (you cook rice) 你打,总要打样东西吧,打篮球 (you play basketball)。
但又有些动作,你一个人就能做了,比如你跑了 (you run) 你死了 (you die)所有单词词性符号。
prep. 介词
pron. 代词
n. 名词
v. 动词
conj. 连接词
s 主语
sc 表语
o 宾语
oc 宾补
vi. 不及物动词
vt. 及物动词
aux.v 助动词
adj. 形容词
adv. 副词
art. 冠词
num. 数词
int. 感叹词
u. 不可数名词
c. 可数名词
pl. 复数词性简写大集合!!!
1,名词,Nouns (n.) 表示人或事物的名称 box, pen,tree,apple
2,代词,Pronouns (pron.)代替名词、数词、形容词We, this, them,myself
3,形容词, Adjectives(adj.) 用来修饰名词,表示人或事物的特征 good, sad, high, short
4,数词,Numerals(num.)表示数目或顺序 one,two, first
5,动词,Verb (v.) 表示动作或状态 Jump,sing,visit
6,副词,Adverbs(adv.) 修饰动、形、副等词,表示动作特征 there,widely,suddenly
7,冠词,Articles (art.) 用在名词前,帮助说明名词所指的范围 a, an, the
8,介词,Prepositions (prep.) 用在名词或代词前,说明它与别的词的关系 in,on,down,up
9,连词,Conjunctions (conj.) 表示人或事物的名称if,because,but
10,感叹词, Interjections (int.) 代替名词、数词、形容词等 oh,hello,hi,yeah
vt.是及物动词,vt.后必须跟宾语:sing a song
vi.是不及物动词,vi.后不直接带宾语或不带宾语:jump high
鲨鱼机房(Sharktech)我们也叫它SK机房,是一家成立于2003年的老牌国外主机商,提供的产品包括独立服务器租用、VPS主机等,自营机房在美国洛杉矶、丹佛、芝加哥和荷兰阿姆斯特丹等,主打高防产品,独立服务器免费提供60Gbps/48Mpps攻击防御。机房提供1-10Gbps带宽不限流量服务器,最低丹佛/荷兰机房每月49美元起,洛杉矶机房最低59美元/月起。下面列出部分促销机型的配置信息。机房...
CheapWindowsVPS是一家成立于2007年的老牌国外主机商,顾名思义,一个提供便宜的Windows系统VPS主机(同样也支持安装Linux系列的哈)的商家,可选数据中心包括美国洛杉矶、达拉斯、芝加哥、纽约、英国伦敦、法国、新加坡等等,目前商家针对VPS主机推出5折优惠码,优惠后最低4GB内存套餐月付仅4.5美元。下面列出几款VPS主机配置信息。CPU:2cores内存:4GB硬盘:60G...
HostKvm也发布了开年促销方案,针对香港国际和美国洛杉矶两个机房的VPS主机提供7折优惠码,其他机房业务提供8折优惠码。商家成立于2013年,提供基于KVM架构的VPS主机,可选数据中心包括日本、新加坡、韩国、美国、中国香港等多个地区机房,均为国内直连或优化线路,延迟较低,适合建站或者远程办公等。下面列出几款主机配置信息。美国洛杉矶套餐:美国 US-Plan1CPU:1core内存:2GB硬盘...
词性标注为你推荐
销售报表销售日报表做法?网络的好处网络的好处作文网络的好处关于网络的好处和坏处400字权限表帮忙设计个用户权限表组或资源的状态不是执行请求操作的正确状态提示 HTTP 错误 404 -文件或目录未找到。测量师三坐标测量师工资多少支付宝安全证书下载怎么下载支付宝安装控件封包是什么游戏开挂是什么意思?2017双112017年双11有哪些值得购买的商品呼叫中心系统方案我们要自己建一个呼叫中心,用于做客户服务。请问应该怎么做规划方案呢?
已备案域名查询 天津服务器租赁 vps是什么 adman shopex空间 lighttpd 好看qq空间 hostker web服务器的架设 合租空间 南通服务器 免费申请个人网站 美国免费空间 海外空间 阿里云官方网站 监控服务器 英雄联盟台服官网 万网空间 阿里云邮箱登陆地址 七十九刀 更多