什么是中文分词及词性标注
中文? 众所周知,英文是以词为单位的,词和词之间是靠空格隔开,而中文是以字为单位,句子中所有的字连起来才能描述一个意思。
例如,英文句子I am a student,用中文则为:“我是一个学生”。
计算机可以很简单通过空格知道student是一个单词,但是不能很容易明白“学”、“生”两个字合起来才表示一个词。
把中文的汉字序列切分成有意义的词,就是中文分词,有些人也称为切词。
我是一个学生,分词的结果是:我是 一个 学生。
目前主流的中文分词算法有: 1、 基于字符串匹配的分词方法 这种方法又叫做机械分词方法,它是按照一定的策略将待分析的汉字串与一个“充分大的”机器词典中的词条进行配,若在词典中找到某个字符串,则匹配成功(识别出一个词)。
按照扫描方向的不同,串匹配分词方法可以分为正向匹配和逆向匹配;按照不同长度优先匹配的情况,可以分为最大(最长)匹配和最小(最短)匹配;按照是否与词性标注过程相结合,又可以分为单纯分词方法和分词与标注相结合的一体化方法。
常用的几种机械分词方法如下: 1)正向最大匹配法(由左到右的方向); 2)逆向最大匹配法(由右到左的方向); 3)最少切分(使每一句中切出的词数最小)。
还可以将上述各种方法相互组合,例如,可以将正向最大匹配方法和逆向最大匹配方法结合起来构成双向匹配法。
由于汉语单字成词的特点,正向最小匹配和逆向最小匹配一般很少使用。
一般说来,逆向匹配的切分精度略高于正向匹配,遇到的歧义现象也较少。
统计结果表明,单纯使用正向最大匹配的错误率为1/169,单纯使用逆向最大匹配的错误率为1/245。
但这种精度还远远不能满足实际的需要。
实际使用的分词系统,都是把机械分词作为一种初分手段,还需通过利用各种其它的语言信息来进一步提高切分的准确率。
一种方法是改进扫描方式,称为特征扫描或标志切分,优先在待分析字符串中识别和切分出一些带有明显特征的词,以这些词作为断点,可将原字符串分为较小的串再来进机械分词,从而减少匹配的错误率。
另一种方法是将分词和词类标注结合起来,利用丰富的词类信息对分词决策提供帮助,并且在标注过程中又反过来对分词结果进行检验、调整,从而极大地提高切分的准确率。
对于机械分词方法,可以建立一个一般的模型,在这方面有专业的学术论文,这里不做详细论述。
2、 基于理解的分词方法 这种分词方法是通过让计算机模拟人对句子的理解,达到识别词的效果。
其基本思想就是在分词的同时进行句法、语义分析,利用句法信息和语义信息来处理歧义现象。
它通常包括三个部分:分词子系统、句法语义子系统、总控部分。
在总控部分的协调下,分词子系统可以获得有关词、句子等的句法和语义信息来对分词歧义进行判断,即它模拟了人对句子的理解过程。
这种分词方法需要使用大量的语言知识和信息。
由于汉语语言知识的笼统、复杂性,难以将各种语言信息组织成机器可直接读取的形式,因此目前基于理解的分词系统还处在试验阶段。
3、 基于统计的分词方法 从形式上看,词是稳定的字的组合,因此在上下文中,相邻的字同时出现的次数越多,就越有可能构成一个词。
因此字与字相邻共现的频率或概率能够较好的反映成词的可信度。
可以对语料中相邻共现的各个字的组合的频度进行统计,计算它们的互现信息。
定义两个字的互现信息,计算两个汉字X、Y的相邻共现概率。
互现信息体现了汉字之间结合关系的紧密程度。
当紧密程度高于某一个阈值时,便可认为此字组可能构成了一个词。
这种方法只需对语料中的字组频度进行统计,不需要切分词典,因而又叫做无词典分词法或统计取词方法。
但这种方法也有一定的局限性,会经常抽出一些共现频度高、但并不是词的常用字组,例如“这一”、“之一”、“有的”、“我的”、“许多的”等,并且对常用词的识别精度差,时空开销大。
实际应用的统计分词系统都要使用一部基本的分词词典(常用词词典)进行串匹配分词,同时使用统计方法识别一些新的词,即将串频统计和串匹配结合起来,既发挥匹配分词切分速度快、效率高的特点,又利用了无词典分词结合上下文识别生词、自动消除歧义的优点。
有哪些好的命名实体识别的工具,词性标注工具
一、NLTK进行分词
nltk.sent_tokenize(text) #对文本按照句子进行分割
nltk.word_tokenize(sent) #对句子进行分词
二、NLTK进行词性标注
用到的函数:
nltk.pos_tag(tokens)#tokens是句子分词后的结果,同样是句子级的标注
三、NLTK进行命名实体识别(NER)
用到的函数:
nltk.ne_chunk(tags)#tags是句子词性标注后的结果,同样是句子级
上例中,有两个命名实体,一个是Xi,这个应该是PER,被错误识别为GPE了; 另一个事China,被正确识别为GPE。
四、句法分析
nltk没有好的parser,推荐使用stanfordparser
但是nltk有很好的树类,该类用list实现
可以利用stanfordparser的输出构建一棵python的句法树英语中词类的词性符号,求!!!!(要全的!!)
名词 noun简写 n
形容词 adjective简写adj
副词 adverb简写adv
动词 verb简写 v
介词preposition简写prep
感叹词interjection简写int
数词numeral 简写 num
连词conjunction简写conj
代词pronoun简写pron
冠词article简写art词性都有什么?他们都代表什么?
讲词性的话,希望你能跟中文一起理解,词性还是相通的
名词 一般就是指一样东西,比如人,狗,书,车子(person, dog, book, car)
代词 就是指人称啊,比如你我他,你们我们他们 (you, I, he, you, we, they)
动词 就是指一样动作喽,一般都是那个名词发出的,比如人死了,狗跳了,书卖了,车子开了。
你们来了,他们走了。
(People died. The dog jumped. The book was sold. The car is starting. e. They leave.)
形容词 就是形容一个名词的,一般都跟XX的,比如美丽的,高的,新的,精彩的。
(Beautiful, tall, new, wonderful)组合起来用就是美丽的女人,高的楼,新的房子,精彩的电影(beautiful woman, tall building, new house, wonderful movie)
副词 和形容词有点类似,不过形容词是形容名词的,副词是形容动作的,也形容形容词(加强效果嘛,因为形容词就不能形容形容词的)。
比如跳得高,跑得快(jump high, run fast) 还比如非常美丽,极度可怕 (very beautiful, extremely scary)
忘了说及物动词和不及物动词了,及物动词就是你做一个动作不光你一个人,还非得把人家惨和起来,比如你烧,不可能烧就完了,比如还要烧个东西吧,那就烧饭 (you cook rice) 你打,总要打样东西吧,打篮球 (you play basketball)。
但又有些动作,你一个人就能做了,比如你跑了 (you run) 你死了 (you die)所有单词词性符号。
prep. 介词
pron. 代词
n. 名词
v. 动词
conj. 连接词
s 主语
sc 表语
o 宾语
oc 宾补
vi. 不及物动词
vt. 及物动词
aux.v 助动词
adj. 形容词
adv. 副词
art. 冠词
num. 数词
int. 感叹词
u. 不可数名词
c. 可数名词
pl. 复数词性简写大集合!!!
1,名词,Nouns (n.) 表示人或事物的名称 box, pen,tree,apple
2,代词,Pronouns (pron.)代替名词、数词、形容词We, this, them,myself
3,形容词, Adjectives(adj.) 用来修饰名词,表示人或事物的特征 good, sad, high, short
4,数词,Numerals(num.)表示数目或顺序 one,two, first
5,动词,Verb (v.) 表示动作或状态 Jump,sing,visit
6,副词,Adverbs(adv.) 修饰动、形、副等词,表示动作特征 there,widely,suddenly
7,冠词,Articles (art.) 用在名词前,帮助说明名词所指的范围 a, an, the
8,介词,Prepositions (prep.) 用在名词或代词前,说明它与别的词的关系 in,on,down,up
9,连词,Conjunctions (conj.) 表示人或事物的名称if,because,but
10,感叹词, Interjections (int.) 代替名词、数词、形容词等 oh,hello,hi,yeah
vt.是及物动词,vt.后必须跟宾语:sing a song
vi.是不及物动词,vi.后不直接带宾语或不带宾语:jump high
iON Cloud怎么样?iON Cloud今天发布了7月份优惠,使用优惠码:VC4VF8RHFL,新购指定型号VPS半年付或以上可享八五折!iON的云服务器包括美国洛杉矶、美国圣何塞(包含了优化线路、CN2 GIA线路)、新加坡(CN2 GIA线路、PCCW线路、移动CMI线路)这几个机房或者线路可供选择,有Linux和Windows系统之分,整体来说针对中国的优化是非常明显的,机器稳定可靠,比...
提速啦(www.tisula.com)是赣州王成璟网络科技有限公司旗下云服务器品牌,目前拥有在籍员工40人左右,社保在籍员工30人+,是正规的国内拥有IDC ICP ISP CDN 云牌照资质商家,2018-2021年连续4年获得CTG机房顶级金牌代理商荣誉 2021年赣州市于都县创业大赛三等奖,2020年于都电子商务示范企业,2021年于都县电子商务融合推广大使。资源优势介绍:Ceranetwo...
全球领先的IDC服务商华纳云“美国服务器”正式发售啦~~~~此次上线的美国服务器包含美国云服务器、美国服务器、美国高防服务器以及美国高防云服务器。针对此次美国服务器新品上线,华纳云也推出了史无前例的超低活动力度。美国云服务器低至3折,1核1G5M低至24元/月,20G DDos防御的美国服务器低至688元/月,年付再送2个月,两年送4个月,三年送6个月,且永久续费同价,更多款高性价比配置供您选择。...
词性标注为你推荐
竞争者如何分析竞争者?对手的弱点开发管理什么是项目管理网络地址分类A、B、C三类网络地址是如何划分的?请解释的通俗一点。网络地址分类IP地址是怎样分类的?文件保护Word文档写保护了不能再次修改了 怎么解除保护?支付宝证书网上证书 支付宝支付宝安全证书下载在网吧可以下载支付宝安全证书?照片ps是什么意思照片PS:PS是什么意思网络黑科技什么防封软件,都是假的,没有一个是真的,大家不要受骗!什么是无线上网无线网络是什么意思
大庆服务器租用 国外免费vps 老左博客 外国空间 e蜗 柚子舍官网 韩国名字大全 免费申请个人网站 吉林铁通 中国电信宽带测速器 东莞服务器托管 腾讯网盘 阵亡将士纪念日 nnt xshell5注册码 japanese50m咸熟 亿库 九零网络 windowsserver2008r2 西部主机 更多