什么是中文分词及词性标注
中文? 众所周知,英文是以词为单位的,词和词之间是靠空格隔开,而中文是以字为单位,句子中所有的字连起来才能描述一个意思。
例如,英文句子I am a student,用中文则为:“我是一个学生”。
计算机可以很简单通过空格知道student是一个单词,但是不能很容易明白“学”、“生”两个字合起来才表示一个词。
把中文的汉字序列切分成有意义的词,就是中文分词,有些人也称为切词。
我是一个学生,分词的结果是:我是 一个 学生。
目前主流的中文分词算法有: 1、 基于字符串匹配的分词方法 这种方法又叫做机械分词方法,它是按照一定的策略将待分析的汉字串与一个“充分大的”机器词典中的词条进行配,若在词典中找到某个字符串,则匹配成功(识别出一个词)。
按照扫描方向的不同,串匹配分词方法可以分为正向匹配和逆向匹配;按照不同长度优先匹配的情况,可以分为最大(最长)匹配和最小(最短)匹配;按照是否与词性标注过程相结合,又可以分为单纯分词方法和分词与标注相结合的一体化方法。
常用的几种机械分词方法如下: 1)正向最大匹配法(由左到右的方向); 2)逆向最大匹配法(由右到左的方向); 3)最少切分(使每一句中切出的词数最小)。
还可以将上述各种方法相互组合,例如,可以将正向最大匹配方法和逆向最大匹配方法结合起来构成双向匹配法。
由于汉语单字成词的特点,正向最小匹配和逆向最小匹配一般很少使用。
一般说来,逆向匹配的切分精度略高于正向匹配,遇到的歧义现象也较少。
统计结果表明,单纯使用正向最大匹配的错误率为1/169,单纯使用逆向最大匹配的错误率为1/245。
但这种精度还远远不能满足实际的需要。
实际使用的分词系统,都是把机械分词作为一种初分手段,还需通过利用各种其它的语言信息来进一步提高切分的准确率。
一种方法是改进扫描方式,称为特征扫描或标志切分,优先在待分析字符串中识别和切分出一些带有明显特征的词,以这些词作为断点,可将原字符串分为较小的串再来进机械分词,从而减少匹配的错误率。
另一种方法是将分词和词类标注结合起来,利用丰富的词类信息对分词决策提供帮助,并且在标注过程中又反过来对分词结果进行检验、调整,从而极大地提高切分的准确率。
对于机械分词方法,可以建立一个一般的模型,在这方面有专业的学术论文,这里不做详细论述。
2、 基于理解的分词方法 这种分词方法是通过让计算机模拟人对句子的理解,达到识别词的效果。
其基本思想就是在分词的同时进行句法、语义分析,利用句法信息和语义信息来处理歧义现象。
它通常包括三个部分:分词子系统、句法语义子系统、总控部分。
在总控部分的协调下,分词子系统可以获得有关词、句子等的句法和语义信息来对分词歧义进行判断,即它模拟了人对句子的理解过程。
这种分词方法需要使用大量的语言知识和信息。
由于汉语语言知识的笼统、复杂性,难以将各种语言信息组织成机器可直接读取的形式,因此目前基于理解的分词系统还处在试验阶段。
3、 基于统计的分词方法 从形式上看,词是稳定的字的组合,因此在上下文中,相邻的字同时出现的次数越多,就越有可能构成一个词。
因此字与字相邻共现的频率或概率能够较好的反映成词的可信度。
可以对语料中相邻共现的各个字的组合的频度进行统计,计算它们的互现信息。
定义两个字的互现信息,计算两个汉字X、Y的相邻共现概率。
互现信息体现了汉字之间结合关系的紧密程度。
当紧密程度高于某一个阈值时,便可认为此字组可能构成了一个词。
这种方法只需对语料中的字组频度进行统计,不需要切分词典,因而又叫做无词典分词法或统计取词方法。
但这种方法也有一定的局限性,会经常抽出一些共现频度高、但并不是词的常用字组,例如“这一”、“之一”、“有的”、“我的”、“许多的”等,并且对常用词的识别精度差,时空开销大。
实际应用的统计分词系统都要使用一部基本的分词词典(常用词词典)进行串匹配分词,同时使用统计方法识别一些新的词,即将串频统计和串匹配结合起来,既发挥匹配分词切分速度快、效率高的特点,又利用了无词典分词结合上下文识别生词、自动消除歧义的优点。
有哪些好的命名实体识别的工具,词性标注工具
一、NLTK进行分词
nltk.sent_tokenize(text) #对文本按照句子进行分割
nltk.word_tokenize(sent) #对句子进行分词
二、NLTK进行词性标注
用到的函数:
nltk.pos_tag(tokens)#tokens是句子分词后的结果,同样是句子级的标注
三、NLTK进行命名实体识别(NER)
用到的函数:
nltk.ne_chunk(tags)#tags是句子词性标注后的结果,同样是句子级
上例中,有两个命名实体,一个是Xi,这个应该是PER,被错误识别为GPE了; 另一个事China,被正确识别为GPE。
四、句法分析
nltk没有好的parser,推荐使用stanfordparser
但是nltk有很好的树类,该类用list实现
可以利用stanfordparser的输出构建一棵python的句法树英语中词类的词性符号,求!!!!(要全的!!)
名词 noun简写 n
形容词 adjective简写adj
副词 adverb简写adv
动词 verb简写 v
介词preposition简写prep
感叹词interjection简写int
数词numeral 简写 num
连词conjunction简写conj
代词pronoun简写pron
冠词article简写art词性都有什么?他们都代表什么?
讲词性的话,希望你能跟中文一起理解,词性还是相通的
名词 一般就是指一样东西,比如人,狗,书,车子(person, dog, book, car)
代词 就是指人称啊,比如你我他,你们我们他们 (you, I, he, you, we, they)
动词 就是指一样动作喽,一般都是那个名词发出的,比如人死了,狗跳了,书卖了,车子开了。
你们来了,他们走了。
(People died. The dog jumped. The book was sold. The car is starting. e. They leave.)
形容词 就是形容一个名词的,一般都跟XX的,比如美丽的,高的,新的,精彩的。
(Beautiful, tall, new, wonderful)组合起来用就是美丽的女人,高的楼,新的房子,精彩的电影(beautiful woman, tall building, new house, wonderful movie)
副词 和形容词有点类似,不过形容词是形容名词的,副词是形容动作的,也形容形容词(加强效果嘛,因为形容词就不能形容形容词的)。
比如跳得高,跑得快(jump high, run fast) 还比如非常美丽,极度可怕 (very beautiful, extremely scary)
忘了说及物动词和不及物动词了,及物动词就是你做一个动作不光你一个人,还非得把人家惨和起来,比如你烧,不可能烧就完了,比如还要烧个东西吧,那就烧饭 (you cook rice) 你打,总要打样东西吧,打篮球 (you play basketball)。
但又有些动作,你一个人就能做了,比如你跑了 (you run) 你死了 (you die)所有单词词性符号。
prep. 介词
pron. 代词
n. 名词
v. 动词
conj. 连接词
s 主语
sc 表语
o 宾语
oc 宾补
vi. 不及物动词
vt. 及物动词
aux.v 助动词
adj. 形容词
adv. 副词
art. 冠词
num. 数词
int. 感叹词
u. 不可数名词
c. 可数名词
pl. 复数词性简写大集合!!!
1,名词,Nouns (n.) 表示人或事物的名称 box, pen,tree,apple
2,代词,Pronouns (pron.)代替名词、数词、形容词We, this, them,myself
3,形容词, Adjectives(adj.) 用来修饰名词,表示人或事物的特征 good, sad, high, short
4,数词,Numerals(num.)表示数目或顺序 one,two, first
5,动词,Verb (v.) 表示动作或状态 Jump,sing,visit
6,副词,Adverbs(adv.) 修饰动、形、副等词,表示动作特征 there,widely,suddenly
7,冠词,Articles (art.) 用在名词前,帮助说明名词所指的范围 a, an, the
8,介词,Prepositions (prep.) 用在名词或代词前,说明它与别的词的关系 in,on,down,up
9,连词,Conjunctions (conj.) 表示人或事物的名称if,because,but
10,感叹词, Interjections (int.) 代替名词、数词、形容词等 oh,hello,hi,yeah
vt.是及物动词,vt.后必须跟宾语:sing a song
vi.是不及物动词,vi.后不直接带宾语或不带宾语:jump high
官方网站:点击访问青云互联官网优惠码:五折优惠码:5LHbEhaS (一次性五折,可月付、季付、半年付、年付)活动方案:的套餐分为大带宽限流和小带宽不限流两种套餐,全部为KVM虚拟架构,而且配置都可以弹性设置1、洛杉矶cera机房三网回程cn2gia 洛杉矶cera机房  ...
PhotonVPS 服务商我们是不是已经很久没有见过?曾经也是相当的火爆的,我们中文习惯称作为饭桶VPS主机商。翻看之前的文章,在2015年之前也有较多商家的活动分享的,这几年由于服务商太多,乃至于有一些老牌的服务商都逐渐淡忘。这不有看到PhotonVPS商家发布促销活动。PhotonVPS 商家七月份推出首月半价Linux系统VPS主机,首月低至2.5美元,有洛杉矶、达拉斯、阿什本机房,除提供普...
Megalayer 商家我们还算是比较熟悉的,商家主要业务方向是CN2优化带宽、国际BGP和全向带宽的独立服务器和站群服务器,且后来也有增加云服务器(VPS主机)业务。这次中秋节促销活动期间,有发布促销活动,这次活动力度认为还是比较大的,有提供香港、美国、菲律宾的年付VPS主机,CN2优化方案线路的低至年付159元。这次活动截止到10月30日,如果我们有需要的话可以选择。第一、特价限量年付VPS主...
词性标注为你推荐
hpcHPC是什么硬度表示方法?为什么我们公司的图纸上热处理这块硬度表示上用的是HPC+数值!我是在金属加工行业权限表asp.net 角色权限的表设计 求高手指点文件保护Word文档写保护了不能再次修改了 怎么解除保护?查杀木马如何手动查杀木马网络营销讲师谁能说说哪里有好的互联网营销培训讲师老师?价格咨询米兰心理张桂茹价格: 咨询一次的费用是多少免费数据采集软件那个软件可以自动每天采集几十个网站的最新信息,并且发布信息到自己的门户网站上企业电子邮箱注册如何去注册企业邮箱企业电子邮箱注册电子邮箱怎么注册锤子手机发布会视频我如果学习好会遇见长的漂亮而且优秀的人吗?如果我学习好,长的漂亮的人会对我有好感吗?
便宜的虚拟主机 vps是什么 香港vps主机 域名服务器的作用 购买域名和空间 awardspace 鲨鱼机 京东云擎 ssh帐号 创梦 电子邮件服务器 免费吧 福建铁通 web服务器安全 电信托管 环聊 空间租赁 阿里云手机官网 免费网络空间 国内空间 更多