识别基于神经网络的手写数字识别系统的设计与实现

中 南 大 学

本科生毕业论文设计

题 目 基于神经网络的手写数字

识别系统的设计与实现

目 录

摘要 Ⅰ

ASTAC Ⅱ

第一章 绪论错误未定义书签。

1 手写体数字识别研究的发展及研究现状错误未定义书签。

1 神经网络在手写体数字识别中的应用错误未定义书签。

 .3论文结构简介错误未定义书签。

第二章手写体数字识别错误未定义书签。

2 1手写体数字识别的一般方法及难点错误未定义书签。

2 2图像预处理概述. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .错误未定义书签。

2.  图像预处理的处理步骤错误未定义书签。

2.3. 1 图像的平滑去噪. . . . . . . . . . . . . . . . . . . . . . . . .错误未定义书签。

2.3. 二值话处理错误未定义书签。

2.3 3 归一化错误未定义书签。

2. .4细化错误未定义书签。

2.4 小结错误未定义书签。

第三章 特征提取. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .错误未定义书签。

3. 1 特征提取的概述错误未定义书签。

3 2 统计特征错误未定义书签。

.3 结构特征. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .错误未定义书签。

3 3  结构特征提取错误未定义书签。

.3 2 笔划特征的提取. . . . . . . . . . . . . . . . . . . . . . .错误未定义书签。

3 3.  数字的特征向量说明错误未定义书签。

3. 知识库的建立错误未定义书签。

第四章 神经网络在数字识别中的应用错误未定义书签。

4. 1神经网络简介及其工作原理错误未定义书签。

. 1. 1神经网络概述[ 4. . . . . . . . . . . . . . . . . . . . . . . . .错误未定义书签。

 1 神经网络的工作原理错误未定义书签。

4 神经网络的学习与训练[15]. . . . . . . . . . . . . . . . . . . . . . .错误未定义书签。

4.  BP神经网络错误未定义书签。

4 3. 1 B算法错误未定义书签。

.3.2 P网络的一般学习算法. . . . . . . . . . . . . . . . .错误未定义书签。

4.3 3 BP网络的设计错误未定义书签。

4.4 BP学习算法的局限性与对策错误未定义书签。

4.5 对BP算法的改进. . . . . . . . . . . . . . . . . . . . . . . . . . . . . .错误未定义书签。

第五章 系统的实现与结果分析. . . . . . . . . . . . . . . . . . . . . . . . .错误未定义书签。

5  软件开发平台错误未定义书签。

5 1  MATA简介错误未定义书签。

5 1.2ATAB的特点错误未定义书签。

.   使用ATL的优势. . . . . . . . . . . . . . . . .错误未定义书签。

5.  系统设计思路. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .错误未定义书签。

5 3系统流程图错误未定义书签。

5.4 MATLAB程序设计. . . . . . . . . . . . . . . . . . . . . . . . . . . . . .错误未定义书签。

5.5 实验数据及结果分析错误未定义书签。

结论 2

参考文献 28

致谢. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .0

附录  

摘要

手写体数字识别是模式识别中一个非常重要和活跃的研究领域,数字识别也不是一项孤立的技术,它所涉及的问题是模式识别的其他领域都无法回避的应用上,作为一种信息处理手段,字符识别有广阔的应用背景和巨大的市场需求。因此对数字识别的研究具有理论和应用的双重意义。

人工神经网络识别方法是近年该研究领域的一种新方法,该方法具有一些传统技术所没有的优点:良好的容错能力、分类能力强、并行处理和自学习能力并且是离线训练和在线识别的。这些优点使它在手写体字符的识别中能对大量数据进行快速实时处理并达到良好的识别效果。

由于手写体数字识别难于建立精确的数学模型,所以本文采用BP神经网络对这一问题进行处理。神经网络模式识别的一个关键步骤是预处理和特征提取,对于手写体数字识别,本文采用了一种基于结构特征和统计特征的提取方法,并用程序实现了这一特征提取过程。

通过测试,本识别系统对于较规范的手写体数字的识别达到了很好的识别效果。关键词: 手写体数字识别特征提取,人工神经网络 MTAB

ATRCT

H  w  tten caracter re gnition is a ery ip  an and ac ive esearh n pattern recogit on.Teoet  call it is n  an i o atd tecniqu . It conce  s w th the rob  that all th oh  reas of pattern eog  tion mst confronted pac  icall,b inga ind of   omat on roc ssing measued, harctr recogni  o ha a v ry roa aplicatio   ckgrund a  vast eed  mark   Thus, it is of bt  eort  c  nd pa t  cl sign ican  .

Ar   fi  al eu   etwo k recogni  ion me  od    nw met     he  esearh   e   i recen y   s, andh s e  d a  me mr   th   adi  inl tecniu o not hav ; god oleranc o   or, strong sortig abi ity,  tr g ar ll l ha   ing abili y nd stro  self-  ea in a ili   a  w ll      o ff ine tr in   n n-linerecogn zn A  hse me   t  cntribu e it  pefc  per r c in  nd i  v st d a st and hanl ng i time yanne  .

 t’s ifiult to make accura  mateatic  del fo andw it  e nme  l e o gni  in   B neur  etwo rs  sused e e. The e  tp of neual ne wrs patte   rc nitio ae pr   cess ng   ea ur sbst s lect on. I t  s ppr algor  thof f   re sbst s lectio bas n onstru tral chr cteris  ics n s ati  tical hrac  er   tics  s ben adoted i hadw itten meral  ecogni  io,  d te prcessof feaure subse  s lec  ion    beenrea ize in rga.

Reonitio systei th s paper hs acivd  ood  teo rcgnitin i rnom andwr  tten nmeral by test.

Kyor   dwritte nmeralreconition f  ure extat on,artifi    n ral   tor, MALAB

第一章绪 论

1.1手写体数字识别研究的发展及研究现状

模式识别 ]是六十年代初迅速发展起来的一门学科。 由于它研究的是如何用机器来实现人(及某些动物)对事物的学习、识别和判断能力因而受到了很多科技领域研究人员的注意,成为人工智能研究的一个重要方面。一个模式识别系统的基本职能是对系统所要处理的模式归属于哪一类做出判别,从该系统的模式输入到系统做出判别之间,主要包括信息检测、预处理、特征提取和分类几大环节。

字符识别是模式识别领域中的一个非常活跃的分支。一方面是由于问题本身的难度使之成为一个极具挑战性的课题另一方面,是因为字符识别不是一项孤立的应用技术其中包含的模式识别领域中其他分支都会遇到的一些基本和共性的问题。从50年代开始,许多的研究者就在这一研究领域开展了广泛的探索并为模式识别的发展产生了积极的影响。

字符识别,从采用的输入设备来分,可分为脱机识别(又称为光学字符识别ptica Charac  er Recgn tin,CR和联机识别,脱机字符又分为印刷体和手写字符识别,从对书写者要求来分手写字符又分为限制性和非限制性的手写字符识别。在联机手写字符识别中,计算机能够通过与计算机相连的手写输入设备获得输入字符笔划的顺序、笔划的方向以及字符的形状,所以相对R来说它更容易识别一些。但联机字符识别有一个重要的不足就是要求输入者必须在指定的设备上书写,然而人们在生活中大部分的书写情况是不满足这一要求的,比如人们填写各种表格资料,开具支票等。如果需要计算机去认识这些已经成为文字的东西,就需要OR技术。 比起联机字符识别来OC不要求书写者在特定输入设备上书写,它可以与平常一样书写所以OCR的应用更为广泛。 R所使用的输入设备可以是任何一种图像采集设备,如扫描仪、数字相机等。通过使用这类采集设备 OC系统将书写者已经写好的文字作为图像输入到计算机中,然后由计算机去识别。由于OCR的输入只是简单的一副图像它就不能像联机输入那样比较容易的从物理上获得字符笔划的顺序信息,因此O是一个更具挑战性的问题。

脱机字符识别(C)分为印刷体OCR和手写OCR。印刷体字符比手写体字符少了随机性,它的识别相对容易些难点已经不在识别环节,而在于字符的分割上。印刷体识别的错误绝大多数都是错误的分割引起的[3] 。对于手写体OC,无论是联机还是脱机识别手写体的识别都要经历由限制性手写体识别到非限制性手写体识别两个阶段。本文将以手写体数字为代表,讨论非限制性手写体字符的识别。脱机字符识别的研究最早始于上个世纪六十年代是为了应付汉英翻译的需要。八十年代后的研究重心转移到脱机手写字符的识别上。对于小类别数的字符集如数字、字母的识

别 已经可以做到对书写不加任何的限制。非限制性手写OCR的研究始终以阿拉伯数字为主导。这事因为,第一,十个阿拉伯数字是全世界的一套通用字符。第二在数字的许多应用场合如报表、账单、支票等,手写体还难以被印刷体所替代,而且对识别的可靠性要求极高。三,由于类别数少,所以模式识别中的许多方法研究均可以以数字识别作为实验背景。对脱机手写体字符的研究,人们由简单集成笔画密度、笔画方向和背景特征方法过渡到特征匹配方法,进而过渡到结合神经网络方法,随着对识别可靠性要求的提高九十年代以后,多分类器集成方法成为了一个研究重点。

1.2神经网络在手写体数字识别中的应用

目前随着计算机的迅速发展,性能价格比的不断提高模式识别技术已经从理论探讨为主发展到大量的实际应用人们将更多的注意力开始转向那些用于语音、图像、机器人以及人工智能等的模式识别实际问题。解决这些问题的关键是需要进行复杂而庞大的实时数据处理,而现有计算机的存贮容量及计算复杂性的局限使得真正实时化的应用受阻。这种面向实时应用的模式识别问题促使人们开始将并行处理的神经网络[4]应用到模式识别,而神经网络模式识别技术又将模式识别实时应用推进了一大步,手写体数字识别就是这种应用的一个很重要的领域。

手写体数字识别是一项极具研究价值的课题随着神经网络[  ]和模糊逻辑技术的发展人们对这一问题的研究又采用了许多新的方法和手段也使得这一古老的课题焕发出新的生命力[5。 目前国际上有相当多的学者在研究这一课题它包括了模式识别领域中所有典型的问题数据的采集、处理及选择、输入样本表达的选择、模式识别分类器的选择以及用样本集对识别器的有指导的训练。人工神经网络为手写体数字识别提供了新的手段。正是神经网络所具有的这种自组织自学习能力、推广能力、非线性和运算高度并行的能力使得模式识别成为目前神经网络最为成功的应用领域。

二十多年来,人们在数字识别领域做了大量的研究工作,所提出的各种方法在印刷体和手写印刷体数字识别方面已经取得了较好的成绩识别率稳定在9%左右。但是自由手写体数字的识别工作目前并不成熟,仍旧是文字识别中最有挑战性的课题之一。

字符识别长期以来都是采用传统的识别方法,对印刷体字符的识别率一般只是稳定在96左右,不能进一步提高;而对手写体字符的识别其研究还处于探索阶段,其识别率还相当低,因此,为了提高识别率,就必须寻求新的方法和途径。

进入九十年代以来,人工神经网络ANN)技术发展十分迅速它具有模拟人类部分形象思维的能力是一种模仿人脑学习、记忆、推理等认知功能的新方法。特别是它的信息并行分布式处理能力和自学习功能等显著优点,更是激起了人们对它的极

大的兴趣。人工神经网络是由一些类似人脑神经元的简单处理单元相互连接而成的复杂网络。 已涌现出许多不同类型的AN及相应的学习算法,其中P(或EB-Er r B k    aa on)网络及学习算法得到了广泛关注和研究,并在数字识别方面取得了许多有意义的应用成果。

   论文结构简介

本毕业设计主要解决以图像形式存在的手写体数字识别的问题。整体分为三个部分,第一部分是图像预处理,第二部分是对手写体数字的结构特征的提取,第三部分是设计神经网络并对前面得到的样本数据进行学习和训练。

本文通过图像预处理和数字特征提取以后基于神经网络的判别方法,然后结合使用了MTAB工具箱中提供的人工神经网络函数设计了一种手写数字识别的新方法。实验表明,该方法可以获得较好的识别率。