工程java画图板

Flink快速上手之JavaAPI使用本文将介绍如何通过简单地几步来开始编写你的FlinkJava程序.
要求编写你的FlinkJava程序唯一的要求是需要安装Maven3.
0.
4(或者更高)和Java7.
x(或者更高)创建FlinkJava工程使用下面其中一个命令来创建FlinkJava工程1、使用Mavenarchetypes:$mvnarchetype:generate\-DarchetypeGroupId=org.
apache.
flink\-DarchetypeArtifactId=flink-quickstart-java\-DarchetypeVersion=1.
0.
02、运行quickstart脚本$curlhttps://flink.
apache.
org/q/quickstart.
sh|bash上面两个命令(使用Maven创建的时候需要输入artifactId、groupId等相关信息)运行完之后都会产生类似于以下的目录结构:.
quickstartpom.
xmlsrcmainjavaorgmyorgquickstartJob.
javaSocketTextStreamWordCount.
java1/4WordCount.
javaresourceslog4j.
properties8directories,5files检查工程您的工作目录中会出现一个新的目录.
如果你使用了curl命令来创建FlinkJava工程,这个目录的名称是quickstart.
否则,就是你输入的artifactId名字.
这个工程是一个Maven工程,包含三个类.
Job是一个基本的框架程序,SocketTextStreamWordCount和WordCount是一个简单的单词次数计算示例.
需要注意的是,这三个类的main方法都允许你在开发/测试模式下启动Flink.
我们推荐将这个工程导入到你的IDE中,并进行开发和测试.
如果你用的是Eclipse,可以使用m2e插件来导入Maven工程.
有些Eclipse发行版默认嵌入了这个插件,其他的需要你手动去安装.
IntelliJIDE内置就提供了对Maven工程的支持.
给MacOSX用户的建议:默认的JVM堆内存对Flink来说太小了,你必须手动增加内存.
这里以Eclipse为例,依次选择RunConfigurations->Arguments,然后在VMArguments里写入:-Xmx800m.
编译工程如果你想要编译你的工程,进入到工程所在目录,并输入mvncleaninstall-Pbuild-jar命令.
你将会找到target/your-artifact-id-1.
0-SNAPSHOT.
jar文件,它可以在任意的Flink集群上运行.
还有一个fat-jar,名为target/your-artifact-id-1.
0-SNAPSHOT-flink-fat-jar.
jar,包含了所有添加到Maven工程的依赖.
下一步开始编写我们自己的程序Quickstart工程包含了一个WordCount的实现,也就是大数据处理系统的HelloWorld.
WordCount的目标是计算文本中单词出现的频率.
比如:单词"the"或者"house"在所有的Wikipedia文本中出现了多少次.
样本输入2/4bigdataisbig样本输出big2data1is1下面的代码就是Quickstart工程的WordCount实现,它使用两种操作(FlatMap和Reduce)处理了一些文本,并且在标准输出中打印了单词的计数结果.
publicclassWordCount{publicstaticvoidmain(String[]args)throwsException{//setuptheexecutionenvironmentfinalExecutionEnvironmentenv=ExecutionEnvironment.
getExecutionEnvironment();//getinputdataDataSettext=env.
fromElements("Tobe,ornottobe,--thatisthequestion:--","Whether'tisnoblerinthemindtosuffer","Theslingsandarrowsofoutrageousfortune","Ortotakearmsagainstaseaoftroubles,");DataSet>counts=//splitupthelinesinpairs(2-tuples)containing:(word,1)text.
flatMap(newLineSplitter())//groupbythetuplefield"0"andsumuptuplefield"1".
groupBy(0).
aggregate(Aggregations.
SUM,1);//emitresultcounts.
print();}}3/4这些操作是在专门的类中定义的,下面是LineSplitter类.
publicclassLineSplitterimplementsFlatMapFunction>{@OverridepublicvoidflatMap(Stringvalue,Collector>out){//normalizeandsplitthelineintowordsString[]tokens=value.
toLowerCase().
split("\\W+");//emitthepairsfor(Stringtoken:tokens){if(token.
length()>0){out.
collect(newTuple2(token,1));}}}}完整代码参见https://github.
com/apache/flink/blob/master//flink-examples/flink-examples-batch/src/main/java/org/apache/flink/examples/java/wordcount/WordCount.
java本博客文章除特别声明,全部都是原创!
原创文章版权归过往记忆大数据(过往记忆)所有,未经许可不得转载.
本文链接:【】()PoweredbyTCPDF(www.
tcpdf.
org)4/4