记一次spring boot开发wordCount

首先创建一个项目:


图片.png
图片.png

要在javascalaApplication这文件的所属目录下写的程序才有效,其他html css jsp js等资源放在resources调用。

这里展现了我写的一个controller层的细节:

 @RequestMapping("/hi.html")
  public String wordCount(HttpServletRequest request, Model model){
        String text=request.getParameter("hi");
        if(text!=null){
            System.out.println("进来了");
            String[] s=text.split(",");
            Map<String,Object> word=wordCount.go(s);
            System.out.println(word);
            model.addAttribute("data",word);
        }
        return "hi.html";
    }

wordCount函数是scala,需要引用编写scala的依赖,并且引用写好的类需要通过import

   <dependency>
            <groupId>org.scala-lang</groupId>
            <artifactId>scala-library</artifactId>
            <version>2.12.11</version>
        </dependency>

图片.png

图片.png
<form action="#" th:action="@{/hi.html}" method="post" class="basic-grey">
    <p style="color:black;font-weight:bold;">请输入一些词,我帮你 wordCount :</p>
    <p style="color:grey">输入的例子:什么字符都行(原理 :空格隔开字符,然后统计,多少个空格都行)  诸如输入: go 屎 @ 屎     得到的结果是{go:1,屎:2,@:1}</p>
    <p> <textarea type="text" name="hi" id="hi"></textarea></p>
    <!--/*@thymesVar id="data" type=""*/-->
    <p><input type="submit" value="确定" /> <input type="reset" value="重置" /></p>
    <span style="color:black;font-weight:bold;">结果在这 -----》》》</span> 
    <span th:text="${data}">default message</span>
</form>

这里通过"${data}"获取到controller层返回model夹带的值
这里注意一下跳转的地址的写法,这是thymeleaf的写法(springboot默认搭配thymeleaf前端显示)
thymeleaf 在html页面的基础上建立:
<html lang="en" xmlns:th="http://www.thymeleaf.org">

这项目是后台是运行了spark进行计算的,所以需要导进spark相关依赖:

    <dependency>
        <groupId>org.apache.spark</groupId>
        <artifactId>spark-core_2.12</artifactId>
        <version>2.4.4</version>
    </dependency>

举个用了spark的例子:

def fileGo(s:String): java.util.Map[String,Int]={

    val rdd=sc.textFile("hdfs://172.18.30.253"+s)
    print(rdd.collect())
    val rdd1=rdd.flatMap(line => line.replaceAll(""""[,.!?']""","").split("""\s+"""))
    val rdd2=rdd1.map(word => (word,1)).reduceByKey((a,b) => a+b)
    val map:java.util.Map[String,Int]=rdd2.collectAsMap().asJava
    map

  }

在scala中使用正则表达式需要用 三引号。

上传到hdfs上,使用到hadoop,需要导入的依赖:


    <dependency>
        <groupId>org.apache.hadoop</groupId>
        <artifactId>hadoop-client</artifactId>
        <version>2.7.3</version>
    </dependency>

    <dependency>
        <groupId>org.apache.hadoop</groupId>
        <artifactId>hadoop-common</artifactId>
        <version>2.7.3</version>
    </dependency>
    <dependency>
        <groupId>org.apache.hadoop</groupId>
        <artifactId>hadoop-hdfs</artifactId>
        <version>2.7.3</version>
    </dependency>
    <dependency>
        <groupId>org.apache.hadoop</groupId>
        <artifactId>hadoop-mapreduce-client-core</artifactId>
        <version>2.7.3</version>
    </dependency>
    <dependency>
        <groupId>org.apache.hadoop</groupId>
        <artifactId>hadoop-mapreduce-client-jobclient</artifactId>
        <version>2.7.3</version>
    </dependency>
    <dependency>
        <groupId>org.apache.hadoop</groupId>
        <artifactId>hadoop-mapreduce-client-common</artifactId>
        <version>2.7.3</version>
    </dependency>

学到的东西:
1.scala读文件

import scala.io.Source

object Test {
   def main(args: Array[String]) {
      println("文件内容为:" )

      Source.fromFile("test.txt" ).foreach{ 
         print 
      }
   }
}

@RequestBody主要用来接收前端传递给后端的json字符串中的数据的(请求体中的数据的);
GET方式无请求体,所以使用@RequestBody接收数据时,前端不能使用GET方式提交数据,而是用POST方式进行提交。
如果参数前不写@RequestParam(xxx)的话,那么就前端可以有可以没有对应的xxx名字才行,如果有xxx名的话,那么就会自动匹配;没有的话,请求也能正确发送。
@RequestBody直接以String接收前端传过来的json数据
例如:


图片.png

图片.png

@RequestBody也可以直接接收对象,不过传入的json对象的,key-value要有对应对象的属性名。


图片.png

3.学到了windows系统下关闭端口:
netstat -ano|findstr 端口号:查看特定端口被占用情况
关闭占用端口的程序 命令 :taskkill /pid PID(进程号) /f

4.学到了上传文件,及其解析:

    <div style="color:blue;font-weight:bold;">下面上传你要进行我靠的文件:</div><input type="file" name="file" />

controlller层解析:

@RequestMapping("/uploadWordCount")
    public String upload(@RequestParam("file") MultipartFile file,Model model,HttpServletRequest request) throws IOException {
        if (!file.isEmpty()) {
            Configuration conf = new Configuration();

            FileSystem fs = FileSystem.get(conf);
            //获取文件的详情
            System.out.println("文件类型ContentType=" + file.getContentType());
            System.out.println("文件组件名称Name=" + file.getName());
            System.out.println("文件原名称OriginalFileName=" + file.getOriginalFilename());
            System.out.println("文件大小Size=" + file.getSize() / 1024 + "KB");

            model.addAttribute("data","hi");
            String path = request.getServletContext().getRealPath("/upload/");
            System.out.println("path = " + path);
            String filename = file.getOriginalFilename();
            File filepath = new File(path, filename);

            // 判断路径是否存在,不存在则新创建一个
            if (!filepath.getParentFile().exists()) {
                filepath.getParentFile().mkdirs();
            }

            // 将上传文件保存到目标文件目录
            String start=path+filename;
            String end="/upload/"+filename;
            //把文件上传到本地路径
            file.transferTo(new File(path + File.separator + filename));
            Path srcPath = new Path(start);
            Path dstPath = new Path(end);
            //把本地文件上传到hdfs上
            fs.copyFromLocalFile(srcPath,dstPath);



            System.out.println(end);
            Map<String,Object> word=wordCount.fileGo(end);
            System.out.println(word);
            model.addAttribute("data",word);
        }

        return "uploadWordCount";
    }

总结下文件上传的要点:
1、表单method设置为post,并将enctype设置为 multipart/form-data
2、文件映射为MultipartFile对象进行解析
3、上传文件大小 spring.http.multipart.max-file-size 限制

假如发生:
org.apache.tomcat.util.http.fileupload.FileUploadBase$FileSizeLimitExceededException: The field file exceeds its maximum permitted size of 1048576 bytes.
这个错误是由于springboot默认的文件大小是1MB造成的,当上传文件超过1MB时就会报错。解决这个报错可以在application.properties中设置上传参数,参数项是默认的,我们设置最大上传文件大小不超过10MB,再次上传会成功。

spring.http.multipart.max-file-size=10MB
spring.http.multipart.max-request-size=10MB

5.在scala得到的结果怎样转化为java的对象传出去:

//转为java map类型传出
val map:java.util.Map[String,Int]=rdd2.collectAsMap().asJava
//转为java list类型传出
val list: List[Int] = rdd.collect().toList.asJava

6.XXXXXXX-1.0-SNAPSHOT.jar 中没有主清单属性的解决办法

<build>
    <plugins>
        <plugin>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-maven-plugin</artifactId>
        </plugin>
    </plugins>
</build>

7."错误: 找不到或无法加载主类 springboot.Application"
跳转到项目目录下执行’mvn clean install’,命令后重新运行该项目即可

8.下载hadoop.dll
https://github.com/steveloughran/winutils

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 194,088评论 5 459
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 81,715评论 2 371
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 141,361评论 0 319
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 52,099评论 1 263
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 60,987评论 4 355
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 46,063评论 1 272
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 36,486评论 3 381
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 35,175评论 0 253
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 39,440评论 1 290
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 34,518评论 2 309
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 36,305评论 1 326
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 32,190评论 3 312
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 37,550评论 3 298
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 28,880评论 0 17
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,152评论 1 250
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 41,451评论 2 341
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 40,637评论 2 335