大数据实训项目(小麦种子)-04、大数据实训项目JavaWeb环境搭建

文章目录

  • 前言
  • 运行前准备工作
    • 1、安装Hadoop3.1.0配置winutils
      • 原因描述
      • 配置方式
      • 注意点(hadoop.dll拷贝System32目录下)
    • 2、hive运行报错(The dir: /tmp/hive on HDFS should be writable. )
  • 项目环境搭建
  • 参考资料

前言

博主介绍:✌目前全网粉丝3W+,csdn博客专家、Java领域优质创作者,博客之星、阿里云平台优质作者、专注于Java后端技术领域。

涵盖技术内容:Java后端、大数据、算法、分布式微服务、中间件、前端、运维等。

博主所有博客文件目录索引:博客目录索引(持续更新)

视频平台:b站-Coder长路

本期大数据实战项目功能演示及环境搭建教程(b站):https://www.bilibili.com/video/BV1F6421V7dY


运行前准备工作

1、安装Hadoop3.1.0配置winutils

原因描述

同可见类似博文:https://blog.csdn.net/lvoelife/article/details/133349627

若是不安装对应hadoop的winutils会出现报错not found,在初始化的时候。


配置方式

①解压3.1.0的haodoop压缩包

将本期虚拟机安装Hadoop压缩包解压:

image-20240608002209190

②配置指定Hadoop版本的winutils工具

接着去github下载相应你对应Hadoop的版本:https://github.com/cdarlint/winutils

image-20240608002343792

我给到的软件包已经把winutils下载下来了,解压就在里面:

image-20240608002421879

操作内容:打开winutils文件,把指定hadoop3.1.0里面的bin文件复制到hadoop的安装路径,替换掉原来的bin文件

替换原本hadoop3.1.0的bin目录(目前我修改了路径hadoop3的目录),替换即可:

image-20240608002453498

③配置Hadoop的环境变量

image-20240608002620705

HADOOP_HOME
D:\softwares\Java\server\hadoop\hadoop-3.1.0

配置完成,之后window环境web项目上传文件的时候会取到这个环境变量来定位bin目录去执行winutils。


注意点(hadoop.dll拷贝System32目录下)

注意:将替换后的hadoop-3.1.0中的bin文件夹下的hadoop.dll拷贝到C:\Windows\System32目录下。

image-20240608154050305


2、hive运行报错(The dir: /tmp/hive on HDFS should be writable. )

出现问题:

  1. IDEA连接不上hive。
  2. 当前服务器运行hive出现下面报错。

image-20240608161139516

解决方案:

hadoop fs -chmod -R 777 /tmp

项目环境搭建

准备内容:tomcat8.5.72、JDK

项目导入见B站第一集:

image-20240614221115264

导入之后先将运行前准备工作做好,接着往下:

1、首先将虚拟机上的所有服务启动好。

2、将IDEA中小麦种子的IP地址全部替换为虚拟机的IP地址,接着即可将web服务启动,进行功能实操。

整个实操见第二个文档:02、大数据实训项目(小麦种子)功能演示


参考资料

[1]. Eclipse配置本地Hadoop开发环境 解决Hadoop问题—HADOOP_:https://download.csdn.net/blog/column/9816387/105248496

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/711670.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

windows 共享给linux 的使用方法

windows 作为服务器,linux作为客户端进行文件共享,有3种方法:samba nfs(网络硬盘)虚拟机共享(VirtualBox vboxsf)。 Samba 共享: 打开【控制面板】-->【启动或关闭windows功能】…

STM32定时器篇——Systick定时器的使用(实现delay延时函数)

一、Systick定时器的简介: Systick定时器就是系统滴答定时器,一个24 位的倒计数定时器对于CM3,CM4内核芯片,都有Systick定时器。当Systick计到0时,将从RELOAD 寄存器中自动重装载定时初值。只要不把它在SysTick 控制及状态寄存器中…

LIMS(实验室)信息管理系统源码:系统构架组成与功能实现

LIMS(实验室)信息管理系统源码:系统构架组成与功能实现 采用先进的计算机网络技术、数据库技术和标准化的实验室管理思想,组成一个全面、规范的管理体系,为实现分析数据网上调度、分析数据自动采集、快速分布、信息共…

海外仓标签管理策略:海外仓系统标签管理设置方法与注意事项

通常来说,一个海外仓每天都会有成千上万的货物进出。只有应用了合适的标签管理策略,才能让这些货物有序,高效的流转。 你就可以随时掌握货物的位置和移动情况,更好的了解库存信息。标签的应用也有利于合理的规划仓库空间&#xf…

甘肃这款饼子很火 你是否有吃过呢

白吉饼那独特的外形,圆圆的十分可爱。👏它的表皮酥脆,内里绵软,麦香四溢。😋拿在手里沉甸甸的,就知道用料十足。 无论是直接吃,感受那纯粹的面香,还是夹上腊汁肉,变成美味…

JUC并发编程-第二天:线程池相关

线程池相关 线程池内置线程池的使用线程池的关闭excute方法和submit方法的区别 线程池 线程池就是一个可以复用线程的技术 public ThreadPoolExecutor(int corePoolSize,int maximumPoolSize,long keepAliveTime,TimeUnit unit,BlockingQueue<Runnable> workQueue,Thread…

数据分析必备:一步步教你如何用matplotlib做数据可视化(2)

1、Matplotlib Anaconda Anaconda是Python和R编程语言的免费开源发行版&#xff0c;用于大规模数据处理&#xff0c;预测分析和科学计算。 该分发使包管理和部署变得简单容易。 Matplotlib和许多其他有用的(数据)科学工具构成了分发的一部分。 包版本由包管理系统Conda管理。 …

!力扣46. 全排列

给定一个不含重复数字的数组 nums &#xff0c;返回其所有可能的全排列 。你可以按任意顺序返回答案。 示例 1&#xff1a; 输入&#xff1a;nums [1,2,3] 输出&#xff1a;[[1,2,3],[1,3,2],[2,1,3],[2,3,1],[3,1,2],[3,2,1]] 示例 2&#xff1a; 输入&#xff1a;nu…

AI产品经理竞争越来越激烈,如何更快入行抢占红利得高薪?

前言 如果你是关注行业趋势的产品经理&#xff0c;那你一定不难察觉&#xff1a; 随着算法算力数据条件的成熟、国家政策的大力支持&#xff0c;当前人工智能赛道的竞争越来越激烈。 与此同时&#xff0c;AI人才的抢夺战也越发火热&#xff1a; 不少传统互联网产品经理都在探…

基于mybatis plus增加较复杂自定义查询以及分页

基于java技术&#xff0c;spring-boot和mybatis-plus搭建后台框架是现在非常流行的技术。 其中关于多表关联查询的实现相对比较复杂&#xff0c;在这里进行记录以供开发人员参考。 以一个系统中实际的实体类为查询为例&#xff0c; T3dMaterial实体其中的fileType属性及字段…

web错题(1)

action属性是form标签的必须属性&#xff0c;用于指定表单提交时表单数据将被发往哪里 dir能够指定文本显示方向的属性 可以产生下拉列表的标记时<select> multiple属性设为true&#xff0c;表示输入字段可以选择多个值 lable标签的for属性可以把lable绑定到另一个元…

基于Java+MySQL+Tomcat+maven+JavaScript+Servlet的个人博客系统

目录 一、项目简介 二、页面效果 三、涉及的知识点 四、准备工作 1、创建maven项目&#xff0c;引入依赖 2、将前端代码粘贴到webapp目录下 3、设计数据库 4、编写数据库代码 以及 封装数据库连接操作 5、创建实体类 以及 封装对数据库的增删查改操作 五、功能实现 1…

互联网应用主流框架整合之构建REST风格的系统

REST&#xff08;Representational State Transfer&#xff09;&#xff0c;中文译为“表述性状态转移”&#xff0c;是由Roy Fielding博士在他的博士论文中提出的一种软件架构风格&#xff0c;特别适用于网络应用的设计。REST不是一个标准&#xff0c;而是一种设计原则和约束集…

59.WEB渗透测试-信息收集- 端口、目录扫描、源码泄露(7)

免责声明&#xff1a;内容仅供学习参考&#xff0c;请合法利用知识&#xff0c;禁止进行违法犯罪活动&#xff01; 内容参考于&#xff1a; 易锦网校会员专享课 上一个内容&#xff1a;58.WEB渗透测试-信息收集- 端口、目录扫描、源码泄露&#xff08;6&#xff09; 关于御剑…

IDEA创建SpringBoot项目教程,讲解超详细!!!(2024)

前言 在创建Spring Boot项目时&#xff0c;为了确保项目的顺利构建和运行&#xff0c;我们依赖于JDK&#xff08;Java开发工具包&#xff09;和Maven仓库。 JDK作为Java编程的基础&#xff0c;提供了编译和运行Java应用程序所需的核心类库和工具。 JDK安装配置教程&#xff1…

PROSAIL模型前向模拟与植被参数遥感

原文链接&#xff1a;PROSAIL模型前向模拟与植被参数遥感 “绿水青山就是金山银山”的生态文明理念现已深入人心&#xff0c;从顶层设计到全面部署&#xff0c;生态文明建设进入举措最实、推进最快、力度最大、成效最好的时期。生态文明评价必须将生态系统健康作为基本内容&am…

【C语言】解决C语言报错:Undefined Reference

文章目录 简介什么是Undefined ReferenceUndefined Reference的常见原因如何检测和调试Undefined Reference解决Undefined Reference的最佳实践详细实例解析示例1&#xff1a;缺少函数定义示例2&#xff1a;函数声明和定义不匹配示例3&#xff1a;未链接必要的库示例4&#xff…

CSRF攻击

改账号和密码 里面有改的账号和密码 我改这个代码的123为456&#xff0c;然后在新的浏览器去执行&#xff0c;然后密码就又被改了 假如黑客知道修改密码的url&#xff0c;那么就危险了 但是也不是随便改 是有前提的&#xff0c;前提是&#xff1a; 1、已经登录了要改密码的…

模板方法模式(大话设计模式)C/C++版本

模板方法模式 C #include <iostream> using namespace std;class TestPaper { public:void TestQ1(){cout << "杨过得到&#xff0c;后来给了郭靖&#xff0c;炼成倚天剑&#xff0c;屠龙刀的玄铁可能是[ ]\na.球磨铸铁 b.马口贴 c.高速合金钢 d.碳素纤维&qu…

【国赛赛题详解】2024年数学建模国赛ABCDEF题(点个关注,后续会更新)

您的点赞收藏是我继续更新的最大动力&#xff01; 一定要点击如下的蓝色字体链接&#xff0c;那是获取资料的入口! 点击链接加入群聊【2024国赛资料合集】&#xff1a;http://qm.qq.com/cgi-bin/qm/qr?_wv1027&keQt5WRIvc5-fogZRrrahAhbqDa2nKfW8&authKey%2BqQfThTx…