1.Ubuntu 18.04-0003-安装 intellij idea 社区版 2022.1.3
2.如何在Mac使用Intellij idea搭建远程Hadoop开发环境
3.ç¨Intellij idea ç¼åScalaç¨åºSpark2.0.0 ä¾èµjarå
å¦ä½è§£å³
4.Spark第一个程序,查看a查WordCount
5.IntelliJ-IDEA-Maven-Scala-Spark开发环境搭建
Ubuntu 18.04-0003-安装 intellij idea 社区版 2022.1.3
已经成功安装了佳娃和斯卡拉开发环境,源g源现在转向安装IntelliJ IDEA社区版.1.3。码i码这个系列文章包括: Ubuntu .-:从虚机安装 Ubuntu .-:基础设置 以下是查看a查详细的安装步骤:1. 安装IntelliJ IDEA社区版
首先,安装非官方PPA源,源g源然后更新系统,码i码网络书签 源码接着安装ideaIC-.1.3版本。查看a查2. 运行IntelliJ IDEA社区版
通过Command键搜索并启动IntelliJ,源g源接受用户条款,码i码选择数据分享设置(可以选择不发送或匿名发送统计信息)。查看a查3. 安装斯卡拉插件
在新项目中,源g源点击语言添加选项,码i码选择斯卡拉并安装插件,查看a查完成后重启IntelliJ IDEA。源g源4. 配置环境
新项目中,码i码app软件源码破解JDK为1.8,sbt为1.6.2,Scala为2..8。5. 后续计划
已经成功完成Ubuntu .上IntelliJ IDEA社区版的安装,并设置了斯卡拉开发环境。接下来的教程将探讨如何使用斯卡拉编写Spark项目。如何在Mac使用Intellij idea搭建远程Hadoop开发环境
(1)准备工作
1)
安装JDK
6或者JDK
7
2)
安装scala
2..x
(注意版本)
2)下载Intellij
IDEA最新版(本文以IntelliJ
IDEA
Community
Edition
.1.1为例说明,不同版本,界面布局可能不同)
3)将下载的Intellij
IDEA解压后,安装scala插件,流程如下:
依次选择“Configure”–>
“Plugins”–>
“Browse
repositories”,输入scala,然后安装即可
(2)搭建Spark源码阅读环境(需要联网)
一种方法是直接依次选择“import
project”–>
选择spark所在目录
–>
“SBT”,之后intellij会自动识别SBT文件,垂直像素直方图 源码并下载依赖的外部jar包,整个流程用时非常长,取决于机器的网络环境(不建议在windows
下操作,可能遇到各种问题),一般需花费几十分钟到几个小时。注意,下载过程会用到git,因此应该事先安装了git。
第二种方法是首先在linux操作系统上生成intellij项目文件,然后在intellij
IDEA中直接通过“Open
Project”打开项目即可。在linux上生成intellij项目文件的方法(需要安装git,不需要安装scala,sbt会自动下载)是:在
spark源代码根目录下,输入sbt/sbt
gen-idea
注:如果你在windows下阅读源代码,c 获取运费 源码建议先在linux下生成项目文件,然后导入到windows中的intellij
IDEA中。
(3)搭建Spark开发环境
在intellij
IDEA中创建scala
project,并依次选择“File”–>
“project
structure”
–>
“Libraries”,选择“+”,将spark-hadoop
对应的包导入,比如导入spark-assembly_2.-0.9.0-incubating-hadoop2.2.0.jar(只需导入该jar
包,其他不需要),如果IDE没有识别scala
库,则需要以同样方式将scala库导入。之后开发scala程序即可:
编写完scala程序后,可以直接在intellij中,以local模式运行,方法如下:
点击“Run”–>
“Run
Configurations”,htop源码交叉编译在弹出的框中对应栏中填写“local”,表示将该参数传递给main函数,如下图所示,之后点击“Run”–>
“Run”运行程序即可。
如果想把程序打成jar包,通过命令行的形式运行在spark
集群中,可以按照以下步骤操作:
依次选择“File”–>
“Project
Structure”
–>
“Artifact”,选择“+”–>
“Jar”
–>
“From
Modules
with
dependencies”,选择main函数,并在弹出框中选择输出jar位置,并选择“OK”。
最后依次选择“Build”–>
“Build
Artifact”编译生成jar包。
ç¨Intellij idea ç¼åScalaç¨åºSpark2.0.0 ä¾èµjarå å¦ä½è§£å³
å¨âFile|Project Structure|Librariesâçªä½ä¸ç¹å»ç»¿è²+å·ï¼éæ©âJavaâï¼å¨å¼¹åºççªä½ä¸éæ©âSparkâçå®è£ ç®å½ï¼å®ä½å°Spark\jarsç®å½ï¼ç¹å»âOKâï¼æå ¨é¨jaræ件å¼å ¥å°é¡¹ç®ä¸ãç½ä¸åç®ååºçç书ä¸è®²è§£æ¯spark2.0以ä¸çæ¬ï¼éç¨çæ¯æsparkleæ ¸å¿æ件ï¼å¦ï¼âspark-assembly-1.3.0-hadoop2.4.0.jarâï¼æ·è´å°Interllij IDEAå®è£ ç®å½ä¸çLibç®å½ä¸ï¼å使ç¨Sparkãç±äºSpark2.1.0å·²ç»åæ¶äºè¯¥æ件ï¼å æ¤æ æ³ç¨åå çæ¹æ³ã
Spark第一个程序,WordCount
1、环境准备:idea,jdk,scala,请参考相关文章
2、创建一个新的maven项目
3、在项目中添加必要的依赖关系
4、在项目根目录下创建名为“datas”的文件夹,并在该文件夹中创建两个文本文件“1.txt”和“2.txt”,分别写入相应的数据
5、在maven项目文件夹上右击,选择添加Scala支持
6、在Java目录下创建一个名为“WordCount.scala”的Scala文件,文件内容如下
7、执行程序后,结果如下:大功告成!o(╯□╰)o
IntelliJ-IDEA-Maven-Scala-Spark开发环境搭建
首先,你需要从官方网站下载并安装Java Development Kit (JDK)。确保安装完成后,检查环境变量是否配置正确。接着,转向Scala,从其官方网站下载并安装最新版本。安装完成后,你可以在IntelliJ IDEA中寻找Scala插件,进行安装以支持Scala开发。
在IntelliJ IDEA中,启动新项目,跟随向导创建一个Maven项目。在向导中,你需要填写项目的基本信息,包括项目名称和版本号。下一步,进入项目的pom.xml文件,这里你可以自定义Maven的依赖项和版本,比如添加对Scala的支持。
删除pom.xml中默认生成的代码,然后动手编写你自己的Hello World程序。这是展示Scala功能的良好起点。记得保存并整理你的代码结构。
编译完成后,你需要定义打包命令,这将生成可部署的项目包。根据你的需求,可以选择合适的打包选项,比如运行`mvn clean package`命令来执行这个过程。
为了测试你的项目,你可以选择将打包后的文件上传到测试环境,或者在本地运行。这样,你可以验证Scala、Maven和Spark集成环境是否已经配置妥当。
以上步骤由Yezhiwei撰写,他在他的博客 IntelliJ-IDEA-Maven-Scala-Spark开发环境搭建-Yezhiwei的博客 | Yezhiwei Blog 上分享了这些经验。请注意,所有内容均来源于网络,版权归属原作者,如遇到问题,请直接与他们联系获取帮助。感谢阅读!
2024-12-24 10:41
2024-12-24 10:38
2024-12-24 10:13
2024-12-24 09:28
2024-12-24 09:23
2024-12-24 09:19
2024-12-24 09:01
2024-12-24 08:16