被關在idea小黑屏里寫spark程序

一、先在idea中添加Scala插件

二、使用Maven創建新項目

1.啟動idea,選擇新建項目。之后的設置如下:

2.將Scala添加到全局庫中(注意:Scala的版本不宜太高,最好是2-12.否則后面會報下面這個錯誤

E:\tool接口\SparkCore_01\src\main\scala\WordCount.scala:16:9
illegal cyclic inheritance involving trait Iterableval counts = textFiles

3.設置maven依賴項。修改pom.xml文件,添加如下:

<!--  添加依賴:  scala-library spark-core--><dependencies><dependency><groupId>org.apache.spark</groupId><artifactId>spark-core_2.12</artifactId><version>3.1.2</version></dependency><dependency><groupId>org.scala-lang</groupId><artifactId>scala-library</artifactId><version>2.12.15</version></dependency></dependencies>

?4.下載依賴。添加完成之后,刷新Maven,它會幫助我們去下載依賴。

5.編寫代碼。修改文件夾的名字。(注意:是在重構里面有重命名)

6.新建Scala類。如果這里沒有看到Scala類的選項,就去檢查第2步。(如果沒有出現scala類,請再次添加全局庫。)

7.選擇Object,輸入WordCount

8.編寫代碼如下

import org.apache.spark.{SparkConf, SparkContext}
object WordCount{def main(args: Array[String]): Unit = {// 配置 Spark 應用程序val conf = new SparkConf().setAppName("WordCount").setMaster("local[*]")// 創建 SparkContext 對象val sc = new SparkContext(conf)// 讀取目錄下的所有文本文件val textFiles = sc.wholeTextFiles("input")// 提取文本內容并執行 WordCount 操作val counts = textFiles.flatMap { case (_, content) => content.split("\\s+") }.map(word => (word, 1)).reduceByKey(_ + _)// 將所有分區的數據合并成一個分區val singlePartitionCounts = counts.coalesce(1)// 保存結果到文件singlePartitionCounts.saveAsTextFile("output")// 停止 SparkContextsc.stop()}
}

9.準備待統計的詞頻文件。在項目根目錄下建立文件夾input,并穿件兩個文本文件:word1.txt, word2.txt。文本內容隨意。

10.運行代碼。點擊運行代碼。(紅色無所謂,只要后面出現:進程已結束,退出代碼為 0。這句就是對的。)

11.生成結果如下。

?

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/pingmian/78807.shtml
繁體地址,請注明出處:http://hk.pswp.cn/pingmian/78807.shtml
英文地址,請注明出處:http://en.pswp.cn/pingmian/78807.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

自動化立庫/AGV物流仿真詳細步驟

以下是一種可以在預算和周期內實現自動化立庫及AGV 方案仿真分析的方法&#xff1a; 一、工具選擇 軟件工具FlexSim&#xff1a;這是一款流行的離散事件仿真軟件。它具有直觀的圖形用戶界面&#xff0c;通過簡單的拖拽操作就可以構建自動化立庫和 AGV 的模型。其內置的豐富的…

使用springboot+easyexcel實現導出excel并合并指定單元格

1&#xff1a;準備一個單元格合并策略類代碼&#xff1a; import com.alibaba.excel.metadata.Head; import com.alibaba.excel.metadata.data.WriteCellData; import com.alibaba.excel.write.handler.CellWriteHandler; import com.alibaba.excel.write.metadata.holder.Writ…

Python三大Web框架對比:Django、Flask、Tornado的異步實現方式詳解

目錄 引言 一、框架基礎概覽 1.1 Django 1.2 Flask 1.3 Tornado 二、異步編程基礎 2.1 同步 vs 異步 2.2 Python異步演進 三、框架異步實現對比 3.1 Django的異步進化 3.2 Flask的異步擴展 3.3 Tornado的異步范式 四、異步實現差異對比 4.1 實現機制對比 4.2 性…

深入理解Spring AI框架的核心概念

深入理解Spring AI框架的核心概念 前言 在當今人工智能飛速發展的時代&#xff0c;將AI技術集成到應用程序中已成為眾多開發者關注的焦點。Spring AI框架為Java開發者提供了便捷的途徑來實現這一目標。理解其核心概念對于充分發揮框架的潛力至關重要。本文將詳細探討Spring A…

LabVIEW基于VI Server的控件引用操作

本 VI 通過展示控件引用&#xff08;Control References&#xff09;的使用&#xff0c;借助 VI Server 實現對前面板對象的編程操作。 ? 詳細說明 隱式屬性節點&#xff08;Implicitly Linked Property Node&#xff09;&#xff1a;通過右鍵單擊控件&#xff08;或其控件終…

AI 邊緣計算網關十大品牌

引言 在物聯網與人工智能技術飛速發展的當下&#xff0c;數據量呈爆發式增長&#xff0c;對數據處理的實時性、準確性和安全性要求不斷提高。AI邊緣計算網關應運而生&#xff0c;它融合了人工智能、邊緣計算與物聯網技術&#xff0c;在靠近數據源或物理設備的網絡邊緣側&#…

基于深度學習的視頻目標跟蹤算法研究

標題:基于深度學習的視頻目標跟蹤算法研究 內容:1.摘要 隨著視頻數據的爆炸式增長&#xff0c;視頻目標跟蹤在智能監控、自動駕駛、人機交互等領域有著廣泛的應用需求。本文的目的是研究基于深度學習的視頻目標跟蹤算法&#xff0c;以提高跟蹤的準確性和實時性。方法上&#x…

C++代碼隨想錄刷題知識分享-----面試題鏈表相交

一、題目要求 題目&#xff1a;給定兩條單鏈表 headA、headB&#xff0c;找出它們相交的起始節點&#xff08;節點對象相同而非數值相等&#xff09;。若無交點返回 null。 限制&#xff1a;鏈表無環&#xff1b;函數返回后鏈表結構不能被破壞。 圖示兩個鏈表在節點 c1 開始相…

修改輸入框選擇框顏色

項目場景&#xff1a; 提示&#xff1a;這里簡述項目相關背景&#xff1a; 有時候需要改寫element原來輸入框/選擇框的顏色 問題描述 提示&#xff1a;這里描述項目中遇到的問題&#xff1a; 輸入框的話需要hover時邊框顏色修改&#xff0c;選擇值的時候邊框顏色修改以及選…

8.學習筆記-Maven進階(P82-P89)

&#xff08;一&#xff09;Maven-08-配置文件加載屬性 通過maven可以做版本的集中管理&#xff0c;所以能不能通過maven進行配置文件&#xff08;jdbc.properties&#xff09;的集中管理。 &#xff08;1&#xff09;resource-》jdbc.properties 可以識別$符號 因為只能…

基于Springboot+Mysql的漢服推廣網站(含LW+PPT+源碼+系統演示視頻+安裝說明)

系統功能 管理員功能&#xff1a;首頁、個人中心、漢服知識管理、服裝展示管理、服裝類別管理、用戶相冊管理、論壇交流、系統管理、訂單管理&#xff1b;用戶功能&#xff1a;首頁、個人中心、用戶相冊管理、論壇交流、我的收藏管理、訂單管理。 作者&#xff1a;計算機搬磚家…

Missashe考研日記-day30

Missashe考研日記-day30 0 寫在前面 日記也是寫到第30篇了哈哈&#xff0c;滿月了&#xff0c;雖然過了不止30天中間有斷更&#xff0c;但還是表揚一下自己堅持下來了。&#xff1a;&#xff09; 1 專業課408 學習時間&#xff1a;2h30min學習內容&#xff1a; 今天有其他事…

HHsuite同源序列搜索數據庫構建

HHsuite 可用的數據庫格式簡介 HHsuite 是用于蛋白質序列比對和同源性檢測的工具套件,它使用特定的數據庫格式以實現高效的數據存儲和快速的檢索。HHsuite 常用的數據庫格式主要基于 FFINDEX(Flat-File Index),這是一種簡單而高效的文件索引系統,它將數據文件(如蛋白質序…

基于HTML CANVAS和EXCEL的xlsx文件展示工具websheet

什么是WEBSHEET websheet基于HTML5的CANVAS和JAVASCRIPT開發的純前端xlsx文件展示控件&#xff0c;該控件著重的頁面展示&#xff0c;主要完成了文件導入、導出、文本展示、格式化文本、合并單元格、邊框、底色、設置行列寬度高度&#xff0c;行列隱藏、視圖鎖定、基礎表格、撤…

Android Studio for Platform(ASFP)真機調試

連接設備 由于ubuntu連接adb設備每次都需要配置usb權限&#xff0c;很麻煩。并且每次換設備還要重新配置&#xff0c;我多數設備都是用wifi的adb方式連接。 開發板顯示 連接顯示器配合usb鼠標或者遙控器操作&#xff08;因為開發板默認開啟了adb&#xff0c;我這里是使用有線…

基于springboot+vue的健康健身追蹤系統

開發語言&#xff1a;Java框架&#xff1a;springbootJDK版本&#xff1a;JDK1.8服務器&#xff1a;tomcat7數據庫&#xff1a;mysql 5.7數據庫工具&#xff1a;Navicat11開發軟件&#xff1a;eclipse/myeclipse/ideaMaven包&#xff1a;Maven3.3.9 系統展示 用戶信息管理 健…

Ubuntu下安裝vsode+qt搭建開發框架(一)

Ubuntu下安裝vsode+qt搭建開發框架(一) g++的編譯環境,這里不介紹,可點擊這里查看 查看一下當前的g++環境 g++ --version g++ (Ubuntu 11.4.0-1ubuntu1~22.04) 11.4.0 Copyright (C) 2021 Free Software Foundation, Inc. This is free software; see the source for copyin…

php 需要學會哪些技術棧,掌握哪些框架

作為一個「野生」程序員&#xff0c;我的學習過程比較急功近利。 我記得自己寫的第一個 PHP 程序是留言本。一上來對 PHP 一竅不通&#xff0c;所以直接去網上找了個留言本的源碼&#xff0c;下載下來后先想辦法讓它在自己電腦上運行起來。通過這個過程掌握了 PHP 開發環境的搭…

近期實踐總結

一、計算機二級考試到底教會了我們什么&#xff1f; 1、概況 根據本人復習、考試的經驗&#xff0c;不難發現里面的試題或多或少有些死板&#xff08;甚至可以說落后于時代&#xff09;&#xff0c;當今時代已經不是二十年前什么都需要手搓的時代了&#xff0c;引擎、集成類軟…

js day8

事件綁定 事件&#xff1a;發生在html元素上的特定動作&#xff0c;鼠標點擊&#xff0c;鍵盤按下&#xff0c;鼠標移入 事件三要素&#xff1a;事件源&#xff08;觸發事件的元素&#xff09; 事件類型&#xff0c;事件觸發后執行的函數 通過html觸發事件&#xff08;不建議…