使用Scala实现Java项目的单词计数:串行及Actor版本
?
? 其實我想找一門“具有Python的簡潔寫法和融合Java平臺的優(yōu)勢, 同時又足夠有挑戰(zhàn)性和靈活性”的編程語言。 Scala 就是一個不錯的選擇。?Scala 有很多語言特性, 建議先掌握基礎(chǔ)常用的: 變量、控制結(jié)構(gòu) 、正則與模式匹配、集合、文件讀寫/目錄遍歷、高階函數(shù)、并發(fā) Actor 模型; 然后是面向?qū)ο筇匦?#xff1a;類、Trait、泛型、注解?、操作符重載; ?最后再細(xì)細(xì)學(xué)習(xí)那些復(fù)雜不常用的特性:類型轉(zhuǎn)換、編譯解析等;注重挖掘根源性的思想,能夠推導(dǎo)出其它的特性。
?
本文使用 Scala 實現(xiàn) Java 項目的單詞計數(shù),采用了順序編程模型;?后面給出了 Actor 模型的基本實現(xiàn)。
?
? ?Scala 常用特性:
1. ?與 Java 庫方便地互操作;能夠使用在 Java Maven 項目中, 只要配置好相應(yīng)的 maven 依賴包和插件即可;
2. ?不必寫分號,腳本特性; 如果多個語句在同一行,則必須寫分號加以區(qū)分;
3. ?變量聲明為 var, 不變量聲明為 val ; 優(yōu)先考慮不變性;
4. ?屬性在前,類型在后; “先思考數(shù)據(jù)模型,后確定數(shù)據(jù)類型” 的思想;
5. ?靜態(tài)類型,具備類型推導(dǎo); 既有工程特性,又兼具腳本能力;
6. ?函數(shù)無返回值定義為 Unit , “通吃型”類型 定義為 Any: var typechangeable: Any ; 后續(xù)可賦為數(shù)值,亦可賦值為字符串或集合;
? ?7. ?無參函數(shù)調(diào)用可以只寫函數(shù)名,不必寫();?
? ?8. ?匿名函數(shù)可以寫成 (A,B,...,Z) => exe(A,B,...,Z) ; ?函數(shù)式編程風(fēng)格有種數(shù)學(xué)的嚴(yán)謹(jǐn)和優(yōu)雅;
? ?9. ?常用集合: Array, ArrayBuffer, mutable.List, immutable.List, mutable.Map, mutable.HashMap, immutable.HashMap, Tuple,
mutable.Set, immutable.Set, mutable.HashSet, immutable.HashSet ?集合有很多方便的工具和方法可使用,可相互轉(zhuǎn)化;
? ? ? ? ? ? ? ? ? ? ? ?訪問 Array 或 Map , 使用 array(0) = "xxx" 或 map("key") = "value" ; 訪問 Tuple 使用 ._1, ._2, ... 第一個索引為 1 !
9. ?使用集合時必須先指明是 mutable 還是 immutable ; 一般函數(shù)返回值使用 immutable, 局部變量使用 mutable ;
?10. ?集合添加元素使用 += , ?集合連接集合使用 ++= ;
?11. ?使用 map, filter 方法對集合映射或過濾處理, 傳遞給函數(shù)的參數(shù)名為 _ ; 組合起來很強(qiáng)大!
?12. ?使用 collection.foreach { e => exe(e) } 或 for(e <- collection) { exe(e) } 進(jìn)行遍歷處理;我更喜歡第一種寫法;
?13. ?使用 object YourAPP extends App { //code } 實現(xiàn) Main 函數(shù),直接在塊 //code 里寫主流程,就像 Python 一樣;
?14. ?import , 嵌套類、函數(shù)、trait 等可以出現(xiàn)的地方很靈活;
?15. ?class MyClass(f1: FType, f2:FType2) extends XXX 可定義類的構(gòu)造器,相當(dāng)于聲明了屬性 f1, f2 的 JavaBean;
?16. ?使用類的伴生對象來計數(shù)和一些操作; 類的伴生對象用于存儲類的單例以及靜態(tài)成員及靜態(tài)方法;
?17. ?使用 actor ! messageString 或 actor ! object 向 actor 發(fā)送信息,就好比使用 obj.dosome 要求對象執(zhí)行某動作一樣;
?18. ?若要發(fā)送的消息比較復(fù)雜,可以包裝成一個類。 case class MessageWrapper(params ...) { } ; ?使用 case?MessageWrapper(params ...) => 來接收和使用該類型的消息。
?19. ?多看文檔,少造輪子。
?
?串行版本
? 結(jié)構(gòu)很清晰: 獲取指定目錄的所有 Java 文件 ?-> 讀取所有 java 文件 => 解析出所有單詞列表 => 統(tǒng)計所有單詞。基本上常見的集合(Array, ArrayBuffer, List, Map, Tuple ) 都用到了。注意到,通過使用 map 方法, 形成連鎖調(diào)用, 這種風(fēng)格還是很流暢的~~ WordStat.init 方法主要用于在其它類中調(diào)用以初始化 WordStat.seps , 比如后面的 Actor 并發(fā)版本。如果只是直接調(diào)用 WordStat 的方法, WordStat.seps 會被初始化為 null?
?
package scalastudy.basicimport scala.collection.immutable.List import scala.collection.mutable import scala.collection.mutable.{ArrayBuffer, Map, HashMap} import java.io.File/*** Created by lovesqcc on 16-3-19.*/ object WordStat extends App {var seps = " -!\"#$%&()*,./:;?@[]^_`{|}~+<=>\\".toArraylaunch()def init(): Unit = {if (WordStat.seps == null) {seps = " -!\"#$%&()*,./:;?@[]^_`{|}~+<=>\\".toArray}}def launch(): Unit = {val path = "/home/lovesqcc/work/java/ALLIN/src/main/java/"val files = fetchAllJavaFiles(path)//files.foreach { println } val allWords = files.map(readFile(_)).map(analysisWords(_)).flatten.toListsortByValue(statWords(allWords)).map(println)}def fileJavaFile(filename:String, suffix:String): Boolean = {return filename.endsWith(suffix)}def fetchAllJavaFiles(path:String): Array[String] = {val javaFilesBuf = ArrayBuffer[String]()fetchJavaFiles(path, javaFilesBuf)return javaFilesBuf.toArray}def fetchJavaFiles(path:String, javafiles:ArrayBuffer[String]):Unit = {val dirAndfiles = new File(path).listFilesif (dirAndfiles!=null && dirAndfiles.length > 0) {val files = dirAndfiles.filter(_.isFile)if (files.length > 0) {javafiles ++= files.map(_.getCanonicalPath).filter(fileJavaFile(_,".java"))}val dirs = dirAndfiles.filter(_.isDirectory)if (dirs.length > 0) {dirs.map(_.getCanonicalPath).foreach { dirpath =>fetchJavaFiles(dirpath, javafiles) }}}}def readFile(filename:String): String = {import scala.io.Sourceval fileSource = Source.fromFile(filename)try {return fileSource.mkString} finally {fileSource.close()}}def analysisWords(content:String):List[String] = {return splitText(content, WordStat.seps);}def statWords(words: List[String]):Map[String,Int] = {val wordsMap = new HashMap[String,Int]words.foreach { w =>wordsMap(w) = wordsMap.getOrElse(w,0) + 1}return wordsMap}def splitText(text:String, seps:Array[Char]): List[String] = {var init = Array(text)seps.foreach { sep =>init = init.map(_.split(sep)).flatten.map(_.trim).filter(s => s.length > 0)}return init.toList}def sortByValue(m: Map[String,Int]): Map[String,Int] = {val sortedm = new mutable.LinkedHashMap[String,Int]m.toList.sortWith{case(kv1,kv2) => kv1._2 > kv2._2}.foreach { t =>sortedm(t._1) = t._2}return sortedm}}?
??
? ?初步的 Actor 并發(fā)版本
? ?1. 角色分工: 從目錄獲取 Java 文件的 FetchJavaFileActor ; 讀取文件的 ReadFileActor ; 從文件中解析單詞的 AnalysisWordActor ; 統(tǒng)計單詞數(shù)目的 StatWordActor 。 由于在串行版本中已經(jīng)做到很好的復(fù)用,因此在角色分工創(chuàng)建 Actor 時,只需要將相應(yīng)的函數(shù)移進(jìn)去作為方法調(diào)用即可。
? ?2. 每個 Actor 完成自己的工作后,會向下一個 Actor 發(fā)送消息,因此前面的 Actor 會持有下一個 Actor 的引用。?FetchJavaFileActor ->?ReadFileActor
? ? ->?AnalysisWordActor ->?StatWordActor
? ?不完善的地方: 1. ?FetchJavaFileActor 一次性獲取所有文件后發(fā)送,并發(fā)度不高; 2. Actor 終止的方式很簡單。 后續(xù)改進(jìn);3. 消息接收不夠健壯。
? ?注: 在 Java Maven 項目中配置可運行 Scala + Akka 程序見后面。
package scalastudy.concurrentimport java.lang.Threadimport akka.actor.{ActorRef, Props, ActorSystem, Actor} import akka.actor.Actor.Receiveimport scala.collection.immutable.List import scala.collection.mutable import scala.collection.mutable.{ArrayBuffer, Map, HashMap} import java.io.Fileimport scalastudy.basic.WordStat/*** Created by lovesqcc on 16-3-19.*/ object ConcurrentWordStat extends App {val seps = " -!\"#$%&()*,./:;?@[]^_`{|}~+<=>\\".toArraylaunch()def launch(): Unit = {val path = "/home/lovesqcc/work/java/ALLIN/src/main/java/"val system = ActorSystem("actor-wordstat")val statWordActor = system.actorOf(Props[StatWordActor])val analysisWordActor = system.actorOf(Props(new AnalysisWordActor(statWordActor)))val readFileActor = system.actorOf(Props(new ReadFileActor(analysisWordActor)))val fetchFileActor = system.actorOf(Props(new FetchJavaFileActor(readFileActor)))fetchFileActor ! pathThread.sleep(6000)val concurrentResult:Map[String,Int] = sortByValue(StatWordActor.finalResult())WordStat.init()val allWords = WordStat.fetchAllJavaFiles(path).map(WordStat.readFile(_)).map(WordStat.analysisWords(_)).flatten.toListval basicResult:Map[String,Int] = sortByValue(WordStat.statWords(allWords))// Compare the results of serial version and actors versionconcurrentResult.keySet.foreach { key =>assert(concurrentResult(key) == basicResult(key))}println("All Passed. Yeah ~~ ")system.shutdown}class FetchJavaFileActor(readFileActor: ActorRef) extends Actor {override def receive: Actor.Receive = {case path:String =>val allJavaFiles:Array[String] = fetchAllJavaFiles(path)allJavaFiles.foreach {readFileActor ! _}}def fileJavaFile(filename:String, suffix:String): Boolean = {return filename.endsWith(suffix)}def fetchAllJavaFiles(path:String): Array[String] = {val javaFilesBuf = ArrayBuffer[String]()fetchJavaFiles(path, javaFilesBuf)return javaFilesBuf.toArray}def fetchJavaFiles(path:String, javafiles:ArrayBuffer[String]):Unit = {val dirAndfiles = new File(path).listFilesif (dirAndfiles!=null && dirAndfiles.length > 0) {val files = dirAndfiles.filter(_.isFile)if (files.length > 0) {javafiles ++= files.map(_.getCanonicalPath).filter(fileJavaFile(_,".java"))}val dirs = dirAndfiles.filter(_.isDirectory)if (dirs.length > 0) {dirs.map(_.getCanonicalPath).foreach { dirpath =>fetchJavaFiles(dirpath, javafiles) }}}}}// 記錄讀取的文件數(shù)便于核對 object ReadFileActor {private var fileCount = 0private def inc() { fileCount +=1 }private def count() = fileCount}class ReadFileActor(analysisWordActor: ActorRef) extends Actor {override def receive: Receive = {case filename:String =>ReadFileActor.inc()println("File count: " + ReadFileActor.count())println(filename)val content = readFile(filename)analysisWordActor ! content}def readFile(filename:String): String = {import scala.io.Sourceval fileSource = Source.fromFile(filename)try {return fileSource.mkString} finally {fileSource.close()}}}case class WordListWrapper(wordlist: List[String]) {def getWordlist = wordlist}class AnalysisWordActor(statWordActor: ActorRef) extends Actor {override def receive: Actor.Receive = {case content:String =>val words = analysisWords(content)statWordActor ! new WordListWrapper(words)}def analysisWords(content:String):List[String] = {return splitText(content, ConcurrentWordStat.seps);}def splitText(text:String, seps:Array[Char]): List[String] = {var init = Array(text)seps.foreach { sep =>init = init.map(_.split(sep)).flatten.map(_.trim).filter(s => s.length > 0)}return init.toList}}object StatWordActor {var stat:Map[String,Int] = new HashMap[String,Int]def add(newstat:Map[String,Int]) = {newstat.foreach { e =>stat(e._1) = stat.getOrElse(e._1, 0) + newstat.getOrElse(e._1, 0)}}def finalResult() = statprivate var recvCount = 0private def inc() { recvCount +=1 }private def count() = recvCount}class StatWordActor extends Actor {override def receive: Actor.Receive = {case WordListWrapper(wordlist: List[String]) =>StatWordActor.inc()println("received times: " + StatWordActor.count())val stat:Map[String,Int] = statWords(wordlist)StatWordActor.add(stat)}def statWords(words: List[String]):Map[String,Int] = {val wordsMap = new HashMap[String,Int]words.foreach { w =>wordsMap(w) = wordsMap.getOrElse(w,0) + 1}return wordsMap}}def sortByValue(m: Map[String,Int]): Map[String,Int] = {val sortedm = new mutable.LinkedHashMap[String,Int]m.toList.sortWith{case(kv1,kv2) => kv1._2 > kv2._2}.foreach { t =>sortedm(t._1) = t._2}return sortedm}}
在 Java Maven 項目中正常運行 Scala + AKKA 編寫的程序?
? ?主要是 Java 版本 + Scala 版本 + AKKA 版本 三者要兼容,版本關(guān)系參考?http://akka.io/downloads/?;先確定 java 版本,然后確定 akka 版本,最后選擇 Scala 版本。?scala-library 的版本 2.11.x 必須與akka artifactId 版本 保持一致 ! 比如?akka artifactId 版本是?<artifactId>akka-actor_2.11</artifactId>,那么 Scala 版本必須是 2.11.x 。
? ?如果是 java8, 那么 jdk8 + <scala-library2.11.8 + akka-actor_2.11(2.4.2)> 后面兩個是 maven 依賴。
<dependency><groupId>org.scala-lang</groupId><artifactId>scala-library</artifactId><version>2.11.8</version></dependency><dependency><groupId>com.typesafe.akka</groupId><artifactId>akka-actor_2.11</artifactId><version>2.4.2</version></dependency>?? ?如果是 java7, 那么 jdk7 +?<scala-library2.11.8 + akka-actor_2.11(2.3.14)>?? ?
<dependency><groupId>org.scala-lang</groupId><artifactId>scala-library</artifactId><version>2.11.8</version></dependency><dependency><groupId>com.typesafe.akka</groupId><artifactId>akka-actor_2.11</artifactId><version>2.3.14</version></dependency>庫的配置:
<repositories><repository><id>typesafe</id><name>Typesafe Repository</name><url>http://repo.typesafe.com/typesafe/releases/</url></repository> </repositories>? ? ?Scala-maven 插件配置:
<plugin><groupId>org.apache.maven.plugins</groupId><artifactId>maven-surefire-plugin</artifactId><version>2.8.1</version><configuration><includes><include>**/*.java</include><include>**/*.scala</include></includes></configuration></plugin><plugin><groupId>org.scala-tools</groupId><artifactId>maven-scala-plugin</artifactId><version>2.15.2</version><executions><execution><id>scala-compile-first</id><phase>process-resources</phase><goals><goal>compile</goal></goals></execution><execution><id>scala-test-compile</id><phase>process-test-resources</phase><goals><goal>testCompile</goal></goals></execution></executions></plugin>? ??
轉(zhuǎn)載于:https://www.cnblogs.com/lovesqcc/p/5297268.html
總結(jié)
以上是生活随笔為你收集整理的使用Scala实现Java项目的单词计数:串行及Actor版本的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: Linux内核初探3
- 下一篇: 【leetcode】Search for