推薦答案
Spark是一種快速通用的分布式計算系統(tǒng)，用于大規(guī)模數(shù)據(jù)處理。它最初由加州大學(xué)伯克利分校的AMPLab開發(fā)，作為Hadoop的一個子項目，并于2010年開源。
Spark提供了高級API，包括Java、Scala、Python和R，以及SQL查詢、流處理和圖形處理。它支持各種數(shù)據(jù)源，包括Hadoop Distributed File System(HDFS)、Apache Cassandra、Apache HBase等。火花還
Spark的主要優(yōu)點是其速度和可擴展性。與傳統(tǒng)的MapReduce模型相比，Spark在內(nèi)存中保留數(shù)據(jù)，從而避免了磁盤I / O的開銷。Spark還支持基于內(nèi)存的迭代計算模型，可以在多個節(jié)點之間進行數(shù)據(jù)共享和通信，從而大大提高了計算速度和吞吐量。
由于其靈活性和高性能，Spark被廣泛用于各種大規(guī)模數(shù)據(jù)處理場景，包括機器學(xué)習(xí)、數(shù)據(jù)挖掘、圖形處理、日志分析等。
其他答案
-
Spark是一種通用的大數(shù)據(jù)計算框架，和傳統(tǒng)的大數(shù)據(jù)技術(shù)MapReduce有本質(zhì)區(qū)別。前者是基于內(nèi)存并行計算的框架，而mapreduce側(cè)重磁盤計算。Spark是加州大學(xué)伯克利分校AMP實驗室開發(fā)的通用內(nèi)存并行計算框架，用于構(gòu)建大型的、低延遲的數(shù)據(jù)分析應(yīng)用程序。
-
Spark同樣支持離線計算和實時計算兩種模式。Spark離線計算速度要比Mapreduce快10-100倍。而實時計算方面，則依賴于SparkStreaming的批處理能力，吞吐量大。不過相比Storm，SparkStreaming并不能做到真正的實時。
熱問標簽 更多>>
熱問TOP榜
最新熱問
京公網(wǎng)安備 11010802030320號