Spark 1.4为DataFrame新增的统计与数学函数

目前，Spark 1.4版本在社区已经进入投票阶段，在Github上也提供了1.4的分支版本。最近，Databricks的工程师撰写了博客，介绍了Spark 1.4为DataFrame新增的统计与数学函数。这篇博客介绍的函数主要包括：

1. 随机数据生成（Random Data Generation）
2. 概要与描述性统计（Summary and descriptive statistics）
3. 协方差与相关性（Sample covariance and correlation）
4. 交叉列表（Cross tabulation）
5. 频率项（Frequent items）
6. 数学函数（Mathematical functions）

随机数据生成 （Random Data Generation）主要是为测试数据提供方便快捷的接口，如range、rand和randn。rand函数提供均匀正态分布，而randn则提供标 准正态分布。在调用这些函数时，还可以指定列的别名，以方便我们对这些数据进行测试。

概要与描述性统计（Summary and Descriptive Statistics）包含了计数、平均值、标准差、最大值、最小值运算。只需要针对DataFrame调用describe函数即可：

``` 
from pyspark.sql.functions import rand, randn
df = sqlContext.range(0, 10).withColumn('uniform', rand(seed=10)).withColumn('normal', randn(seed=27))

df.describe().show()
```

可能的结果显示为：

交叉列表为一组变量提供了频率分布表，在统计学中被经常用到。例如在对租车行业的数据进行分析时，需要分析每个客户（name）租用不同品牌车辆(brand)的次数。此时，就可以直接调用crosstab函数。例如：

df.stat.crosstab("name", "brand").show()

但是需要注意的是，必须确保要进行交叉列表统计的列的基数不能太大。

为 DataFrame新增加的数学函数都是我们在做数据分析中常常用到的，包括cos、sin、floor、ceil以及pow、hypot等。以上新特性 都会在Spark 1.4版本中得到支持，并且支持Python、Scala和Java。在未来发布的版本中，DataBricks还将继续增强统计功能，并使得 DataFrame可以更好地与Spark机器学习库MLlib集成，例如Spearman Correlation（斯皮尔曼相关）、针对协方差运算与相关性运算的聚合函数等。

若希望了解这些新增特性的具体内容，可以持续关注DataBricks的开发者博客。

转自 http://www.infoq.com/cn/news/2015/06/Spark-DataFrame?utm_campaign=infoq_content&utm_source=infoq&utm_medium=feed&utm_term=global