errorsk-4nQwBFp0LP8NpyK9WwwoT3BlbkFJyH23SKdFWR1P9Sr63sF8

我们将以L-BFGS为例，来分析Spark在机器学习算法的实现上的问题，以及Spark on Angel是如何解决Spark在机器学习任务中的遇到的瓶颈，让Spark的机器学习更加强大。 1....L-BFGS算法说明 L-BFGS模型参数更新过程如下： wk+1← wk-λ·pk 其中，wk 是模型参数， pk = Hk-1 gk 是搜索方向， λ 是通过线性搜索得到的步长。...计算pk = Hk-1 gk 伪代码如下所示，这是人们常说的two-loop recursion算法，是Limited-BFGS算法的核心部分。 返回值 r 是我们说要的pk。...其中，H0-1 是单位阵，yk=gk-gk-1, sk=wk-w k-1k-1，L-BFGS算法将最近 m 轮生成的 yk和 sk 序列，记做 {yk} 和 {sk}。...3）driver上更新模型 w，并将 w 广播到每个Executor 2.2 性能分析 基于Spark的L-BFGS实现的算法优点比较明显： HDFS I/O Spark可以快速读写HDFS上的训练数据