腾讯大数据 12 月18 日宣布推出面向机器学习的第三代高性能计算平台——Angel,并预计于 2017 年一季度开放其源代码。 Angel 是腾讯大数据部门第三代的计算平台,使用 Java 和 Scala 语言开发,面向机器学习的高性能分布式计算框架,由腾讯大数据与香港科技大学、北京大学联合研发。它采用参数服务器架构,解决了上一代框架的扩展性问题,支持数据并行及模型并行的计算模式,能支持十亿级别维度的模型训练。 Angel 还采用了多种业界最新技术和腾讯大数据自主研发技术,如 SSP(Stale synchronous Parallel)、异步分布式SGD、多线程参数共享模式 HogWild、网络带宽流量调度算法、计算和网络请求流水化、参数更新索引和训练数据预处理方案等。这些技术使Angel性能大幅提高,达到常见开源系统Spark的数倍到数十倍,能在千万到十亿级的特征维度条件下运行。 在系统易用性上,Angel 提供丰富的机器学习算法库及高度抽象的编程接口、数据计算和模型划分的自动方案及参数自适应配置,同时,用户能像使用MR、Spark 一样在 Angel 上编程,我们还建设了拖拽式的一体化的开发运营门户,屏蔽底层系统细节,降低用户使用门槛。另外,Angel 还支持深度学习,它支持 Caffe、TensorFlow 和 Torch 等业界主流的深度学习框架,为其提供计算加速。 自今年初在腾讯内部上线以来,Angel已应用于腾讯视频、腾讯社交广告及用户画像挖掘等精准推荐业务。Angel 将是腾讯大数据下一代的核心计算平台。 稿源:腾讯科技 |