Home > AI

字节跳动开源分布式训练框架 BytePS:兼容 TensorFlow 等主流框架

admin   ·   发表于 1个月前   ·   AI

链接=>/bytedance/byteps


BytePS,通过实现一个通用的抽象层,抽象层可以被各种通用框架引用,实现了同时支持多个框架的可能性,因此能够支持 Tensorflow、PyTorch、MXNet 等行业主流训练框架。

BytePS 提供了 TensorFlow、PyTorch、 MXNet 以及 Keras 的插件,用户只要在代码中引用 BytePS 的插件,就可以获得高性能的分布式训练。BytePS 的核心逻辑则实现在 BytePS core 里。具体的通信细节完全由 BytePS 完成,用户完全不需要操心。


1 Reply   |  Until 1个月前 | 45 View

admin
发表于 1个月前

byteps 底层是C++,上层用Python开发.

对业务代码侵入性较低.

评论列表

  • 加载数据中...

编写评论内容
LoginCan Publish Content
程序耗时 0.0178秒 内存:368KB