系统概述

TensorFlow的系统结构以C API为界,将整个系统分为前端和后端两个子系统:

  • 前端:提供编程模型,构造计算图
  • 后端:提供运行时环境,执行计算图

4个基本组件:

  • client:通过Session为桥梁,连接TensorFlow后端,并启动计算图的执行过程。
  • Master
    1. 在分布式的运行时环境中,Master根据Session.runFetching参数,从计算图找到所依赖的最小子图;
    2. 将该子图再次分裂为多个子图片段,以便在不同的进程和设备上运行这些子图片段;
    3. 将这些子图片段派发给Worker
    4. Worker启动子图片段的执行过程。
  • Worker
    1. 按照计算图中节点的依赖关系,调用Kernel实现完成运算。
    2. 负责将运算的结果与其他Worker交互。
  • Kernel Implements:执行OP运算。

一种划分子图片段的方法,通过SEND、RECV节点传输数据。

本地模型运行


ShengYg

Step after step the ladder is ascended.


Tags •