精华 通过源码解析 Node.js 中导流(pipe)的实现
发布于 4 年前 作者 DavidCai1993 19965 次浏览 最后一次编辑是 3 年前 来自 分享

Node.js中,流(Stream)是其众多原生对象的基类,它对处理潜在的大文件提供了支持,也抽象了一些场景下的数据处理和传递。在它对外暴露的接口中,最为神奇的,莫过于导流(pipe)方法了。鉴于近期自己正在阅读Node.js中的部分源码,也来从源码层面分享下导流的具体实现。

正题

以下是一个关于导流的简单例子:

'use strict'
import {createReadStream, createWriteStream} from 'fs'

createReadStream('/path/to/a/big/file').pipe(createWriteStream('/path/to/the/dest'))

再结合官方文档,我们可以把pipe方法的主要功能分解为:

  • 不断从来源可读流中获得一个指定长度的数据。
  • 将获取到的数据写入目标可写流。
  • 平衡读取和写入速度,防止读取速度大大超过写入速度时,出现大量滞留数据。

好,让我们跟随Node.js项目里lib/_stream_readable.jslib/_stream_writable.js中的代码,逐个解析这三个主要功能的实现。

读取数据

刚创建出的可读流只是一个记录了一些初始状态的空壳,里面没有任何数据,并且其状态不属于官方文档中的流动模式(flowing mode)和暂停模式(paused mode)中的任何一种,算是一种伪暂停模式,因为此时实例的状态中记录它是否为暂停模式的变量还不是标准的布尔值,而是null,但又可通过将暂停模式转化为流动模式的行为(调用实例的resume()方法),将可读流切换至流动模式。在外部代码中,我们可以手动监听可读流的data事件,让其进入流动模式:

// lib/_stream_readable.js
// ...

Readable.prototype.on = function(ev, fn) {
  var res = Stream.prototype.on.call(this, ev, fn);

  if (ev === 'data' && false !== this._readableState.flowing) {
    this.resume();
  }

  // ...

  return res;
};

可见,可读流类通过二次封装父类(EventEmitter)的on()方法,替我们在监听data事件时,将流切换至了流动模式。而开始读取数据的动作,则存在于resume()方法调用的内部方法resume_()中,让我们一窥究竟:

// lib/_stream_readable.js
// ...

function resume_(stream, state) {
  if (!state.reading) {
    debug('resume read 0');
    stream.read(0);
  }

  // ...
}

通过向可读流读取一次空数据(大小为0),将会触发实例层面实现的_read()方法,开始读取数据,然后利用读到的数据触发data事件:

// lib/_stream_readable.js
// ...

Readable.prototype.read = function(n) {
  // ...
  // 此次判断的意图为,如果可读流的缓冲中已满,则只空触发readable事件。
  if (n === 0 &&
      state.needReadable &&
      (state.length >= state.highWaterMark || state.ended)) {
    if (state.length === 0 && state.ended)
      endReadable(this);
    else
      emitReadable(this);
    return null;
  }
  
  // 若可读流已经被传入了终止符(null),且缓冲中没有遗留数据,则结束这个可读流
  if (n === 0 && state.ended) {
    if (state.length === 0)
      endReadable(this);
    return null;
  }

  // 若目前缓冲中的数据大小为空,或未超过设置的警戒线,则进行一次数据读取。
  if (state.length === 0 || state.length - n < state.highWaterMark) {
    doRead = true;
  }

  if (doRead) {
    // ...
    this._read(state.highWaterMark);
  }

  // ...

  if (ret !== null)
    this.emit('data', ret);

  return ret;
};

可见,在可读流的read()方法内部,通过调用在实例层面实现的_read(size)方法,取得了一段(设置的警戒线)大小的数据,但是,你可能会疑惑,这只是读取了一次数据啊,理想情况下,应该是循环调用_read(size)直至取完所有数据才对啊!?其实,这部分的逻辑存在于我们实现_read(size)方法时,在其内部调用的this.push(data)方法中,在最后其会调用私有方法maybeReadMore_(),再次触发read(0),接着在read(0)函数的代码中再次判断可读流是否能够结束,否则再进行一次_read(size)读取:

// lib/_stream_readable.js
// ...

Readable.prototype.push = function(chunk, encoding) {
  var state = this._readableState;
  // ...
  return readableAddChunk(this, state, chunk, encoding, false);
};

function readableAddChunk(stream, state, chunk, encoding, addToFront) {
  // ...
  if (er) {
    stream.emit('error', er);
  } else if (chunk === null) {
    state.reading = false;
    onEofChunk(stream, state); // 当传入终止符时,将可读流的结束标识(state.ended)设为true
  }
  // ...
      maybeReadMore(stream, state);
    }
  } 

  // ...
}

function maybeReadMore(stream, state) {
  if (!state.readingMore) {
    // ...
    process.nextTick(maybeReadMore_, stream, state);
  }
}

function maybeReadMore_(stream, state) {
    // ...
    stream.read(0);
}

function onEofChunk(stream, state) {
  if (state.ended) return;
  // ...
  state.ended = true;
  // ...
}

好的,此时从可读流中读取数据的整个核心流程已经实现了,让我们归纳一下:

  • 刚创建出的可读流只是一个空壳,保存着一些初始状态。
  • 监听它的data事件,将会自动调用该可读流的resume()方法,使流切换至流动模式。
  • resume()方法的内部函数_resume()中,对可读流进行了一次read(0)调用。
  • read(0)调用的内部,首先检查流是否符合了结束条件,若符合,则结束之。否则调用实例实现的_read(size)方法读取一段预设的警戒线(highWaterMark)大小的数据。
  • 在实例实现_read(size)函数时内部调用的this.push(data)方法里,会先判断的读到的数据是否为结束符,若是,则将流的状态设为结束,然后再一次对可读流调用read(0)

写入数据

和可读流一样,刚创建出的可写流也只是一个记录了相关状态(包括预设的写入缓冲大小)的空壳。直接调用它的write方法,该方法会在其内部调用writeOrBuffer函数来对数据是否可以直接一次性全部写入进行判断:

// lib/_stream_writable.js
// ...

function writeOrBuffer(stream, state, chunk, encoding, cb) {
  // ...
  var ret = state.length < state.highWaterMark;

  // 记录可写流是否需要出发drain事件
  if (!ret)
    state.needDrain = true;

  if (state.writing || state.corked) {
    // 若可写流正在被写入或被人工阻塞,则先将写入操作排队
    // ...
  } else {
    doWrite(stream, state, false, len, chunk, encoding, cb);
  }

  return ret;
}

function doWrite(stream, state, writev, len, chunk, encoding, cb) {
  // ...
  if (writev)
    stream._writev(chunk, state.onwrite);
  else
    stream._write(chunk, encoding, state.onwrite);
  // ...
}

从代码中可知,在writeOrBuffer函数记录下了数据是否可以被一次性写入后,调用了实例层实现的_write()_writev()方法进行了实际的写入操作。那么,如果不能一次性写入完毕,那么在真正写入完毕时,又是如何进行通知的呢?嗯,答案就在设置的state.onwrite回调中:

// lib/_stream_writable.js
// ...

function onwrite(stream, er) {
  // ...

  if (er)
    onwriteError(stream, state, sync, er, cb);
  else {
    // ...
    if (sync) {
      process.nextTick(afterWrite, stream, state, finished, cb);
    } else {
      afterWrite(stream, state, finished, cb);
    }
  }
}

function afterWrite(stream, state, finished, cb) {
  if (!finished)
    onwriteDrain(stream, state);
  // ...
}

function onwriteDrain(stream, state) {
  if (state.length === 0 && state.needDrain) {
    state.needDrain = false;
    stream.emit('drain');
  }
}

可见,在回调函数的执行中,会对该可写流该次被写入的数据是否超过了警戒线的状态进行判断,如果是,则触发drain事件,进行通知。

我们也可以调用end()方法来表明要结束这个写入流,并进行最后一次写入,end()方法的内部最终会调用endWritable()函数来讲可写流的状态切换为已结束:

// lib/_stream_writable.js
// ...

function endWritable(stream, state, cb) {
  // ...
  state.ended = true;
  stream.writable = false;
}

此时,向可写流中写入数据的整个核心流程已经实现了,这个流程和可写流的循环读取流程不同,它是直线的,归纳一下:

  • 刚创建出的可写流只是一个空壳,保存着一些初始状态。
  • 调用write()方法,其内部的writeOrBuffer()检测该次写入的数据是否需要被暂存在缓冲区中。
  • writeOrBuffer()函数调用实例实现的_write()_writev()方法,进行实际的写入,完成后调用回调函数state.onwrite
  • 回调函数中检测该次写入是否被缓冲,若是,触发drain事件。
  • 重复以上过程,直至调用end()方法结束该可写流。

导流

在摸清了从可读流中读数据,和向可写流中写数据实现的核心流程后,Node.js中实现导流的核心流程其实已经呼之欲出了。首先,为了开始从源可读流读取数据,在pipe()方法的内部,它主动为源可读流添加了data事件的监听函数:

// lib/_stream_readable.js
// ...

Readable.prototype.pipe = function(dest, pipeOpts) {
  // ...

  src.on('data', ondata);
  function ondata(chunk) {
      // ...
      src.pause();
    }
  }

  // ...
  return dest;
};

从代码中可见,若向目标可写流写入一次数据时,目标可写流表示该次写入它需要进行缓冲,则主动将源可读流切换至暂停模式。那么,源可读流通过什么手段得知可以再次读取数据并写入呢?嗯,通过监听目标可写流的drain事件:

// lib/_stream_readable.js
// ...

Readable.prototype.pipe = function(dest, pipeOpts) {
  // ...
  var ondrain = pipeOnDrain(src);
  dest.on('drain', ondrain);

  // ...
  return dest;
};

function pipeOnDrain(src) {
  return function() {
    var state = src._readableState;
    
    // 目标可写流可能会存在多次写入需要进行缓冲的情况,需确保所有需要缓冲的写入都
    // 完成后,再次将可读流切换至流动模式。
    if (state.awaitDrain)
      state.awaitDrain--;
    if (state.awaitDrain === 0 && EE.listenerCount(src, 'data')) {
      state.flowing = true;
      flow(src);
    }
  };
}

最后,监听源可读流的结束事件,对应着结束目标可写流:

// lib/_stream_readable.js
// ...

Readable.prototype.pipe = function(dest, pipeOpts) {
  // ...
  var endFn = doEnd ? onend : cleanup;
  if (state.endEmitted)
    process.nextTick(endFn);
  else
    src.once('end', endFn);

  function onend() {
    debug('onend');
    dest.end();
  }

  // ...
  return dest;
};

由于前面的铺垫,实际导流操作的核心流程其实实现得非常轻松,归纳一下:

  • 主动监听源可读流的data事件,在该事件的监听函数中,向目标可写流写入数据。
  • 若目标可写流表示该写入操作需要进行缓冲,则立刻将源可读流切换至暂停模式。
  • 监听目标可写流的drain事件,当目标可写流里所有需要缓冲的写入操作都完毕后,将流重新切换回流动模式。
  • 监听源可读流的end事件,相应地结束目标可写流。

最后

Node.js中流的实际实现其实非常庞大,复杂,精妙。每一个流的内部,都管理着大量状态。本文仅仅只是在庞大的流的实现中,选择了一条主线,进行了阐述。大家如果有闲,非常推荐完整地阅读一遍其实现。

参考:

13 回复

膜,我是给node核心源码跪了,各种微优化黑魔法看得都找不到北了。stream部分更是nodejs核心模块中最复杂的部分没有之一。佩服楼主

话说一图胜千言,继续安利nodejs change log里的图。

https://cloud.githubusercontent.com/assets/37303/5728694/f9a3e300-9b20-11e4-9e14-a6938b3327f0.png

stream是见过的神级抽象之一,顺手安利 EventStream is like functional programming meets IO,函数式大法好

看到楼主翻译过typescript handbook,能指教下对typescript看法?

@reverland 个人觉得,对于构建复杂的项目,它还是非常有优势的。不过,和coffee这种不同,它编译出来的代码对JS世界的用户不太友好,尤其是在报错方面(类型检查全丢,从JS里报出来的错有时会不知所云)。用JS实现代码,事后加上描述文件这种做法,可以对这种情况有所缓和,但这样又回到了用JS写代码的老路上了… 所以还是感觉,适合自己人搭建大型项目,但不适合写普适的(给外面JS世界用的)工具。

@magicdawn 归纳的工具好赞!

@magicdawn 这个好,先收藏

果然干活,非常详细的撸了管道的概念,先收藏,后期学习

不错,谢谢分享

@jason1213 接下来会有更多:)

留名,谢谢楼主分享

不错,谢谢分享

这个好nb 学习源码比低头只打业务代码来的实在的多 Mark了.

回到顶部