node-formidable详解
发布于 12 年前 作者 skindhu 52654 次浏览 最后一次编辑是 8 年前

<h1>前言</h1> <br/>最近在研究nodejs如何实现文件上传功能,偶然读到<a href=“http://cnodejs.org/blog/?p=2207”>《nodejs-post文件上传原理详解》</a>这篇教程,感觉非常给力。教程中详细解读了post数据格式,以及通过分析node-formidable模块的源代码来解读文件上传的原理。 <br/> <br/>可是,在源码分析的过程中,作者并没有解释得很到位,从而导致在看完整篇教程后某些地方还有些云里雾里,在潜心研究一番后,终于明了,然而这也催生了我写这篇文章的想法。 <br/> <br/>由于该文章是在上文所提教程的基础之上补充的,因此,建议读之前先看以上教程。 <br/><h1>详解post数据的格式</h1> <br/>使用post提交表单后,传递过来的数据到底是什么样的呢? <br/> <br/>上篇教程中已经讲解过,可是,为了使之能更好地与后面的数据解析部分的代码相结合,我对Post数据进行了一个详细的标注 <br/><h3>HTML</h3> <br/><pre> <body> <br/> <form method=“post” action=“test.php” enctype=“multipart/form-data”> <br/> What is your name? <input type=“text” name=“submit-name” /><br /> <br/> What files are you sending? <input type=“file” name=“files” multiple=“multiple” /><br /> <br/> <input type=“submit” value=“send” /> <br/> </form> <br/> </body></pre> <br/><pre>该html中有一个表单,其中包含了一个text文本框和一个file多文件上传控件。</pre> <br/>  <br/><h3>POST HEADER</h3> <br/><img src=“http://hi.csdn.net/attachment/201112/18/2611626_1324213932BBh0.jpg” alt=“post_header” /> <br/> <br/>这是Post的header信息,请注意Content-Type后面的boundary数据,这就是边界字符串,用于分隔每个字段数据。 <br/><h3>POST DATA</h3> <br/><img src=“http://hi.csdn.net/attachment/201112/18/2611626_1324213889iUNp.jpg” alt=“POST_DATA” /> <br/> <br/>上图便是传递过来的POST数据部分,图中对各部分已经作了详细的表示,每一行其实隐含着一个\r\n(CR LF)。 上面提到的教程中其实已经总结过POST数据的规则,这里再总结一次: <br/><ul> <br/> <li>每一部分数据包括字段部分和数据部分,比如文本框数据,字段部分是ContentPosition,数据部分是huli;字段部分和数据部分使用一个空行分隔; 每一行后面实际隐含这一个\r\n(CR LF)</li> <br/> <li>每一部分数据以边界字符串分隔,假设post_header中定义的边界为Aa03x,那么一般的边界字符串为–Aa03x\r\n(程序中称这样的边界字符串为PART_BOUNDARY,表示后面还有数据需要解析),最后面的边界字符串为–Aa03x–(程序中称这样的边界字符串为LAST_BOUNDARY,表示所有的数据都解析完毕)</li> <br/> <li>在每一部分数据中,数据部分(记得前面提到过的,每一部分数据包括字段部分和数据部分吗?)是和接下来的边界字符串紧挨在一起的!</li> <br/></ul> <br/>  <br/> <br/>更加详细的信息可参考W3C文档的<a href=“http://www.w3.org/TR/html4/interact/forms.html#h-17.13.4.2”>FORMS</a> <br/><h1>POST数据解析流程</h1> <br/>模块中将POST数据的解析分成多个不同的状态,接着它会遍历buffer中每个字符的状态,进行相应的处理。 这些状态分为: <br/><ol> <br/> <li>PARSER_UNINITIALIZED:系统尚未初始化</li> <br/> <li>TART:开始解析</li> <br/> <li>START_BOUNDARY:开始解析边界字符串</li> <br/> <li>HEADER_FIELD_START:解析HEADER_FIELD前的预处理</li> <br/> <li>HEADER_FIELD:开始解析HEADER_FIELD</li> <br/> <li>HEADER_VALUE_START:解析HEADER_VALUE前的预处理</li> <br/> <li>HEADER_VALUE:开始解析HEADER_VALUE</li> <br/> <li>HEADER_VALUE_ALMOST_DONE:header_value部分解析完毕</li> <br/> <li>HEADERS_ALMOST_DONE:所有的header解析完毕</li> <br/> <li>PART_DATA_START:解析数据段前的预处理</li> <br/> <li>PART_DATA:开始解析数据段</li> <br/> <li>ART_END:数据段解析完毕</li> <br/> <li>END:所有的POST_DATA解析完</li> <br/></ol> <br/>结合POST_DATA中的图示来看这些状态,   注意:状态的流转是从上到下的。 <br/><h1>源码详解</h1> <br/>下面,我会按照文件上传的原理把整个流程重新走一遍,以便大家更加理解。 其中,我会省略一些源码中对本篇文章来说并不太需要的部分,比如容错处理等等。 首要工作是进行一些基本模块的引入 <br/><pre>var http=require(‘http’), <br/> fs=require(‘fs’), <br/> path=require(‘path’), <br/> StringDecoder = require(‘string_decoder’).StringDecoder, <br/> EventEmitter = require(‘events’).EventEmitter, <br/> util=require(‘util’);</pre> <br/><pre>//首先创建一个服务器 <br/>http.createServer(function(request,response){ <br/> //处理文件上传:TODO <br/>}).listen(8080); <br/> <br/>//处理文件上传,首先定义一个用于文件上传的类,用于一些初始化设置 <br/>function IncomingForm(){ <br/> if (!(this instanceof IncomingForm)) <br/> { <br/> return new IncomingForm(); <br/> } <br/> EventEmitter.call(this);//使对象可以调用事件函数 <br/> <br/> this.maxFieldsSize=210241024;//设定最大文件限制 <br/> this.upLoadDir=’/tmp’;//设定上传文件路径 <br/> this.encoding=“utf-8”;//设定文件的编码 <br/> this.headers=null;//post数据的头部信息,可以使用request.headers获得 <br/> this.type=null; <br/> <br/> this.bytesReceived=null;//收到的字节数 <br/> this.bytesExpected=null;//预计的字节数,一般只有最终收到的字节数等于预计的字节数,传输才是正确的,否则,传输出错 <br/> <br/> this._parser=null;//用于初始化处理post数据的类,等下会定义,类名为multipart_parser.js <br/> this.filedsSize=0; <br/>} <br/> <br/>util.inherits(IncomingForm,EventEmitter); <br/>exports.IncomingForm=IncomingForm;//导出</pre> <br/><pre>//我想用过node-formidable的童鞋都应该知道parser这个方法的重要性,没错,他正是上传文件模块的入口 <br/>//它有两个参数,第一个是request对象(大家都懂的),另一个就是一个自定义的回调函数cb <br/>IncomingForm.prototype.parser=function(req,cb){ <br/> //定义两个函数,用于请求的暂定和继续。由于前一篇文章已经提到过,node-formidable是采用边接收边解析的方式 <br/> //而接收到的文件数据往往先存放到buffer缓冲区,然后再写入指定路径的文件之中。。因此,在写文件的过程中,最后先 <br/> //暂定请求(req.pause),等文件写入完毕,再继续请求(req.resume),这是为了避免文件数据传输速度快于写入速度而导致 <br/> //缓冲区溢出,从而使得数据丢失 <br/> this.pause=function(){ req.pause();}; <br/> this.resume=function(){ req.resume();}; <br/> this.writeHeaders(req.headers);//存储Post头部信息,因为要使用其中的content-type字段来判断传输的是字符串还是文件,稍后会定义 <br/> <br/> var self=this; <br/> //对这个我想大家不会陌生,由于传输的数据是分包的,而并非所有的数据一齐全部传过来,因此,没接收到一部分数据,就会触发一次 <br/> //data事件 <br/> req.on(‘data’,function(buffer){ <br/> self.write(buffer);//用于处理传过来的数据 <br/> }); <br/> //如果定义了回调 <br/> if (cb) <br/> { <br/> var fields={},files={}; <br/> //定义一个field事件,当接收到一个完整字段时手动触发,该字段是指非文件字段数据。 <br/> //比如一个文本框中的值 <br/> this.on(‘field’,function(name,value){ <br/> fields[name]=value; <br/> }); <br/> //与上面的事件类似,区别是它只有接受完一个文件数据才手动触发,文件数据都是二进制数据,而字段数据往往是字符串 <br/> this.on(‘file’,function(name,file){ <br/> files[name]=file; <br/> }); <br/> //由事件名我们可以看出来,end事件是在接受完所有的数据后触发 <br/> //例:(new IncomingForm()).parse(request,function(error,field,files){ <br/> // fs.renameSync(files.upload.path,/tmp);用于重命名上传的文件 <br/> // }) <br/> this.on(‘end’,function(){ <br/> cb(null,field,files); <br/> }) <br/> } <br/>};</pre> <br/><pre>//下面就定义刚刚提到的self.write函数,该函数用于处理传过来的数据 <br/>IncomingForm.prototype.write=function(buffer){ <br/> this.bytesReceived+=buffer.length; <br/> //由于处理post数据是个非常复杂的过程,因此,我们把它放在另个模块里来处理,模块名为multipart_parser <br/> //而这里的this._parser就是new mulipartParser()的一个实例化对象 <br/> var bytesParsed=this._parser.write(buffer); <br/>}</pre> <br/><pre>//好的,这里先暂定IncomingForm模块的编写,让我们来探究一下神秘的post数据是到底是如何处理的呢 <br/> <br/>//multipart_parser.js <br/>var s=0, <br/> S={ //定义数据解析的各个阶段 <br/> PARSER_UNINITIALIZED: s++, <br/> START:s++, <br/> START_BOUNDARY:s++, <br/> HEADER_FIELD_START:s++, <br/> HEADER_FIELD:s++, <br/> HEADER_VALUE_START:s++, <br/> HEADER_VALUE:s++, <br/> HEADER_VALUE_ALMOST_DONE:s++, <br/> HEADERS_ALMOST_DONE:s++, <br/> PART_DATA_START:s++, <br/> PART_DATA:s++, <br/> PART_END:s++, <br/> END:s++ <br/> }, <br/> f=1, <br/> //由上图可知,不同的字段数据之间是以边界字符串分隔开的, <br/> //而中间的边界字符串和最终的边界字符串不一样,最终的边界字符串的最后面多了两个’–’,因此, <br/> //F对象的两个属性是为了识别当前的边界是中间的边界(PART_BOUNDARY)还是最后的边界(LAST_BOUNDARY) <br/> F={ <br/> PART_BOUNDARY:f,//用二进制表示为01 <br/> LAST_BOUNDARY:f*=2//用二进制表示为10 <br/> }, <br/> //每个特殊字符对应的ascaii码 <br/> LF=10, <br/> CR=13, <br/> SPACE=32, <br/> HYPHEN=45,//短横杠’-’ <br/> COLON=58;//冒号’:’</pre> <br/><pre>//定义的MultipartParser类,用于一些初始化设置 <br/>function MultipartParser(){ <br/> this.boundary=null;//边界字符串 <br/> this.boundaryChars=null;//一个边界字符串对,字符串中每个字母为它的一个键,值都是true <br/> this.lookbehind=null;//稍后会讲到,是为了防止错误地识别边界字符串 <br/> this.state=S.PARSER_UNINITIALIZED; <br/> <br/> this.index=null; <br/> this.flags=0; <br/>} <br/> <br/>exports.MultipartParser=MultipartParser; <br/> <br/>//该函数用于初始化边界字符串,一般在刚开始的时候调用一次 <br/>MultipartParser.prototype.initWithBoundary=function(str){ <br/> //一般,真正的边界字符串会在boundary字段值后另外加四个字母’–\r\n’ <br/> //例如,boundary=AaB03x,那么中间的边界字符串将会是–AaBo3x\r\n,结尾的 <br/> //边界字符串是–AaBo3x–,如上图 <br/> this.boundary=new Buffer(str.length+4); <br/> //可以看到,代码中把boundary写成\r\n–str,与事实–str\r\n不相符,这是出于什么考虑呢,在write函数中会有介绍 <br/> this.boundary.write(’\r\n–’,‘ascaii’,0); <br/> this.boundary.write(str, ‘ascii’, 4); <br/> this.lookbehind=new Buffer(this.boundary.length+8); <br/> //初始化为边界字符串后,buffer的解析状态流转为START <br/> this.state=S.START; <br/> <br/>}</pre> <br/><pre>//这是今天的主角,也是最重要的处理逻辑,还记得IncomingForm模块中德self._write(buffer)吗,没错 <br/>//它实际调用的正是这个函数。 <br/>MultipartParser.prototype.write=function(buffer){ <br/> //首先进行一些初始化设置,定义一些局部变量 <br/> var self=this; <br/> len=buffer.length, <br/> prevIndex=this.index, <br/> index=this.index, <br/> state=this.state, <br/> flags=this.flags, <br/> lookbehind=this.lookbehind, <br/> boundary=this.boundary, <br/> boundaryChars=this.boundaryChars, <br/> boundaryLength=this.boundaryLength, <br/> //刚开始一直不明白为什么定义一个boundaryEnd,不过看到后面的代码,再自己琢磨一会,终于弄明白鸟 <br/> boundaryEnd=boundaryLength-1, <br/> bufferLength=buffer.length, <br/> c, <br/> //这个函数在上面提到的文章中也有讲过,实际上就是作一个起点标识的。。 <br/> //比如,我现在字段数据(headerField)读取完毕,要开始读字段值(headerValue)数据,那么我便使用一个mark(‘headerValue’)来作一个 <br/> //字段值数据的起点标识,存储我是从哪一个字符开始读取字段值的 <br/> mark=function(name){ <br/> self[name+‘Mark’]=i; <br/> }, <br/> //顾名思义,该函数的作用是为了删除起点标识的,那何时该删除标识呢? <br/> //当解析的数据部分的末尾在buffer内部时,这个时候,在读取完该部分数据后,需将起点标识删除 <br/> //例如我现在读取的是字段数据部分,headerField,如果headerField部分在当前的buffer内部结束时,就应该 <br/> //删除该headerField的起点标识 <br/> clear=function(name){ <br/> delete self[name+‘Mark’]; <br/> }, <br/> //每解析完一段数据(我说的一段数据指的是一段有意义的数据,例如headerField,headerValue,partData都算是一段数据) <br/> //就要调用相应的回调进行处理,该函数会传递四个参数,第一个参数为该段数据名(headerField等),第二个参数为当前的buffer, <br/> //最后两个参数分别为该数据段的起始位置和结束位置。。这里又要分为两种情况: <br/> //1.该段数据在当前的buffer内结束,那么start=mark(name),end=i; <br/> //2.当前的buffer内,解析的该段数据尚未解析完毕,例如当前是个headerField字段数据,它有一部分在当前的buffer内,剩余的部分在 <br/> // 下一个buffer内,这时候,start=mark(name),end=buffer.length <br/> callback=function(name,buffer,start,end){ <br/> if(start!=undefined && start===end){ <br/> return; <br/> } <br/> //这是形成回调函数名 <br/> var callbackSymbol = ‘on’+name.substr(0, 1).toUpperCase()+name.substr(1); <br/> if (callbackSymbol in self) { <br/> //这些回调函数是在哪定义的呢?别急,等我们再次回到IncomingForm中时你就会明白了 <br/> self[callbackSymbol](buffer, start, end); <br/> } <br/> }, <br/> //这是对callback的一个封装,目的是为了给callback传递start和end <br/> //这个clear代表什么呢? <br/> //没错,它代表我在讲callback时提到的两种情况,可以看下源码对照一下这两种情况。 <br/> dataCallback = function(name, clear) { <br/> var markSymbol = name+‘Mark’; <br/> if (!(markSymbol in self)) { <br/> return; <br/> } <br/> <br/> if (!clear) { <br/> callback(name, buffer, self[markSymbol], buffer.length); <br/> self[markSymbol] = 0; <br/> } else { <br/> callback(name, buffer, self[markSymbol], i); <br/> delete self[markSymbol]; <br/> } <br/> }; <br/> //该进入主题部分了,在当前buffer内,逐个字符地判断,然后根据每个字符地当前状态 <br/> //进行相应地操作。这里提到的每个字符的状态是指上就是指当前字符出于哪一个数据段中 <br/> for(i=0;i<len;i++){ <br/> c=buffer[i];//当前字符 <br/> switch(state){ <br/> case S.PARSER_UNINITIALIZED: <br/> return i; <br/> //注意,该case并没有break语句,说明可以直接执行下一个case,在该case中,只是起到一个初始化作用,不涉及到字符的处理 <br/> case S.START://数据开始进入解析阶段,一般是在初始化完边界字符串后,可以看initWithBoundary代码 <br/> index=0; <br/> state=S.START_BOUNDARY;//状态流转,开始解析解析数据区域的边界字符串 <br/> case S.START_BOUNDARY: <br/> if(index==boundary.length-2){ <br/> if (c!=CR)//边界的倒数第二个字符串应该为CR(最后两个字符为\r\n),如果不是,则说明解析出错 <br/> { <br/> return i; <br/> } <br/> index++;//若正确,则继续解析下一个字符 <br/> break; <br/> }else if(index-1==boundary.length-2){ <br/> if(c!=LF){//如果边界的最后一个字符部位LF,则说明解析出错 <br/> return i; <br/> } <br/> //否则,说明边界字符串解析完毕,开始解析下面的字段数据 <br/> index=0; <br/> //触发onPartBegin事件(在IncomingForm中定义),目的是为了初始化一些变量,方便接下来的解析过程 <br/> //可以看到,它没有传递buffer,start,end,因此不涉及传输数据的处理 <br/> callback(‘partBegin’); <br/> state=S.HEADER_FIELD_START;//状态流转 <br/> break; <br/> } <br/> //为什么index要加2呢,还记得initWithBounday中如何初始化边界字符串吗? <br/> //没错,它解析成\r\n–boundary,与实际的字符串–boundary\r\n对比一下, <br/> //明白为什么要加上2了吧,是为了跳过CR和LF <br/> if (c!=boundary[index+2]) <br/> { <br/> return i; <br/> } <br/> index++; <br/> break; <br/> //可以看到,该case同样没有break,因此,可以看出,凡是START区域都是 <br/> //起到一个起始点标识和状态流转的作用 <br/> case S.HEADER_FIELD_START: <br/> state=S.HEADER_FIELD;//状态流转 <br/> mark(‘headerField’);//标识字段数据的起始点 <br/> index=0; <br/> case S.HEADER_FIELD: <br/> //这里的CR指的是所有的HEADER结束后于DATA区域之间的那一个空行 <br/> //因为有些数据有两个header,比如文件数据,它不仅有Content-Disposition <br/> //还有Content-Type,如上图。可能这里还不太明白,等到下面的S.HEADER_VALUE_ALMOST_DONE状态 <br/> //再回过头来看这一段代码 <br/> if(c==CR){ <br/> clear(‘headerField’); <br/> state=S.HEADERS_ALMOST_DONE; <br/> break; <br/> } <br/> index++; <br/> //如果字符是’-’,例如Content-Diposition:中间的’-’,则继续检测下一个字符的状态 <br/> if(c==HYPHTN){ <br/> break; <br/> } <br/> //如果字符是’:‘则表明header_field部分结束,可看图示 <br/> if(c==COLON){ <br/> if(index==1){//是个空字段 <br/> return i; <br/> } <br/> //header_field部分结束,调用相关的回调处理该部分数据, <br/> //注意,它是在同一个buffer内部结束的,所有第二个参数为true <br/> dataCallback(‘headerField’,true); <br/> state=S.HEADER_VALUE_START;//状态流转,开始处理field_value的数据 <br/> break; <br/> } <br/> break; <br/> //不用解释了吧,呵呵 <br/> case S.HEADER_VALUE_START: <br/> mark(‘headerValue’); <br/> state=S.HEADER_VALUE; <br/> case S.HEADER_VALUE: <br/> //如果当前字符是CR,则HEADER_VALUE解析完毕,还记得每一行的最后是\r\n(CR LF)吗? <br/> if(c==CR){ <br/> dataCallback(‘headerValue’, true); <br/> callback(‘headerEnd’);//改行header结束后进行回调 <br/> state = S.HEADER_VALUE_ALMOST_DONE; <br/> } <br/> break; <br/> case S.HEADER_VALUE_ALMOST_DONE: <br/> //由于上一状态最后的字符是CR,所以当前字符应该是LF,否则就是解析出错 <br/> if(c!=LF){ <br/> return i; <br/> } <br/> //为什么这里又要重新回滚状态呢? <br/> //前面已经提到过,有的数据段可能有两行header,比如文件和图片。。 <br/> //现在再讲前面HEADER_FIELD中的解释联系起来,是不是懂了呢 <br/> state=S.HEADER_FIELD_START; <br/> break; <br/> //这是在某个数据段的所有Header全部解析完毕时的状态 <br/> case S.HEADERS_ALMOST_DONE: <br/> //回过头去看header_field状态,在header都解析完成时的字符是CR,所以当前字符应该是LF <br/> //否则就是解析错误 <br/> if(c!=LF){ <br/> return i; <br/> } <br/> callback(‘headersEnd’); <br/> state = S.PART_DATA_START; <br/> break; <br/> case S.PART_DATA_START: <br/> state=S.PART_DATA; <br/> mark(‘partData’); <br/> //数据段的解析,这是最难懂的一部分,当初也是看了很久 <br/> case S.PART_DATA: <br/> prevIndex=index; <br/> //index上一次的设置是在header_field_start中,设置为0 <br/> if(index==0){ <br/> //这一段代码有些难懂,它的目的是尽快地跳过数据区域。因为数据区域一般 <br/> //有很多地字符,而我们所需要的仅仅是该数据区域的起始位置和结束位置。 <br/> //起始位置我们在PART_DATA_START中已经设置了。该如何找到数据区域的结束位置呢? <br/> //如果像前面的headerField,headerValue一样,逐个字符进行遍历,那太影响效率,因此 <br/> //这里采用边界跳跃法使我们能更快地接近数据区域的结束位置。。 <br/> //如何跳跃呢? <br/> //此时i指向的是数据其余的第一个字符,而数据区域和下一个字段其余的边界是连在一起的。 <br/> //这时候,我们用i加上一个boundaryEnd(它比真实的边界少一个字符)可以上我们往前跳一部分, <br/> //但是它又同时保证了我们不会跳出边界之外,就算数据区域只有一个字符,我加上一个boundaryEnd, <br/> //也只会跳到边界字符串的最尾部。大家可以按照post数据格式,假设一段数据来照着流程走一遍 <br/> i+=boundaryEnd; <br/> while(i < bufferLength && !(buffer[i] in boundaryChars)){ <br/> i+=boundaryLength; <br/> } <br/> i -= boundaryEnd; <br/> c=buffer[i]; <br/> } <br/> if(index<boundary.length){ <br/> if(boundary[index]==c){ <br/> //表示数据区域解析完毕,这里同时也说明了作者当时在初始化边界时为什么要把 <br/> //\r\n放在首部,在数据区域结尾的部分正好是\r\n,因此,如果两者相等,则正好 <br/> //说明了当前指针走到了数据区域的尾部 <br/> if(index==0){ <br/> dataCallback(‘partData’,true); <br/> } <br/> //这里开始解析下一个boundary,也就是紧接着data区域之后的boundary,可以边看代码边看 <br/> //图示 <br/> index++; <br/> } <br/> else{ <br/> index=0; <br/> } <br/> }else if(index==boundary.length){ <br/> //当解析到边界字符串的倒数第二个字符 <br/> //注意,因为index是从1开始的,所以当它等于boundary.length时 <br/> //应该是倒数第二个字符 <br/> index++; <br/> if(c==CR){ <br/> //如果倒数第二个字符为CR,表名下面还有数据需要解析 <br/> //前面已经解释过,边界字符串有两种情况,可以看上面的图示 <br/> flags |=F.PART_BOUNDARY;//flag为F.PART_BOUNDARY <br/> }else if(c==HYPHEN){ <br/> //如果倒数第二个字符为’-’,表明所有的post数据解析完毕 <br/> }else{ <br/> index=0; <br/> }else if(index-1==boundary.length){ <br/> //如果当前的边界字符串为PART_BOUNDARY <br/> if(flags & F.PART_BOUNDARY){ <br/> index=0; <br/> if(c==LF){ <br/> //因为下面还有数据需要解析 <br/> //所以重新初始化flags的值 <br/> flags &= ~F.PART_BOUNDARY; <br/> callback(‘partEnd’); <br/> callback(‘partBegin’); <br/> //状态重新流转到header_field_start进行下一个字段的解析 <br/> state = S.HEADER_FIELD_START; <br/> break; <br/> } <br/> } <br/> else if(flags & F.LAST_BOUNDARY){ <br/> //如果当前边界字符串为LAST_BOUNDARY <br/> if(c==HYPHEN){ <br/> callback(‘partEnd’); <br/> callback(‘end’) <br/> //状态流转,解析结束 <br/> state = S.END; <br/> }else{ <br/> index=0; <br/> } <br/> } <br/> else{ <br/> index=0; <br/> } <br/> } <br/> if(index>0){ <br/> //这里是在干吗呢? <br/> //实际上它就是个日志功能,在解析遇到错误的时候,可以通过它来回滚错误。。 <br/> //例如,在跳跃边界那一部分,当数据区域中有一段字符和边界字符串中的某一段字符 <br/> //相同时,就会错误地把它认为是边界字符串,等到解析到后来发现了错误时怎么办呢? <br/> //就是用这里保存的数据来进行回滚操作 <br/> lookbehind[index-1]=c <br/> }else if(prevIndex>0){ <br/> //可以看前面part_data部分的代码,在发现解析错误时,总是把index置0, <br/> //如果这时候prevIndex不为0,那么说明有数据需要回滚 <br/> callback(‘partData’, lookbehind, 0, prevIndex); <br/> prevIndex = 0; <br/> mark(‘partData’); <br/> i–; <br/> } <br/> break; <br/> case S.END: <br/> break; <br/> default <br/> return i; <br/> } <br/> } <br/> //这里是在当前buffer完全解析完后调用的 <br/> //如果一个数据部分(比如如field信息)已经在上面的解析过程中解析完毕,那么自然已经调用过clear方法,那下面的dataCallback将什么也不做 <br/> //否则,下面的调用将会把这次数据段中的数据部分传递到回调函数中 <br/> //看看上面提到的调用dataCallback的两种情况 <br/> dataCallback(‘headerField’); <br/> dataCallback(‘headerValue’); <br/> dataCallback(‘partData’); <br/> <br/> this.index = index; <br/> this.state = state; <br/> this.flags = flags; <br/> <br/> return len; <br/> } <br/>}</pre> <br/><pre>到这里,已经完成了整个数据解析部分的流程,如果大家有些地方还没弄明白,可以使用实例数据照着流程多走几次 <br/>这里,还有一个问题是,在解析的过程中,触发的这些回调都是在哪里定义的呢? <br/>让我么能再回到IncomingForm模块中 <br/> <br/>想一想,该何时定义这些回调。。。在post数据传过来时,会先传递头部信息,就是那些键值对,然后才是实际的数据部分(数据部分中又分header和data,上面的流程就是解析这两块) <br/>因此,我们可以在处理头部信息时来定义这些回调函数. <br/> <br/>还记得parser中的this.writeHeaders(req.headers)这一句吗,不错,这正是处理Header信息的入口</pre> <br/><pre>IncomingForm.prototype.writeHeaders=function(headers){ <br/> this.headers=headers; <br/> //调用一个私有方法 <br/> this._parseContentType(); <br/>} <br/>IncomingForm.prototype._parseContentType = function(){ <br/> //headers中的content-type有application/x-www-form-urlencoded和multipart/form-data两种 <br/> //由于这里专注讲文件上传,所以我们只讲multipart/form-data部分 <br/> if(this.headers[‘content-type’].match(/multipart/i)){ <br/> var m; <br/> if(m = this.headers[‘content-type’].match(/boundary=(?:"([^"]+)"|([^;]+))/i)){ <br/> //获得boundary字段的指,也就是边界字符串 <br/> this._initMultipart(m[1] || m[2]); <br/> } <br/> return <br/> } <br/>} <br/>IncomingForm.prototype._initMultipart(boundary){ <br/> this.type = ‘multipart’; <br/> //初始化一个MultipartParser的实例,用于在后面定义multipart_parser中执行的回调 <br/> var parser = new MultipartParser(), <br/> self = this, <br/> headerField, <br/> headerValue, <br/> part; <br/> //初始化边界字符串,initWithBoundary是在multipart_parser中定义的 <br/> parser.initWithBoundary(boundary); <br/> //该函数是在状态流转到S.HEADER_FIELD_START时执行。 <br/> parser.onPartBegin = function() { <br/> part = new EventEmitter(); <br/> part.headers = {}; <br/> part.name = null; <br/> part.filename = null; <br/> part.mime = null; <br/> headerField = ‘’; <br/> headerValue = ‘’; <br/> }; <br/> //header_field解析完毕时执行 <br/> parser.onHeaderField = function(b, start, end) { <br/> headerField += b.toString(self.encoding, start, end); <br/> }; <br/> //header_value解析完毕时执行 <br/> parser.onHeaderValue = function(b, start, end) { <br/> headerValue += b.toString(self.encoding, start, end); <br/> }; <br/> //headr_value解析完毕时执行,用于存储该行header中的一些信息 <br/> //例如name,filename,filetype等等 <br/> parser.onHeaderEnd = function() { <br/> headerField = headerField.toLowerCase(); <br/> part.headers[headerField] = headerValue; <br/> <br/> var m; <br/> if (headerField == ‘content-disposition’) { <br/> if (m = headerValue.match(/name="([^"]+)"/i)) { <br/> part.name = m[1]; <br/> } <br/> <br/> part.filename = self._fileName(headerValue); <br/> } else if (headerField == ‘content-type’) { <br/> part.mime = headerValue; <br/> } <br/> <br/> headerField = ‘’; <br/> headerValue = ‘’; <br/> }; <br/> //所有的header解析完毕时执行 <br/> parser.onHeadersEnd = function() { <br/> self.onPart(part); <br/> }; <br/> //当找到data的结束位置时执行 <br/> parser.onPartData = function(b, start, end) { <br/> //触发data事件,该事件是在哪侦听的呢,稍后会说明 <br/> part.emit(‘data’, b.slice(start, end)); <br/> }; <br/> //当解析完紧接data区域之后的边界字符串时执行 <br/> parser.onPartEnd = function() { <br/> //同理,触发end事件 <br/> part.emit(‘end’); <br/> }; <br/> //当解析完last_boundary时执行 <br/> parser.onEnd = function() { <br/> self.ended = true; <br/> self._maybeEnd(); <br/> }; <br/> this._parser = parser; <br/>}</pre> <br/><pre>到此,已经定义了所有需要的回调函数,可是上面代码中提到的data和end事件是在哪定义的呢? <br/>让我们按照刚才需找"回调函数定义之处"的方式思维来思考,由于在onPartData和onPartEnd函数执行之前会先执行onHeadersEnd, <br/>而onHeadersEnd中只有一条语句,self.onPart(part),不难看到,这两个事件应该是在onPart中定义的。。</pre> <br/><pre>IncomingForm.prototype.onPart=function(part){ <br/> //真纠结啊 <br/> this.handlePart(part); <br/>} <br/>//这个函数很重要,目的是处理header_field和header_value,以及 <br/>//定义上文提到的事件 <br/>IncomingForm.prototype.handlePart = function(part){ <br/> var self=this; <br/> //如果当前的数据部分不是文件 <br/> if(part.filename==undefined){ <br/> //这里可以看源代码,不讲解了 <br/> return; <br/> } <br/> //这里的File是另一个模块,用于写文件,很简单, <br/> //这里就不讲了,可以看一下源码,我想应该都能看懂 <br/> var file=new File({ <br/> path:‘tmp/’+path.filename, <br/> name: part.filename, <br/> type: part.mime, <br/> }); <br/> file.open(); <br/> //这里就是刚才提到的data事件,当文件数据解析完毕后,会触发这个事件 <br/> part.on(‘data’, function(buffer) { <br/> //文件写入过程中,暂定request请求,写入完毕后,回复请求 <br/> //原因前面已经将结果 <br/> self.pause(); <br/> file.write(buffer, function() { <br/> self.resume(); <br/> }); <br/> //end事件 <br/> part.on(‘end’, function() { <br/> file.end(function() { <br/> self.emit(‘file’, part.name, file); <br/> self._maybeEnd(); <br/> }); <br/> }); <br/>}); <br/>}</pre>

14 回复

非常不错。

貌似发布了后就不能编辑自己的文章了,源图片地址不法访问了,打算重新编辑一下图片地址都不行

好是好。先支持。 <br/>但是 初级程序员要是做个上传功能要写成这样。。。是进步还是倒退呢。

现在应该能编辑吧? 额… 真蛋疼, CNode 文章宽度完全不够

源码分析罢了,实际实现你用formidable几行就写完了

不知道用JS做数据解析比起C或者C++来是否高效,如果两者差别大的话干脆用c做成node.js扩展以求提高性能。 我相信关键性的地方肯定有这种需求的。

这样的插件国内没几个可以写到这种程度的。

可以的,值得学习

最近看到了当年整理过的这篇文章,分享下吧:

  1. node-formidable详解
  2. nodejs-post文件上传原理详解
回到顶部