原文地址：http://www.bennychen.cn/2009/07/%E9%A1%B6%E7%82%B9%E6%B3%95%E7%BA%BF/
本来以为前一段时间写的3d max导出插件已经没有什么大的问题了，但有没有问题，完善不完善，真不是凭感觉就OK的，必须有足够广泛的测试用例测试后，才能够证明。
这不，最近开始研究并写一些光线跟踪的例子了，这当然离不开模型的法线，于是在进行当中我就发现，我的导出插件所导出的法线是不完善的。
在原来的插件中，我让顶点的法线就直接等于其所在的三角形面的面法线（多个面共享1个顶点，则会导出多个顶点，这些顶点位置相同法线不同），但对于光照模型，面法线只能支持到wwdwbl，为了支持Gouraud, Phong等其他模型，则必须使用顶点法线（为什么？稍后解释）。
这里提出了顶点法线和面法线，首先需要清楚的理解并区分这两个概念。
面法线很容易理解，即垂直于三角形面的一条法线。那顶点法线又从何而来呢，严格的从法线的定义上来说，其实顶点是不存在法线的，那为何又有顶点法线这个概念的。让顶点也拥有法线，是为了在光照计算时，能够在多面体的表面获得一种平滑的效果。
更具体的说，如果不使用顶点法线（就像我的3dmax导出插件原来就直接让顶点法线等于其面法线一样），一个三角形面的三个顶点的光照计算按照其所在面的面法线来计算，因为三个顶点的法线相同，则与光照方向求点积之后的结果也相同，这样三个顶点将会获得相同的光照效果，之后，光栅化再怎么插值，整个表面也都只是一种光秃秃的效果。（如图1）
而如果使用顶点法线，同一个面的三个顶点的法线就不一定相同了，这样通过光栅化后，就能在多面体的表面获得一种平滑过渡的光照效果。（如图2）
于是，弄清楚了这个后，我需要再次修改我的3dmax导出插件了，需要计算并生成新的顶点法线。那顶点法线该如何计算呢，对于这个我在这里就不详述，Max Wagner的《Generating Vertex Normals》这篇文章说的很详细清楚，从最简单的到逐步优化的生成算法一一都有介绍，可以去google找一下。
而3dmax的SDK开发文档里对顶点法线的计算也有介绍，3dmax提供了一个smoothing group的概念，这对于像立方体盒子这种表面并不是平滑过渡的模型，计算它们的法线将会带来很大的帮助。Wagner的文章里也说了，对于像立方体这样的模型，顶点法线不能简单的等于（共享该顶点的面的）面法线的平均值，因为这些面之间的过渡并不平滑。按照3dmax的概念，这些面不属于同一个smoothing group。何为smoothing group，这是3dmax根据表面之间的平滑过度情况，进行的分组。比如立方体，因为6个面之间两两都是相互不平滑的，所以一共会有6个smoothing group。每个面所属的平滑组的ID，程序员是可以直接读出的。
下面这两张图，是我在修改前和修改后的光照效果，对比很明显。
图1：基于面法线的光照
图2：基于顶点法线的光照