光栅化

光栅化（也叫扫描转换）把屏幕空间里带深度和着色数据的顶点，转换成三角形覆盖的像素（片元），交给像素处理阶段。它是几何处理和像素处理之间的同步点：三个顶点在这里组成三角形。

两个子阶段

三角形设置 (Triangle Setup)，也叫图元装配：计算三角形的微分、边方程等数据，用于遍历和插值。由固定功能硬件完成。
三角形遍历 (Triangle Traversal)：逐个检查像素中心（或采样点）是否被三角形覆盖，为重叠部分生成片元 (fragment)。片元的深度和其他着色数据由三个顶点的数据插值得到，透视校正插值也在这里完成。

点和线同样可以光栅化，只是三角形最常见，所以子阶段名字里带"三角形"。

怎样算"在三角形里"

取决于 GPU 管线的配置：

单点采样：像素中心在三角形内，就算这个像素在内。最简单。
多采样：每个像素多个采样点，即超采样 (SSAA) 或多重采样 (MSAA) 抗锯齿（RTR4 第 5.4.2 节）。
保守光栅化 (Conservative Rasterization)：只要像素有一部分和三角形重叠就算在内（RTR4 第 23.1.2 节）。

在游戏开发中的意义

采样方式直接影响锯齿和抗锯齿方案的选择。
保守光栅化常用在需要"不漏掉任何覆盖"的场景，比如体素化等 GPU 算法。
光栅化成本和三角形覆盖的像素数量、三角形数量都有关，大量细小三角形会降低效率。

GEA 的视角：扫描线、片元与 quad（卷 II 11.3.10）

先用扫描线理解

GEA 先用经典扫描线算法讲光栅化：找出三角形最上和最下的顶点，过剩下那个顶点画一条水平线，把三角形分成平顶和平底两个子三角形；对每个子三角形从上到下逐行（扫描线）计算左右边界 $X_{left}$ 、 $X_{right}$ ，得到这一行内部的一段连续像素（卷 II 11.3.10.1）。找到像素后可以填纯色（平面着色），也可以做更复杂的着色，甚至只记下覆盖关系留给之后用。

光栅化规则

网格中相邻三角形共享边，共享边上的像素不能画两次。OpenGL 和 DirectX 用左上规则：像素完全在三角形内，或恰好落在三角形的上边或左边时才算覆盖；某个三角形没画的右边、下边，会由把它当作上边、左边的邻居三角形画（卷 II 11.3.10.2）。（原书问题：Direct3D 明确规定左上规则（MS Learn "Rasterization Rules (Direct3D 11)"）；OpenGL 规范只要求共享边上的片元恰好由其中一个多边形产生，并未规定必须用左上规则，且 OpenGL 窗口坐标原点在左下（OpenGL 4.6 规范 14.6.1 "Basic Polygon Rasterization"）。）边函数形式的判定见硬件光栅化与透视校正插值。

画家算法为什么不够

把三角形从后往前排序再光栅化，近的覆盖远的，这就是画家算法。
问题在于"三角形的深度"没有定义：三角形上每个点深度都不同，用最近顶点、最远顶点还是重心都可能出错；三角形相互穿插时，任何排序都不对（卷 II 11.3.10.3）。

片元是点而不是小多边形

可以把光栅化看成把三角形拆成像素大小的碎片，即片元 (fragment)；只要按片元而不是按三角形排序深度，穿插问题就迎刃而解。
GEA 强调更准确的理解是：片元是三角形表面上的一个无穷小的点，每个片元有唯一深度；渲染结束后离相机最近的那些片元的位置，正是可见性问题的解（卷 II 11.3.10.4）。MSAA 更说明了"像素不是小方块"，而是对连续二维信号的采样（见抗锯齿）。
实际并不排序所有片元，而是用深度缓冲增量地解决，见深度缓冲。

真实 GPU 怎么做

GPU 不逐行扫描，而是计算像素在三角形平面上的重心坐标来判断内外，同一组坐标还能用于插值深度和其他属性（卷 II 11.3.10.6，见硬件光栅化与透视校正插值）。
光栅化以 2×2 的 quad 为单位，以便用相邻片元的差分求纹理过滤所需的梯度。GEA 把它概括为两遍：先找三角形覆盖了哪些 quad，再算 quad 中四个像素的重心坐标，三个坐标都为正即在内部（卷 II 11.3.10.8）。这正是三角形接近像素大小时硬件光栅化效率低、Nanite 改用软件光栅化的原因（见 Nanite 虚拟化几何体）。