电脑开机显示横线闪烁提示f2,电脑经常开机横线闪烁
电脑开机时,显示水平闪烁提示f2,电脑经常开机。设计师要求将3D视觉翻译到交互H5的项目越来越多,但是three.js和PBR工作流的结还没有系统的梳理。
和所有前端仙一起做项目,也一起撞见了对爱与痛的理解。总而言之,我希望通往H5的3D道路将成为一条通途。
本手册主要分为两部分:
Part 1理论:主要是让设计师了解计算机是如何真正理解并实时渲染我们设计的3D项目,以及three.js材质与预期材质的对应关系。
第二部分实践:基于three.js的实现,提供场景、制作纹理贴图的思路、gltf工作流程,动态讨论项目中经常遇到的复原问题。
本文主要针对初学3D图形的设计师,只截取最常用的理论知识与大家一起学习。
一些涉及技术艺术或计算机图形的描述可能不严谨。希望大家多交流,多讨论。
其实H5开发不管用哪个webGL,设计相关的资料基本都是基于PBR思路做的,所以我建议你可以先看一下Substance官方书《The PBR Guide》。
设计师在还原3D互动H5项目时,一定思考过宇宙的问题:为什么H5/Web实现的3D效果与C4D渲染的如此不同?
其实这是我们对实时渲染引擎(UE,Unity,three.js等)区别的误解。)和离线渲染工具(Redshift、Octane、Vray等。).,离线渲染工具是基于真实的光照环境来计算每个像素的颜色,而实时渲染如果要达到这个效果,模拟光照就需要更多的硬件基础和计算能力(没有好的显卡是开不了的)。
虽然UE5的实时渲染技术和硬件兼容性让大家大吃一惊,但是在实际项目中渲染能力还是比较有限,尤其是H5,需要兼容低端设备。第二,对于游戏或H5互动网站的实际应用来说,流畅的交互体验往往优先于屏幕精细度,因此牺牲视觉性能是常见的。
OCE离线渲染效果VS three.js实时渲染效果
材质细节、全局光照和投影、抗锯齿性能都有明显的区别。
当实时渲染效果与设计预期差距过大时,设计者可以多了解一些计算机图形学的基础知识,或许可以更好地与开发同学讨论性价比高的可视化实现和资源优化方案(以及更多的战斗筹码)。
首先要知道,计算机之所以能在2D屏幕上绘制3D图像,是因为图中有一个着色器,它用光照信息将我们3D空间中的模型进行转换,栅格化成2D图像。在计算机图形学中,着色器是一个用于处理图像材质(光照、亮度、颜色)的程序。
常用的着色器分为四种类型:像素/片段着色器、顶点着色器、几何着色器和镶嵌着色器。
像素/片段着色器和顶点着色器都在webGL处理中使用。顶点着色器首先转换和组装模型中每个顶点的位置、纹理坐标、颜色等信息,然后片段着色器将3D信息光栅化并转换为2D屏幕信息。(对于着色器差异,感兴趣的同学可以直接跳到附录。)
着色器如何将顶点中的光照、纹理和其他信息转换和重建为2D图像的像素?GPU由不同的着色算法实现。
一种是对每个三角形进行插值。这种方法称为逐顶点照明,但是当三角形很大时,插值不够精确。这时可以用另一种方法,逐像素光照,来计算每个像素的光照信息,这样可以达到更好的渲染效果,但往往会带来更多的计算量。
有三种常见的计算机图形着色算法:平面着色、Gouraud着色和Phong着色。虽然这些算法看起来和我们设计师没什么关系,但其实我们后面了解three.js素材的时候,就会发现它们在渲染上的不同。
Flat、Gouraud和Blinn-Phong染色方法的比较[F1,斯特凡诺沙吉]
1)用平面着色法进行平面着色
这种着色方法认为模型中的所有面都是平面,同一多边形上任意点的法线方向都是相同的。着色时,将首先选择多边形的个顶点或三角形的几何中心来计算颜色。在实践中,这种着色方法的效果与低表面模型非常相似,也适用于高速渲染场景。值得注意的是,这种上色方法很难做出平滑的高光。
2)用Gaulod平滑着色法进行Gouraud着色
这是一种平滑的着色方法。着色时,会先计算三角形各顶点的光照特征,用双线插值法填充三角形区域内其他像素的颜色。与平面明暗法相比,这种明暗法增加了插值的细节,在渲染单个像素的光照特性方面也比Phong明暗法有更高的性能。
但是,在渲染高光时,由于无法获得准确的光照值,可能会出现一些不自然的过渡(或者丁字接头容易绘制错误)。这时候可以考虑细分模型或者使用漫反射材质。
3)Phong平滑着色法Phong明暗法
与Gouraud着色不同,它对顶点的法线进行插值,并通过每个像素的法线向量来计算照明特征。这种方法可以画出精致精确的曲面,但需要大量的计算。B
linn-Phong是Phong的进阶版,着色性能更好,且高光弥散更自然。简单了解计算机如何绘制3D图形后,再来看看它要如何具体理解我们所设计的3D场景。
3D转换成2D,也就是3D栅格化的过程中,每一个像素的颜色是需要基于它所在的环境计算出来,而基于被渲染物体表面某个点的光强度计算模型就被称为光照明模型(Illumination Model)或光照模型(Light Model),透过计算光照模型所得到表面位置对应像素颜色的过程被称为表面绘制(Surface Render)。
*请注意这里说的光照模型并不是指设计师理解的3D立体模型,而是指模型对象表面光照效果的数学计算模型。
影响光照模型的因素有两大方面,一是本身给渲染物体材质设置的各种光学特性(颜色反射系数、表面纹理、透明度等),二是场景中光源光及环境光(场景中各个被照明对象的反射光)。
传统光照模型都是对漫反射和镜面反射的理想化模拟,如果要还原基于真实物理世界的效果,光照模型需要遵循能量守恒定律:一个物体能反射的光必然少于它接受的光。在实践层面则表现为,一个漫反射更强且更粗糙的物体会反射更暗且范围更大的高光,反之亦反。
基于PBR的光照模型需要遵循能量守恒定律 [ F2, ??Joe Wilson ]
光照模型与着色组在不同的渲染需求下也会有不同的应用:
真实感渲染及非真实感渲染对比 [ F3, ??Autodesk ]
1)真实感渲染 Photorealistic Rendering
考虑到真实感渲染对硬件的依赖,目前webGL中使用的一般以简单的局部光照模型为主(只计算光源对物体的光照效果,不计算物体间的相互影响,我们看到的“假反射”通常透过贴图来进行模拟),根据反射形态,经典的光照模型有下列几种:
Lambert 漫反射模型:
这种模型的粗糙表面(如塑料、石材等)会将反射光从各个方向反射出去,而这种光反射也称为漫反射。理想的漫反射体我们通常称作郎伯反射体(Lambertian Reflectors),也就是我们熟悉的橡胶材质。
漫反射模型与其他光照模型对比 [ F4, ??ViroCore ]
Phong 镜面反射模型:
这是一种以实验及观察为成基础的非物理模型。它的表面反射同时结了粗糙表面漫反射和光滑表面镜面反射,但Phong模型在高光处的表现有过渡瑕疵。
Phong镜面反射模型视觉构成 [ F5 ]
Blinn–Phong 模型:
是在OpenGL和Direct3D里默认的着色模型,一种调优后的非物理的Phong模型,顶点间的像素插值使用Gouraud着色算法,比Phong着色算法性能更好,而且高光效果也更平滑。
Phong及Blinn-Phong镜面反射模型对比 [ F6 ]
Cook-Torrance/GGX 光照模型:
如果你用过C4D的默认渲染器,那么一定在材质的反射通道设置中见过它俩。
这是相对高级的光照模型,不同于Phong和Blinn-Phong模型仅仅对漫反射及镜面反射进行理想化模拟,这两个光照模型基于不同物理材质加入了微表面(Microfacet)的概念,并考虑到表面粗糙度对反射的影响,对镜面反射进行了调优,使得高光的长尾弥散更加自然,也是目前PBR渲染管线(Unity、UE)中较常用的光照模型。
Phong、Blinn-Phong与GGX镜面反射模型对比 [ F7, ??ridgestd ]
次表面散射模型 Subsurface scattering/SSS:
终于有一个设计师们常见的概念了。次表面散射是指光穿透不透明物体时(皮肤、液体、毛玻璃等)的散射现象。现实生活中,大部分物体都是半透明的,光会先穿透物体表面,继而在物体内被吸收、多次反射、然后在不同的点穿出物体。以皮肤为例,只有大概6%的反射是直接反射,而94%的反射都是次表面散射。
BSSRDF(双向次表面反射分布函数)是用于描述入射光在介质内部的光照模型,目前也被应用在的虚拟角色皮肤实时渲染中;但由于SSS材质的计算需要依赖深度/厚度数据,所以webGL对这种高级光照效果的还原程度还是相对有限的。
Unity中模拟次表面散射光照模型效果 [ F8, ??Alan Zucconi ]
2)非真实感渲染 Non-Photorealistic Rendering-NPR
也就是我们常说的3渲2,非写实渲染风格也是从人们对3D场景套以2D绘画或自然媒体材质需求而演化过来的。因此非写实渲染技术实际上是不同光照模型+不同着色处理共同作用的风格化输出,目前也被大量应用在动画及游戏中,像《英雄联盟:双城之战》《蜘蛛侠:平行宇宙》都是三渲二大作。
在不同通道中混应用真实感渲染及非真实感渲染效果 [ F9, ??Polygon Runway]
Cel Shading/Toon Shading:
卡通着色,一种最常见的以3D技术模拟扁平风格的着色形式,通常以极简的颜色、渐变及明确的外框线等漫画元素作为风格特征。
Blender中不同类型的Toon Shader效果 [ F10, ??Blendernpr]
日本创意编程师Misaki Nakano制作了一个非常有趣的Toon Shading H5互动页面,大家可以体验一下不同着色形态下非常模型的视觉表现。搜索体验:https://mnmxmx.github.io/toon-shading/dst/index.html
Misaki Nakano的Toon Shader互动网站 [ F11, ??Misaki Nakano]
Customized Shading:
目前越来越多渲染器可支持设计师及工程师根据项目需求对着色进行定制化处理,以产出更具风格化和艺术化的着色效果。例如工业界插画常用的冷暖着色(Gooch Shading),以及更具绘画质感的素描着色(Hatching)及油画水墨画等自然媒体着色,都已经深入到了我们日常的创作之中。
在Unity中,基于真实感渲染的贴图效果与NPR水墨风格化着色效果对比 [ F11, ??邓佳迪]
说完真实感与非真实感渲染差异后,我们再来看看Three.js中的材质。
和许多渲染引擎一样,除了原生材质外,webGL的材质和着色都是可以根据需求进行定制的,但这往往会也带来较高的开发成本及兼容性风险。考虑到H5项目的实际应用场景,下表罗列了Three.js原生材质的对比,包含了材质特性优势、贴图差异及适用场景,大家可以基于项目需求快速选择并混使用:
three.js材质对比表
虽然着色、光照模型以及材质渲染对3D表现有着最为直观的影响,但3D工作流仍有一个隐秘而关键的环节——色彩管理。
真实世界中按照物理定律,如果光的强度增加一倍,那么亮度也会增加一倍,这是线性的关系。理想状态下,像素在显示屏上的亮度也应为线性关系,才能符人眼对真实世界的观察效果(如图b:横坐标为像素的物理亮度,纵坐标为像素显示时的实际亮度)。
但是显示器的成像由于电压的影响,导致输出亮度与电压的关系是一个亮度等于电压的1.7-2.3次幂的非线性关系,这就导致了当电压线性变化时,亮度的变化在暗处转换时变慢,如果显示器不经过矫正,暗部成色也会整体偏暗(如图c)。目前大多数显示器的Gamma值约为2.2,所以也可以理解Gamma2.2是所有显示器自带的一个遗传病。
为了矫正显示器的非线性问题(从图c校正回图b),我们需要对它进行一个2.2次幂的逆运算(如图a),在数学上,这是一个约0.45的幂运算(Gamma0.45)。经过0.45幂运算,再由显示器经过2.2次幂输出,的颜色就和实际物理空间的一致了,这套校正的操作就是伽马校正(Gamma Correction)。
而我们常见的sRGB就是Gamma0.45所在的色彩空间,是1996由微软与惠普共同开发的标准色彩空间。当照片素材一开始储存成sRGB空间,相当于自带一个Gamma0.45的遗传病抗体,当它被显示器显示时,就自动中和了显示器Gamma2.2的缺陷,从而显示出与物理世界相符的亮度。
另一个校正原因是因为人眼在接受光线时的敏感度也不是线性的,人对于暗部的感知更敏感,对高亮区域感知较弱,而且人眼感知光强度与光的物理强度也刚好是对数关系。为了在暗部呈现更多人眼可感知的细节,Gamma0.45的色彩空间中(如图a),像素的实际亮度也会高于它的物理亮度。
人眼感知光强度与发射光真实物理强度对比
上面那一大段确实有点绕,但也就说回来为什么建议渲染时使用线性空间(Linear Space)了。因为在计算机图形中,着色器的运算基本上都是基于物理世界的光照模型来保证渲染真实性的,如果模型的纹理输入值是非线性的(sRGB),那么运算的前提就不统一,输出的结果自然就不那么真实了。
而在大多数工作流及渲染软件中,大部分贴图资源都是默认输出sRGB的(设计师作图环境一般也在sRGB,所见即所得),而法线贴图、光线贴图等纹理(纯数值类纹理,只用于计算)又是Linear的,这个部分就需要我们根据渲染引擎本身的特性,来判断是否需要对不同的贴图进行不同的”去Gamma化”处理了(WebGL、Unity、Octane等)。
将所有贴图进行去Gamma化,统一为Linear空间后,再在渲染输出时由引擎统一进行Gamma校正,这个时候在显示屏里显示的就是接近真实世界的效果了。
更多色彩空间的实际效果比较,大家可以看下Unity的文档:《Linear/Gamma渲染比较》:
回到H5所用的Three.js,它的着色器计算也是默认在Linear空间,如果最终渲染时不转化为sRGB,在设备显示时可能会造成色彩失真。在three.js中色彩管理的工作流会根据导入模型Asset的差异而有所不同,如果贴图与模型是分别导入场景,则建议可尝试以下流程:
1)输入贴图数据 sRGB to Linear: 含色彩的贴图(基础材质、环境、发光)设编码为sRGB(texture.encoding = sRGBEncoding),或将渲染设置renderer.gammaInput设为True,可将原为sRGB的贴图转换为Linear,而原纯数值类贴图(法线、凹凸等)仍旧保持Linear;这一操作可保证贴图输入数据的正确性与统一性。
2)刷新材质:当材质编码类型被修改后,需要设置Material.needsUpdate为True,以重新编译材质。
3)输出渲染 Linear to sRGB: 校正渲染输出值的Gamma:renderer.gammaOutput = true; renderer.gammaFactor = 2.2;以供显示屏正确显色。
《Part1-理论篇》就先告一段落啦,如果你偶发失眠,建议可以反复咀嚼延伸阅读的内容。
《Part2-实践篇》会继续完善three.js场景、材质贴图的制作思路、以及gltf工作流,并动态讨论项目常常遇到的还原问题。
2022,咱们需求再见。
1)着色器差异
① 像素着色器 Pixel Shader
也称为片元/片段着色器(Fragment Shader), 为二维着色器。它记录了每一个像素的颜色、深度、透明度信息。最简单的像素着色器可用于记录颜色,像素着色器通常使用相同的色阶来表示光照属性,以实现凹凸、阴影、高光、透明度等贴图。同时,他们也可以用来修改每个像素的深度(Z-buffering)。
但是在3D图像中,像素着色器可能无法实现一些复杂的效果,因为它只能控制独立的像素而并不含有场景中模型的顶点信息。不过,像素着色器拥有屏幕的坐标信息,可以依据屏幕或邻近像素的的材质进行采样并增强,例如,Cel Shader的边缘强化或一些后期的模糊效果。
② 顶点着色器 Vextex Shader
是最常见的3D着色器,他记录了模型每个顶点的位置、纹理坐标、颜色等信息。它将每个顶点的3D位置信息转换成2D屏幕坐标。顶点着色器可以处理位置、颜色、纹理的坐标,但是无法增加新的顶点。
③ 几何着色器 Geometry Shader
是最近新兴的着色器,在Direct3D 10 和Open GL3.2中被引用。这种着色器可以在图元外生成新的顶点,从而转换成新的图元(例如点、线、三角等),而优势也是在于可以直接在着色中增加模型细节,减低CPU负担。着色器的常用场景包括点精灵(Point Sprite)生成(粒子动画),细分曲面,体积阴影等。
④ 细分曲面着色器 Tessellation Shader
在OpenGL4.0和 Direct3D 11现,它可以在图元内镶嵌更多三角体。为传统模型新增了两个着色步骤(一是细分控制着色,又称为Hull Shader,二是细分评估着色,又称为Domain Shader),两者结可以让简单的模型快速获得细分曲面。(例如,含细分曲面效果的模型加上置换贴图就可以获得极其逼真细腻的模型)
2)一些术语的简单理解
GL:Graphics Library, 图形函数库。
webGL:Web Graphics Library,Html 5可接入的3D绘图协议/函数库,可以为H5 Canvas提供3D渲染的各类API。
Z-Buffering:
深度缓冲,3D图像在渲物体的时候,每一个生成的像素的深度会存储在缓冲区中。如果另一个物体也在同一个像素中产生渲染结果,那么GPU会比较两个物体的深度,优先渲染距离更近的物体,这个过程叫做Z-Culling。当两个物体靠很近的时候(16-bit),可能会出现Z-Fighting,也就是交叠闪烁的现象,使用24或32bit的Buffer可以有效缓解。
Rendering Pipeline:
渲染管线/渲染流水线/像素流水线,为GPU的处理工作流,是GPU负责给图形配上颜色的专门通道。管线越多,画面越流畅精美。
渲染管道细节工作流 [ F12 ]
Rasterization:
光栅化/点阵化/栅格化,就是将管线处理完的图元转换成一系列屏幕可视的像素,过程包括:图元拼装(Primitive assembly)-三角形遍历(Triangle Traversal)- Pixel Processing-Merging。
3)参考文献+延伸阅读
[1]Hearn, D. and Baker, M.P., 2004. Computer graphics with OpenGL, 计算机图形学第四版 . Upper Saddle River, NJ: Pearson Prentice Hall,.
[2]Akenine-M?ller, T., Haines, E. and Hoffman, N., 2019.Real-time rendering. Crc Press.
[3]锐萌瑞, 经典光照模型(illumination model)
https://blog.csdn网站站点" rel="nofollow" />