宗熙先生谈显卡（2）：什么是张量和显卡的张量内核？

一、什么是“张量”和张量运算？

要理解什么显卡的张量内核（Tensor Core），首先就要理解什么是“张量”和“张量运算”，这个话题谈起来有点复杂深奥，如果没有较深的数学基础知识很难理解。

简单来说，张量是一种特殊的多维数组，各类科学计算和人工智能都严重依赖于各种复杂的张量运算。

二、什么是显卡的张量内核？

随着深度学习的兴起，神经网络模型变得越来越复杂，需要处理海量的数据和进行大量的矩阵、张量运算。传统的 GPU 计算单元在处理这些运算时效率有限。

在这种背景下，张量内核应运而生，简单来说，显卡的张量内核就是应对张量运算所开发构建的内核，主要的目的和用途就是为了进行张量运算，以加速深度学习任务中的计算过程。

三、显卡的张量内核的特点

1、支持并行计算，张量内核采用高度并行的计算架构，能够同时处理多个张量元素的运算。例如在矩阵乘法中，它可以同时计算多个矩阵元素的乘积和累加，从而大大提高计算效率。

2、支持更多数据类型，比如单精度浮点数（FP32）、半精度浮点数（FP16）、双精度浮点数（FP64）、BFloat16 和 TensorFloat-32（TF32）等。

不同的数据类型适用于不同的深度学习任务，例如 FP16 适用于对计算精度要求不高但需要高计算速度的场景，而 FP64 则适用于对精度要求极高的科学计算等任务。

3、灵活的可编程性，可以通过各种深度学习框架进行编程和控制，如 TensorFlow、PyTorch 等。开发者可以根据具体的任务需求，利用这些框架来调用张量内核的功能，实现各种复杂的深度学习模型。

四、在图形渲染领域的作用

1、游戏领域，张量内核支持如深度学习超级采样（DLSS）等技术。DLSS 利用张量内核的强大计算能力，通过对低分辨率图像进行深度学习处理，生成高分辨率、高质量的图像，同时还能提高游戏的帧率，提升游戏的视觉效果和流畅度3。

2、加速专业应用，在专业图形设计、动画制作、科学研究等领域，张量内核也能发挥重要作用。在渲染复杂的三维场景时，能够加速光线追踪、材质计算等过程，提高渲染效率。

五、小编总结

各种人工智能类应用严重依赖于张量运算，而显卡的内核就是为了执行这个任务所研发设立的，在某些游戏中，它可能起不到提升画质的作用（不支持相关的功能），但不能因此断定它就没用。

目前人工智能时代已经来临，在显卡中加入更多更强的增量内核，已经成为一种不可逆转的趋势，最终所有的用户都能从中受益。