网易首页 > 网易号 > 正文 申请入驻

泛函分析很抽象?不,远比你想的要直观

0
分享至

从向量内积开始,到函数空间,再到希尔伯特空间

在中学,我们学习了平面向量,空间向量,知道有向量的点乘(点积),能判断两个向量是否垂直.

后面我们开始学习线性代数,我们知道两个 维向量点乘为0,也有意义,代表它们在这个向量空间中「正交」.这个「正交」就是垂直的高维直观.

这是垂直的第一次抽象,虽然这时维度超过了3维,但总体还是有限的,你可以用低维空间中的向量正交/垂直做类比理解.

等你到了泛函分析,面对的是无限维的函数空间,你怎么画两个函数的垂直/正交?不要说画了,你连想都想不出来.

不过,判断正交用的是内积。把这个关系保留下来,我们就能继续谈函数之间的「垂直」。

我们把向量的点积 推广一下.在连续的函数空间里,求和就变成了积分,于是有了内积的定义,

这就是垂直的第二次抽象,你可能想不出来两个函数向量长什么样,但你知道符合这个内积为0的两个向量就是正交的.

等等,你可能会问这个推广怎么忽然就出现了?什么是连续的函数空间?什么叫对两个函数做内积?

这里我们做个补充,其实函数空间根本没有什么神秘的。你可以先把一个函数理解为,按连续变量来索引的一组数。

要跨过从有限维向量到无穷维函数这道坎,你只需要在脑子里做一次思维实验.

我们先看最基础的有限维向量.比如一个三维向量 . 你可以换个别扭点的方式来理解它,这其实是一个映射规则.当你输入索引 时,它输出 。输入索引 时,输出 。输入 时,输出 . 如果把它画在坐标系里,横轴是索引 ,纵轴是对应的值 ,这就是三个离散的柱子.

现在,把维度拉大.一个 维向量 ,画出来就是 根高低不平的柱子.

接着我们往极限推.如果维度 趋向于无穷大呢?我们就得到了一个数列 .这时候柱子有无数根,但它们依然是一根一根分开的,因为索引 只能取正整数.这叫可数无穷维.

最关键的跳跃来了.

谁规定索引必须是 这种离散的整数?

如果我把横轴上的索引塞得密密麻麻,让它们变成一个连续的区间,比如从 到 的所有实数呢? 这时候,横轴上的变量不再是离散的 ,我们给它换个名字,叫连续变量 . 对应的值也不再写成带下标的 ,我们把它写成 .

你看,原本一根一根离散的柱子,换成了每个位置上都有取值的函数。对连续函数,把这些取值画出来,就是一条曲线。

函数,就是一个超大号向量。每一个 都对应一个取值 ,而整条函数是我们要研究的一个元素。这里先用「连续索引的分量」帮助理解,空间有多少个基向量,还要由我们选择的函数空间来决定。



一旦你接受了这个设定,向量的加法、数乘,以及合适空间中的内积,就能平移到函数空间里.

比如向量加法.两个 维向量相加 ,就是把对应位置的元素加起来, . 换到函数里,两个函数相加 ,就是在每一个点 上把值加起来.毫无违和感.

再来看重头戏,内积(点乘). 有限维向量的点乘公式是对应分量相乘再求和,

当我们考虑函数时,可以沿用「对应分量相乘再累加」的思路,把离散的求和换成连续的积分。只要所选空间里的函数可以进行这样的运算,就得到一个函数内积。这里先看实值、平方可积的函数,公式长成这样。

(如果涉及复数,就把后面那个取个共轭 ).

有了内积,几何直观就彻底在函数空间里复活了.

你想求一个向量的长度(模长)?有限维是 ,函数空间里就是 .

你想知道两个向量是否正交?有限维是看 ,函数空间里就是看 .如果积分是0,这两个函数在无穷维空间里就是「垂直」的.

我们下面来看看函数空间的投影是怎么回事。

在初等几何里,投影就是打光投射出来的影子.假设你有向量 和向量 ,把 投影到 上,其实就是问, 在 这个方向上,到底占了多大的分量?

要算出这个投影向量,你需要两样东西,方向和长度.

方向很好办.对非零向量 ,把它缩放成长度为1的单位向量,也就是 .

长度怎么求?这就是内积派上用场的时候了.我们知道内积的几何公式是 .而投影的有向长度(标量投影),正好就是 ,它的正负表示沿 的方向还是反方向.

所以,你只要把内积除以 的长度,就能得到影子的长度, .

现在,把「长度」乘上「方向」,投影向量的公式就出来了,

因为 就是 和自己的内积 ,所以投影公式可以完全用内积来表示,


你看,投影公式根本没有那么神秘,它就是内积公式的一个直接推论.

接下来,我们把这个逻辑平移到无穷维的函数空间.

把向量 和 替换成函数 和 .函数之间的投影怎么理解?它意味着我们要测量 里面,到底藏着多少 的「成分」或者「相似度」.

套用上面的公式, 在 上的投影就是,

把内积展开成积分,它就变成了这样,

看着一堆积分号挺吓人,但你仔细看分母 ,它算出来只是一个常数(相当于基底函数的长度平方).真正核心的操作在分子, .

这个分子积分,就是两个函数的「相似度得分」。如果两个函数正交,积分结果就是 ,说明 在 的方向上没有分量。把函数都归一化以后,内积的大小才方便用来比较相似程度。

因此,当 已经归一化时,分子这个内积就是投影系数。再乘回 ,才得到投影向量。


工科生常被折磨的傅里叶分析,看着一堆积分符号头皮发麻,但你如果带入函数空间的投影,这些公式的来由就容易理解了。

比如傅里叶级数。在 上选取归一化的复指数函数 ,其中 。它们构成 的一组正交归一基。函数在第 个方向上的投影系数就是 。 [1]

这里的 ,就是平方可积函数组成的空间。做积分时,只在零测集上不同的函数,会被看作同一个元素。因此我们说还原函数,先说的是这种积分意义下的还原。

这时候,求出每一个 ,就是求出函数在这组基下的坐标。再把这些坐标乘回对应的基函数,加起来,就能在 意义下还原原函数。

所以,你把一个复杂的信号函数 ,分解到一组规律的基底函数上,做的仍然是向量的坐标分解,只不过现在有无穷多个坐标。

拉普拉斯变换 也可以理解为,用一族指数函数去提取信号的信息。逆变换再通过 还原信号,积分路径要选在收敛域内。不过这里的指数函数族通常没有正交归一基的性质,我们先借用「提取分量再重构」的直观。

所以,函数空间的投影一点都不玄乎。原来通过点积算出的分量,现在通过积分来算,长度、方向和坐标的关系仍然在。

这就是为什么,泛函分析处理的是函数,讨论的却仍然有「投影」「正交基」「距离」这些几何概念。

了解了投影的本质,你一定会问,费这么大劲把函数投来投去,到底有什么用?能解决什么现实问题?

其实,这套理论是现代信号处理和人工智能的基石.我们可以把这一系列操作概括为四个字,特征提取.

先来看看前面提到的傅里叶分析。自然界中的信号,比如声音、电磁波,往往包含不同的频率成分。而正弦波、余弦波,以及相应的复指数函数,正好可以用来识别这些频率。

当我们把一个复杂的未知函数,通过内积投影到这一系列不同频率的周期函数上时,我们在做什么?我们是在把一个乱七八糟的波,分解成无数个纯粹的频率分量的叠加.这就像是把一束白光通过三棱镜色散成了七彩光谱.我们把函数从「时域」变换到了「频域」.

在这个过程中,什么是「特征」?特征就是投影值(内积)比较大的那个分量.如果一个信号在频率为 的基底函数上投影特别大,说明这个信号的主要特征就是 的震动.


顺着这个思路,我们再来理解另一个核心概念,卷积(Convolution)。它也通过积分提取信息,傅里叶变换则能把卷积运算转成乘法,让计算变得方便。

你可以把「卷积核」(Kernel)看作一个预先定义好的「特征模板」。对实值函数,卷积写成 。它把模板先翻转再平移,然后与原函数逐点相乘、积分。如果用的是 ,没有翻转,对应的就是相关运算。两种运算都可以帮助我们理解局部特征是怎样被提取的。

所以,卷积到底在做什么?它就是一种高效的局部特征提取方式.

在音频处理领域,我们可以设计特定的卷积核来抓取人声的共振峰特征,从而实现语音识别.

在更高级的时间序列分析中,比如小波变换(Wavelet Transform),我们不仅用正弦波,还用各种被压缩或拉伸的「小波」作为基底去投影.这能帮我们同时锁定信号在「什么时间」出现了「什么频率」的特征.

在金融数据分析上,股票的走势图也是一个时间序列。通过频域分析,我们可以把数据分解开来,区分变化较快的成分和变化较慢的成分。不过,这些成分是否对应市场情绪、经济周期或投资价值,还需要另外验证。


更有趣的是,特征提取不仅适用于一维的时间序列,还能用到二维的空间序列.

在图像处理领域,一张照片的像素矩阵就是一个空间序列.我们用二维的卷积核在图像上扫过(这正是卷积神经网络CNN的核心).某些卷积核专门提取高频特征(比如物体的边缘,轮廓,突变的地方),某些专门提取低频特征(比如平滑的背景,大面积的色块).通过一层层的卷积投影,计算机就能从一堆像素点中认出哪是鼻子哪是眼,最终实现人脸识别和自动驾驶.

你看,从信号处理到图像识别,把函数与模板相乘再累加,是反复出现的基础动作。理解了内积,这些操作就容易联系起来。

到这里,我们做一个阶段性总结.

我们从最简单的有限维向量出发,把离散的索引拉伸成连续的变量,跨入了无穷维的函数空间.接着,我们又把向量的点乘平滑升级成了函数的积分,让这个无穷维的游乐场重新拥有了长度,角度和投影的概念.

在数学上,一个定义了内积的线性空间,如果对这个内积产生的范数是「完备」的,就叫作 希尔伯特空间 (Hilbert Space)。完备性简单说就是,空间里一列元素只要在这个范数下越来越接近彼此,就会收敛到空间内的某个元素。无穷维情形里,我们反复做近似和取极限,这个条件才格外重要。 [1]

你可以把希尔伯特空间理解为,保留了欧几里得空间中内积结构的推广。在合适的区间和函数空间里, 、 ,以及量子力学中描述粒子状态的波函数 ,都可以作为这里的「向量」来研究。

在希尔伯特空间里,你可以用 计算内积,用 衡量长度,用正交投影把复杂函数分解到不同方向。对平方可积信号, 对应总能量。这些操作把线性代数、微积分、信号处理和量子物理联系了起来。

换一种长度定义,从巴拿赫空间到对偶空间

回顾上一节,我们是从向量内积的定义出发,建立起了无穷维上的内积空间,再加上完备性,得到了希尔伯特空间,也看到了它广泛的用途.

但是,生活中有大量的问题,关心的误差尺度不同。除了用内积给出的长度,我们还可以选择别的范数。前面这个长度公式是

这个公式就是勾股定理的无穷维推广,也称作 范数。范数测量元素的长度,两个元素之差的范数则给出它们的距离。平方误差的累加,也正是最小二乘法中熟悉的计算方式。

但在工程和现实中,我们关注的往往不是「平均能量」.

比如,你检查一架飞机的机翼,除了整体误差的平方和,还会关心某个位置的偏差是否过大。这时候,我们需要测量「最大误差」,也就是连续函数空间中常用的最大值范数。

再比如,在城市网格道路里送外卖,或者处理以绝对误差衡量偏差的问题,我们关心的是「绝对值之和」,也就是 范数在有限维中的对应形式,曼哈顿距离。

你可能想问,「等下,这里的 范数是啥?」 没错,就是不同的距离定义.

从欧氏距离到 范数

在欧几里得空间,长度的计算依赖于勾股定理(平方和开平方).

下面要介绍的巴拿赫空间对距离的演化,就是对这个「指数 2」的解放.

欧几里得距离, (单位球是圆)

如果把它推广为 次方和开 次方呢?

对应的 维向量公式演化为 ,这里取 。

对于二维向量,

当 时, (单位球变成 菱形 )

当 时, (单位球变成 正方形 )

换到函数空间 ,把离散的求和变成连续的积分。这里也取 。

或者取最大值( 空间),

这些都是不同范数下的「单位球」。在二维里,你可以画出它们的边界,看看不同的长度定义,怎样改变了空间的形状。

通过改变公式里的 ,我们创造出了具有各种「凸性」的度量标尺.

在内积诱导的范数下,选取正交归一坐标,二维单位球的边界就是圆。长度和角度通过内积联系在一起。

但换成别的长度定义,单位球的形状就会变化。二维的最大值范数给出正方形,绝对值之和给出菱形。到了三维,对应的是立方体和八面体。


对于这些范数,长度仍然可以计算,但原来的内积公式无法给出我们选择的长度,也就没有配套的欧氏角度和正交投影。

于是,我们把研究范围扩大到 巴拿赫空间 (Banach Space),也就是完备的赋范线性空间。希尔伯特空间也在这个范围里,只是它的范数还有内积作为来源。

在这里,我们有范数来测量长度,也有完备性来保证柯西列收敛。对于一般的巴拿赫空间,内积带来的那套角度和投影,就要换成别的研究手段了。

从向量内积到线性泛函,再到对偶空间

你可能会问,既然没有内积,不能用「向量投影到向量」来找分量,我们该怎么去测量和刻画这个空间里的函数呢?

我们必须引入一种全新的观测工具,线性泛函(Linear Functional).

这就是课本里那个泛函。

什么是泛函?你可以理解泛函是一个观测仪器,吃进去一个函数(向量),吐出来一个实数或复数。这里先用实数举例。

这啥意思?必须举几个例子让你消化消化。

例1,温度计(点值泛函 / 狄拉克泛函)

假设你的「向量」是今天一整天气温变化的连续曲线 . 这根曲线包含了无数个时间点的温度信息.

现在,我拿出一个泛函,名叫「中午12点的温度计」. 这个泛函的作用极其简单,它把整条气温曲线吃进去,只看中午12点那一刻,然后吐出一个数字,「25度」. 你看,输入的是一个复杂的连续函数,输出的是一个干瘪的实数(25).这就是一个观测仪器.

例2,财务会计(积分泛函)

假设你的「向量」是你公司这个月每一天的利润波动曲线 .我拿出一个泛函,名叫「月度总账会计」.

这个会计把整条利润曲线吃进去,把每一天的利润加起来(做积分),吐出一个数字,「本月总利润 100 万」. 同样,输入的是一条起伏的函数曲线,输出的是一个单一的实数(100万).

例3, 空间等高线泛函

在三维空间里,我们更容易看清泛函的作用.

假设我们在一个房间里,房间里的每一个点就是一个向量 . 现在我定义一个线性泛函 ,它的规则是,只看这个点离地面的高度(即 坐标). 所以, .

如果我问,房间里有哪些点,被这个泛函作用后,吐出来的数字都是 ?

也就是问 答案是,距离地面1米高的那个水平面.

吐出数字是「2」的呢?也就是问 ,是距离地面2米高的水平面.

吐出数字是「3.5」的呢?也就是问 ,是距离地面3.5米高的水平面.

你看出来了吗?这个泛函,实际上把整个房间(整个空间),切成了无数个平行的薄片.

每一个薄片,就是泛函的一个「等高线」(数学上叫超平面). 当你把一个具体的点(向量)扔进这个泛函时,泛函吐出的那个实数,其实就是告诉你,「这个点,落在了我切出来的第几个平行薄片上.」

因此, 泛函就是你面对一个极其复杂、包含无限信息的对象(函数)时,采取的某一种特定的提取信息的手段, 你对一个函数换一个不同的泛函(换一个观测仪器),就能提取出另一个实数.


说了这么多,泛函到底有什么用?

在有内积的希尔伯特空间里,我们用 来算投影。你可以理解为,我们沿不同的正交方向观测「向量」,研究它在这些方向上的分量。固定一个方向 后,输出投影系数的规则,就是一种线性泛函.

在一般的巴拿赫空间里,我们用泛函 作用在「向量」 上,记作 或者 ,这个尖括号被称为「对偶配对」,接受一个泛函和一个向量,输出一个数,(它和内积的写法一样,但含义不一样).

注意这里的微妙变化,代表内积运算的尖括号里是两个同类的向量在互相投影,而在泛函运算的尖括号里,左边是「观测仪器」(泛函),右边是「被观测的样本」(向量).

那现在我们到底如何获取要研究的「向量」的信息?

就用这些泛函工具去获取。比如之前举例的,取一个时刻的温度、计算一段时间的总量,或者读取某个坐标,都会提供不同的信息。把这些观测结果综合在一起,就能帮助我们研究原来的「向量」.

在希尔伯特空间里,每个连续线性泛函 ,都能由唯一的向量 表示成 。这就是里斯表示定理,说明我们前面熟悉的内积,已经提供了这类观测工具。 [1]

同时,把一个赋范空间上所有的 连续线性泛函 集合在一起,就得到了它的 对偶空间 (Dual Space)。线性保证它保留加法和数乘的关系,连续则保证样本发生微小变化时,读数也不会突然失控。

完了,又不小心提到了一个抽象概念,「对偶空间」.

什么是对偶空间? 为什么数学家要用「对偶」(Dual)这个词?

「对偶」听起来高深,其本质其实就是「天生一对」、「锁与钥匙」的关系.

原空间里的「向量」是被测量的客体,而新空间里的「泛函」是测量的仪器.没有客体,仪器无用武之地。没有仪器,客体的性质无法展现.它们互为彼此的镜像,缺一不可.

其实,对偶空间早在你大一学的线性代数里,就已经悄悄登场了.

回想一下,在线性代数中,我们最习惯的向量是竖着写的「列向量」(比如一个 的矩阵),它们生活在原空间里.

那对偶空间在哪?就是那些横着写的「行向量」( 的矩阵).

当你用一个行向量去乘以一个列向量时,矩阵乘法会把它们压缩成一个实数.

这不就是「仪器」作用在「样本」上得出一个「测量刻度」吗?在这个意义上,所有行向量构成的集合,天生就是列向量空间的对偶空间.

更神奇的是,这种「锁与钥匙」的对偶关系,赋予了数学家一种极其强大的转换能力.

很多时候,原空间里的研究对象极其复杂、难以捉摸,但由于对偶性的存在,我们完全可以脱离原空间,转而去研究对偶空间里的对象.

希尔伯特空间里的里斯表示定理,给出了向量与连续线性泛函的对应。到了更一般的赋范空间,虽然未必有这样的对应,我们仍然可以用连续线性泛函的读数来区分不同的向量。

所以,研究这些「仪器」怎样读数、怎样变化,也是在研究原空间。原空间中的运算,还可以转到对偶空间上来理解。

对偶空间的几何意义优美,既然我不能在原空间里依靠垂直投影来分解向量,那我就在原空间外面建一个「仪器库」.

每一个非零线性泛函,就是一种特定的观测视角。你想了解原空间里的一个未知向量,就拿连续线性泛函去测量它。当你知道所有这些测量的读数,就能唯一确定这个向量。


用一句中国老话来说, 我们其实就是在「盲人摸象」,这词本意是我们每个人的叙述角度不同,无法获知事情的全貌, 但前面的过程告诉我们, 只要盲人「摸」的足够多,「象」的全貌总会被盲人用他自己理解的方式还原出来.

你可能会问,「是吗?怎么保证?我读书少,不要骗我.」

这就引出了汉恩-巴拿赫定理。它的一个推论是,赋范空间里任意两个不同的向量,总能找到一个连续线性泛函,让它们的读数不同。关于巴拿赫空间中的算子,还有一致有界、开映射、闭图像等基本定理,这篇入门文章先不展开证明。 [1]

下面说说巴拿赫空间和配套的泛函理论,到底有什么实际应用?

弱导数与伴随算子

在微积分里,我们遇到最头疼的问题就是, 函数不光滑,没法求导怎么办?

比如一个带有尖角的折线函数(像绝对值函数 ),在尖角处,经典的导数是不存在的.物理学家和工程师经常遇到这种包含「突变」或「激波」的信号,如果不能求导,很多物理方程就写不下去了.

这时候,「对偶空间」的盲人摸象思维就派上用场了.

既然客体(不光滑的函数 )本身太粗糙,经不起「求导」这种剧烈的操作,那我们能不能 把求导的压力,转移到观测仪器上?

在微积分里有一个神奇的公式,分部积分法,

如果我们选用光滑且只在一个有界区域内可能非零的测试函数 ,边界项就消失了,公式变成了

对于可以经典求导的 ,左边是「先对 求导,再用 观测」,右边是「对观测仪器 求导,再去观测 」。右边对 的要求少了,我们可以借它来定义更一般的导数。

你发现没,原本加在粗糙函数 上的导数撇号,像变魔术一样转移到了光滑的测试函数 上.

这就是泛函分析中非常重要的推论, 弱导数(Weak Derivative) .

弱导数的计算过程,初看确实非常反直觉,看不懂是正常的.因为在传统的微积分里,求导是「算」出来的(用公式推导)。 但在泛函分析里,弱导数是「凑」出来的(或者说,是「验证」出来的).

假设 是局部可积的,我们要找它的弱导数。取所有光滑、紧支撑的测试函数 ,再找一个局部可积函数 。只要对每个这样的 ,它都符合下面的关系

那么 就是我们要找的那个 的导数.

因此, 我们不再要求函数本身处处光滑,而是通过它与所有测试函数的积分关系,检验弱导数是否存在。个别不可导的尖点,未必影响这个关系,因为勒贝格积分下个别点的面积为零.

所以,像 这样的函数,虽然在原点没有经典导数,仍然有弱导数。再往外推广,每个局部可积函数都有分布导数,但这个导数未必还能用局部可积函数表示。跳跃函数的分布导数就会出现狄拉克 ,这时我们进入了广义函数的范围。 [2]

顺着这个「转移压力」的思路继续想,如果我们要对一个函数做极其复杂的线性变换(算子 ),比如微分、积分或者矩阵乘法,我们同样可以把这个操作转移到观测仪器上.

用公式写出来就是,用仪器 去观测变换后的客体 ,等价于用 升级后的仪器 去观测原始客体 .

这里的 就是 伴随算子(Adjoint Operator) .

在实数有限维空间里,对偶算子对应矩阵的转置。在带内积的复数空间里,希尔伯特空间的伴随对应共轭转置。无穷维的算子也有类似关系,不过像微分这样的无界算子,还需要规定它作用在哪些函数上。量子力学中,可观测量用自伴算子来描述。

PDE求解

有了弱导数,数学家们终于可以放开手脚去解偏微分方程(PDE)了.

不管是天气预报里的流体力学方程(Navier-Stokes),还是造桥修路时的弹性力学方程,真实的物理模型都可能遇到突变或不光滑的数据。要求解具有方程所需的经典导数,有时会限制我们能处理的问题。

这时候,我们去寻找 弱解 (Weak Solution)。把方程用测试函数和积分关系表达出来,再在合适的函数空间中寻找符合这些关系的解。带有弱导数范数的索伯列夫空间(Sobolev Space),就是这里常用的空间。 [2]

现代工程中广泛使用的 有限元分析 (FEM),就常常从方程的弱形式出发,用有限维的函数空间近似原来的无穷维问题,再求解对应的方程组。泛函分析帮助我们理解,这样的近似是否有解、是否稳定,以及怎样趋近原来的解。

优化与变分法

在普通微积分里,优化问题是「找一个点 ,让函数 最小」. 但在现实中,我们面临的往往是更宏大的问题,

怎样设计一条滑梯的 曲线形状 ,让小球滑下来的时间最短?(最速降线问题)

怎样设计飞机的 外形曲面 ,让空气阻力最小?

这里要寻找的是一个 函数 (曲线或曲面),让某个「泛函」(比如总时间、总阻力)达到极小值.这就是 变分法 .

在巴拿赫空间里,我们也可以对泛函求「导数」(Fréchet导数或变分)。在可微、无约束的情形下,极小值点的导数为 ,我们据此寻找候选函数,再判断它是否真的是极小值。这个思路与经典力学中的作用量驻值原理,以及最优控制中的轨迹规划,都有联系.

机器学习

还记得我们在前面提到的,巴拿赫空间里那个带有尖角的 范数(绝对值之和)吗?失去内积的圆滑,换来的是什么?

换来的是 稀疏性(Sparsity) ,这是现代机器学习和信号处理的重要工具.

在机器学习中,我们经常有成千上万个特征(比如预测房价时,有面积、地段,甚至还有房东的星座、当天的天气).我们希望模型能自动挑出真正有用的特征,把没用的特征权重变成绝对的 0.

如果你用 范数(欧氏距离,对应岭回归 Ridge Regression),它的单位球是圆滑的,优化出来的权重往往是很多个接近 0 但不等于 0 的小数,拖泥带水. 但如果你用 范数(对应 Lasso 回归),它的单位球是一个带尖角的菱形.在优化求解时,等高线极容易碰到这些「尖角」.而尖角正好落在坐标轴上,这意味着大量的特征权重会被强制压缩成绝对的 0,模型瞬间变得极其干净、高效.

在 图像处理 中,类似的想法还用在「全变分降噪(Total Variation Denoising)」里。我们用图像梯度的大小来构造惩罚项,鼓励大片区域平滑,同时允许边缘处集中出现变化。与惩罚梯度平方的平滑方法相比,这种处理往往更容易保留边缘。这里的关键,是对变化量选择了不同的衡量方式.

再回头看泛函分析

有内积,我们就能计算长度、讨论正交、进行投影。把研究范围扩大到完备的赋范空间,我们进入了更一般的巴拿赫空间。再用连续线性泛函去观测其中的元素,我们走到了对偶空间。

而分部积分让我们看见,对一个对象做运算,还可以通过改变观测它的工具来表达。弱导数、伴随算子以及方程的弱解,都与这个思路有关。

这几步联系起来,你就能看见那些定义背后的动机。

当然,看完这篇文章,离真正学会泛函分析还有一段距离。我也只是分享初学时的体会。要把这些直观变成数学能力,你还得计算、读定义、写证明,看看每个结论究竟依赖什么条件。

但你至少会知道,你在算什么,你在证什么,你眼前要处理的那个抽象对象,到底是个什么来头。

我当年就是被各种定义搞晕了,直到把它们与熟悉的向量、投影和求导联系起来,才有所感悟。

有诗云,

实变函数学十遍,泛函分析心泛函。

得意忘言直观现,今日方知题是我。

参考文献

[1] Casey Rodriguez,MIT 18.102 Introduction to Functional Analysis,2021。课程讲义介绍巴拿赫空间、连续线性泛函、汉恩-巴拿赫定理、希尔伯特空间、正交基和里斯表示定理,适合把本文的直观与正式定义对照阅读。[讲义与课程目录](https://ocw.mit.edu/courses/18-102-introduction-to-functional-analysis-spring-2021/resources/lecture-notes/index.html)

[2] John K. Hunter,Notes on Partial Differential Equations。第 3 章从紧支撑测试函数与分部积分介绍弱导数、分布和索伯列夫空间,并说明弱导数与分布导数的关系。[讲义原文](https://math.ucdavis.edu/~hunter/pdes/pde_notes.pdf)

声明:取材网络、谨慎鉴别

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
14亿老百姓的疑问:大数据全覆盖的时代,为什么医院的检查结果,永远不能通用?

14亿老百姓的疑问:大数据全覆盖的时代,为什么医院的检查结果,永远不能通用?

青苹果sht
2026-10-10 06:01:13
不查不知道,一查吓一跳!电诈头子佘智江,生活奢靡程度远超想象

不查不知道,一查吓一跳!电诈头子佘智江,生活奢靡程度远超想象

月下守候
2026-10-13 16:31:02
广州豹冲入中超!球迷联盟:他们不是广州球迷的新主队 不能接班恒大

广州豹冲入中超!球迷联盟:他们不是广州球迷的新主队 不能接班恒大

念洲
2026-10-13 15:19:01
深夜,歹徒闯入家中对她施暴近两个小时,她咬紧牙关一声不吭,只为保护楼上熟睡的女儿。当警察破门而入时,才发现这位母亲早已浑身是血

深夜,歹徒闯入家中对她施暴近两个小时,她咬紧牙关一声不吭,只为保护楼上熟睡的女儿。当警察破门而入时,才发现这位母亲早已浑身是血

人生录
2026-07-30 00:05:11
郑钦文重获大满贯种子!四朵金花本周位居TOP100

郑钦文重获大满贯种子!四朵金花本周位居TOP100

网球之家
2026-10-14 10:35:54
当不成台北市长了?港媒爆料:沈伯洋父亲遭制裁后,继续做大陆生意

当不成台北市长了?港媒爆料:沈伯洋父亲遭制裁后,继续做大陆生意

坠入二次元的海洋
2026-10-14 04:06:14
丈夫不情愿被戴绿帽,妻子的情夫杀了他,2016年情夫:他不感恩反倒威胁我

丈夫不情愿被戴绿帽,妻子的情夫杀了他,2016年情夫:他不感恩反倒威胁我

汉史趣闻
2026-10-14 13:18:15
上海千亿民企爆雷!24家城投都被套牢?老板两年前就跑路东京了!

上海千亿民企爆雷!24家城投都被套牢?老板两年前就跑路东京了!

孤城落叶
2026-10-02 12:34:43
公安部多次提醒:卖掉旧手机,不只是丢自己隐私,孩子也会受牵连

公安部多次提醒:卖掉旧手机,不只是丢自己隐私,孩子也会受牵连

你在偷看谁
2026-10-08 19:57:01
奥迪全新6座“巨无霸”官宣,真正的百万实力!

奥迪全新6座“巨无霸”官宣,真正的百万实力!

沙雕小琳琳
2026-10-14 02:18:25
沈腾节目中自曝:去年曾许愿工作半年休息半年,如今休息半年达成了,工作没了

沈腾节目中自曝:去年曾许愿工作半年休息半年,如今休息半年达成了,工作没了

韩小娱
2026-10-02 09:05:28
胡锡进和项立刚因尊界V800杠起来了:项立刚建议人人买一辆,支持民族企业!胡锡进认为企业底线要守住

胡锡进和项立刚因尊界V800杠起来了:项立刚建议人人买一辆,支持民族企业!胡锡进认为企业底线要守住

江山挥笔
2026-10-12 15:15:09
菲律宾副总统莎拉·杜特尔特斥责菲总统马科斯有关涉华言论:是对中国鲁莽且危险的挑衅,是在转移注意力,掩盖其在处理菲中关系方面的失败

菲律宾副总统莎拉·杜特尔特斥责菲总统马科斯有关涉华言论:是对中国鲁莽且危险的挑衅,是在转移注意力,掩盖其在处理菲中关系方面的失败

政知新媒体
2026-10-13 23:05:47
港媒当年爆猛料:郭富城为追藤原纪香,砸6400万买飞机

港媒当年爆猛料:郭富城为追藤原纪香,砸6400万买飞机

动物奇奇怪怪
2026-10-07 02:05:56
鲁尼谈利马赛后:他这次有点越界了,像是蓄谋已久想说这些话

鲁尼谈利马赛后:他这次有点越界了,像是蓄谋已久想说这些话

懂球帝
2026-10-14 07:58:06
地铁通了、工资涨了,为什么花桥人还是觉得没“同城”?

地铁通了、工资涨了,为什么花桥人还是觉得没“同城”?

起喜电影
2026-10-14 01:33:56
再遭重创,防空反导部队刚打开发射制导,多枚弹道导弹就从天而降

再遭重创,防空反导部队刚打开发射制导,多枚弹道导弹就从天而降

聚峰军评
2026-10-13 08:15:05
马斯克3个月狂砸2.76亿美元助阵共和党,钱都花哪儿了?

马斯克3个月狂砸2.76亿美元助阵共和党,钱都花哪儿了?

澎湃新闻
2026-10-14 07:28:02
插队被拒投诉儿科医生的家长已道歉!接诊105个孩子 午饭都没空吃

插队被拒投诉儿科医生的家长已道歉!接诊105个孩子 午饭都没空吃

放开他让wo来
2026-10-13 09:28:41
郑钦文距离李娜的成就还有多远?差大满贯冠军+世界排名前二,但有一项荣誉独属

郑钦文距离李娜的成就还有多远?差大满贯冠军+世界排名前二,但有一项荣誉独属

尘语者
2026-10-12 11:11:41
2026-10-14 14:19:00
侃故事的阿庆
侃故事的阿庆
几分钟看完一部影视剧,诙谐幽默的娓娓道来
751文章数 9632关注度
往期回顾 全部

教育要闻

求阴影部分面积,拉窗帘的方法很好用

头条要闻

牛弹琴:美国果然釜底抽薪了 特朗普180度大转弯

头条要闻

牛弹琴:美国果然釜底抽薪了 特朗普180度大转弯

体育要闻

30天30队·太阳:金毛、比特、杜宾和二哈

娱乐要闻

蔡卓妍回应张致恒欠钱不还 不指望还钱

财经要闻

AI短剧正在毁掉中年男人?

科技要闻

两大厂接连挖人,明星AI公司申请破产保护

汽车要闻

豪华智能全拉满 比亚迪大汉不止旗舰级舒适

态度原创

教育
健康
亲子
游戏
家居

教育要闻

父母过度安抚,正在养出玻璃心的孩子

孩子运动莫名晕倒?当心这类疾病

亲子要闻

随时暂停视频,都是个惟妙惟肖的表情包

《战地6年度最佳游戏版》Steam卖398元 标准版永降

家居要闻

2026建博会(广州) 公装联探展交流活动

无障碍浏览 进入关怀版