网易首页 > 网易号 > 正文 申请入驻

为什么复制大文件时进度条在后半段突然加速?

0
分享至

当你第一次打开一个10MB大小的PPT文件时,可能需要等待5秒钟,然而,第二次再打开同一个文件时几乎秒开,这是为什么呢?

当你复制粘贴一个大文件时,进度条在开始时进展缓慢,但到了后半段突然加速。这又是为什么?

操作系统是如何做到“越用越快”,“越用约顺手”的呢?实际上,这一切都归功于计算机中的一项关键技术——PageCache。

存储介质的性能鸿沟

计算机系统中,不同存储设备的速度差异巨大。机械硬盘与内存的读写速度能有百倍的差距(这里引用的数据相对较远,比较新的没找到):

这种差距意味着,直接从磁盘读取数据会极大地影响系统的响应速度和用户体验,为了弥补这一鸿沟,操作系统引入了PageCache机制:

道理和CPU和内存之间增加L1、L2、L3 cache一样,只不过L1、L2、L3 cache实现在硬件层面——CPU中,而pagecache实现在软件层面——操作系统中。

什么是PageCache?

PageCache由物理内存中的页面组成,这些页面的内容对应于磁盘上的物理块:

物理内存中的页面当然主要用来装入运行的进程,剩下的空闲内存用来当做PageCache:

因此pagecache的大小是动态的,它可以增长以占用任何空闲内存:

也可以缩小以缓解内存压力:

文件读取

当一个进程发起read 系统调用时,内核会首先检查所需的数据是否在页面缓存中。如果在缓存中,内核可以跳过访问磁盘,直接从内存中读取数据,这称为缓存命中(cache hit):

如果数据不在pagecache中,称为缓存未命中(cache miss),此时内核必须发起磁盘I/O 操作,从磁盘读取数据。数据从磁盘读取后,内核将数据填充到页面缓存中,以便任何后续的读取操作都能直接从缓存中进行。

并不是整个文件都需要被缓存,页面缓存可以将A文件完整缓存,而只缓存B文件的一个或两个页面,缓存什么取决于被访问的内容,假设某个文件有4页,但经常被使用的是第1号页,那么pagecache中可能就只有这一页:

这解释了为什么第一次打开一个10MB大小的PPT文件时,可能需要等待5秒钟,然而,第二次再打开同一个文件时几乎秒开,因为第一次打开PPT后整体PPT是通过磁盘IO加载到内存的,而第二次访问PPT将命中pagecache,如果全部命令那么这将会纯内存操作,当然能做到秒开。

文件写

当一个进程通过write系统调用写入磁盘时,会发生什么呢?

操作系统通常采用write-through策略,内核将进程的写操作直接写入pagecache而不会立刻同步更新磁盘,因此在这种策略下文件写也是纯内存操作,速度非常快,进程不会被阻塞:

复制粘贴大文件时数据需从磁盘先加载到PageCache,受限于磁盘顺序读取速度进度条增长缓慢,此时复制速度取决于磁盘读取性能。当文件数据已完全加载到 PageCache 后,后续读取直接从内存完成。

写数据时数据会暂存于内存,进度条反映的是写入PageCache的完成度,而非实际落盘进度,此时写速度从磁盘 I/O 提升到内存访问速度,进度条会突然加速。

待更新到磁盘的页会被内核标记,然后内核周期性地将这些页面异步写回磁盘,将内存中的缓存与磁盘的数据进行同步:

当然,除了基本的读写流程外,PageCache还包含了一些关键机制来进一步优化性能。例如,预读(Read-ahead)技术能够预测性地加载后续的数据块,使得顺序读取大文件时效率更高。此外,为了管理有限的内存资源,PageCache采用了LRU(最近最少使用)算法来进行缓存替换决策。

PageCache带来了显著的性能优势,尤其是在重复访问同一文件或顺序读取大文件时表现尤为突出。比如在编译代码、频繁读取配置文件、视频编辑及处理数据库日志等场景下,PageCache都能发挥重要作用。

实验验证

接下来在一台Linux机器上验证一下pagecache,首先创建一个大小为1G、内容为随机数的文件:

dd if=/dev/urandom of=testfile bs=1M count=1024

然后清空系统中所有的pagecache,可以使用这个命令:

sync && echo 1 > /proc/sys/vm/drop_caches  

接着我们读取一下刚创建的这个文件,并统计完全读取整个文件需要的时间,由于在读取文件之前清空了所有pagecache,因此读取testfile文件时将触发磁盘IO:

$ time cat testfile > /dev/null real    0m6.176s user    0m0.028s sys     0m0.731s

这里输出的含义是:

  • real (实际时间): 总共经过的时间,包括所有等待时间(如I/O等待)。

  • user (用户CPU时间): 程序在用户模式下执行所花费的时间。

  • sys (系统CPU时间): 程序在内核模式下执行所花费的时间。

可以看到,读取这1个G的文件总耗时达到了6.1s左右,因为这涉及磁盘IO,因此读取速度缓慢,读完后这个文件将被放到pagecache,接着我们再读一次:

$ time cat testfile > /dev/null  real    0m0.309s user    0m0.011s sys     0m0.298s

可以看到,这次读取文件只用了0.3s,相差了接近20倍,就是因为第二次读取几乎是纯内存操作。

现在你应该明白pagecache的作用了吧。

作者:岛主小风哥

来源:码农的荒岛求生

编辑:小咕咕

转载内容仅代表作者观点

不代表中科院物理所立场

如需转载请联系原公众号

1.2.

3.

4.

5.

6.

7.

8.

9.

10.

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
我穿便装回老家探亲,表弟不屑,他团长见到我后却立正敬礼

我穿便装回老家探亲,表弟不屑,他团长见到我后却立正敬礼

白云故事
2025-11-14 15:10:08
玩火自焚!美囤铜想卡脖,不料铝价狂飙,中国坐庄,他们急着求饶

玩火自焚!美囤铜想卡脖,不料铝价狂飙,中国坐庄,他们急着求饶

近史博览
2025-12-18 18:12:03
45岁谢霆锋哈尔滨聚餐,梳油头帅气依旧!网友质疑:真无油腻全靠自律

45岁谢霆锋哈尔滨聚餐,梳油头帅气依旧!网友质疑:真无油腻全靠自律

今古深日报
2025-12-19 10:52:03
有一种痛苦叫“买了第四代住宅”,幻想很高级,入住后一言难尽!

有一种痛苦叫“买了第四代住宅”,幻想很高级,入住后一言难尽!

装修秀
2025-12-11 10:45:03
黄景瑜曝光新恋情?cp粉曝光圈内猛料:被正主邀请连麦3p?

黄景瑜曝光新恋情?cp粉曝光圈内猛料:被正主邀请连麦3p?

徐帮阳
2025-12-19 16:57:38
泪崩!那些不经意的善意,竟救了自己一命?网友:好人有好报

泪崩!那些不经意的善意,竟救了自己一命?网友:好人有好报

另子维爱读史
2025-12-12 20:14:14
球迷在评论区问戴琳账还完了吗?戴琳回复:你老婆给我还完了

球迷在评论区问戴琳账还完了吗?戴琳回复:你老婆给我还完了

懂球帝
2025-12-17 12:50:29
特斯拉Model Y L上月在国内市场交付量过万 消息称有13000辆

特斯拉Model Y L上月在国内市场交付量过万 消息称有13000辆

TechWeb
2025-12-18 17:01:07
吉鲁:我参加2012年欧洲杯时,妻子从包里递给我阿森纳的合同

吉鲁:我参加2012年欧洲杯时,妻子从包里递给我阿森纳的合同

懂球帝
2025-12-19 11:25:47
官宣!已经确定即将开通运营的高铁

官宣!已经确定即将开通运营的高铁

没有偏旁的常庆
2025-12-19 09:24:26
宋庆龄参加开国大典提三条件,第三点毛主席为难,周恩来巧妙化解

宋庆龄参加开国大典提三条件,第三点毛主席为难,周恩来巧妙化解

南书房
2025-12-08 16:30:10
没买电动车的可以笑了!2026年更换电动车,将会在这3个方面受益

没买电动车的可以笑了!2026年更换电动车,将会在这3个方面受益

电动车的那些事儿
2025-12-19 08:23:13
朱棣在位执政22载,却没能再生下一儿半女,老宫女临死前道出缘由

朱棣在位执政22载,却没能再生下一儿半女,老宫女临死前道出缘由

墨说古今
2025-11-30 20:47:34
河南公公除夕砍死儿媳,儿子哭求死刑,可看到抽屉东西却崩溃

河南公公除夕砍死儿媳,儿子哭求死刑,可看到抽屉东西却崩溃

纸鸢奇谭
2025-06-09 21:44:14
2026年元旦后,运势彻底转向,开始连走十年上坡路的三个星座

2026年元旦后,运势彻底转向,开始连走十年上坡路的三个星座

小晴星座说
2025-12-17 19:41:58
安徽省政府副秘书长许光友履新省统计局局长

安徽省政府副秘书长许光友履新省统计局局长

澎湃新闻
2025-12-19 16:22:26
国羽率先锁定总决赛五个四强席位,李诗沣受伤坐轮椅离场

国羽率先锁定总决赛五个四强席位,李诗沣受伤坐轮椅离场

羽毛球杂志
2025-12-19 16:17:26
福建舰有多难养?参照山东舰,几千人一天7顿饭,难怪小国养不起

福建舰有多难养?参照山东舰,几千人一天7顿饭,难怪小国养不起

云上乌托邦
2025-11-28 12:01:20
重磅“押注”!广西大学新校长没等来院士,却押中一条更“稀缺”

重磅“押注”!广西大学新校长没等来院士,却押中一条更“稀缺”

侃故事的阿庆
2025-12-19 12:16:44
“亲爹咋能这么糟蹋闺女?”父亲拍下女儿视频,网友都看不下去了

“亲爹咋能这么糟蹋闺女?”父亲拍下女儿视频,网友都看不下去了

妍妍教育日记
2025-12-12 23:15:07
2025-12-19 17:44:49
中科院物理所 incentive-icons
中科院物理所
爱上物理,改变世界。
9679文章数 136413关注度
往期回顾 全部

科技要闻

2025新一代人工智能创业大赛总决赛收官

头条要闻

日媒披露:日本请求派代表团访华 未获中方回复

头条要闻

日媒披露:日本请求派代表团访华 未获中方回复

体育要闻

“恶龙”埃托奥,正在毁灭喀麦隆足球

娱乐要闻

曲协表态仅6天,郭德纲担心的事还是发生

财经要闻

非法集资911亿!"金融大鳄"终审被判无期

汽车要闻

“一体压铸”再引热议 一旦受损真的修不起吗?

态度原创

家居
时尚
游戏
健康
军事航空

家居要闻

高端私宅 理想隐居圣地

女友BELLA+封面 | Jimmy&Ohm:人生拼图

开放世界建造房产游戏《合同村》冬促新史低!支持1-4人联机,全新科幻风家具DLC拓展更新上线!

这些新疗法,让化疗不再那么痛苦

军事要闻

媒体:美方官宣史上对台单笔最大军售 野心藏不住了

无障碍浏览 进入关怀版