Linux 内存中的缓冲区(Buffer)与缓存(Cache) 区别与认知.docx
《Linux 内存中的缓冲区(Buffer)与缓存(Cache) 区别与认知.docx》由会员分享,可在线阅读,更多相关《Linux 内存中的缓冲区(Buffer)与缓存(Cache) 区别与认知.docx(10页珍藏版)》请在课桌文档上搜索。
1、Linux内存中的缓冲区(BUffer)与缓存(CaChe)区别与认知Buffer和Cache的定义:Buffer:是原始磁盘块的临时存储,即将缓存数据写入磁盘。它通常不会很大(大约20MB)o这样,内核就可以将分散的写入集中起来,从而对磁盘写入进行统一优化。例如,多个小的写入可以合并为一个大的写入等。Cache:是用于从磁盘读取文件的页面缓存,用于缓存从文件中读取的数据。这样,下次访问这些文件数据时,可以直接从内存中快速取回,而无需再次访问缓慢的磁盘。但是让我问你,由于BUfTer只是将写入磁盘的数据的缓存。反过来,它还会缓存从磁盘读取的数据吗?或者Cache是从文件中读取数据的缓存,那么它
2、是否也为写入文件缓存数据呢?如果你能回答以上两个问题,你可以跳过这篇文章,我想你已经对Buffer和CaChe有了很好的理解。但如果你不能,请留下来看看我的进一步解释。free命令要检查系统内存使用情况,您想到的第一个命令可能是free,例如:$free-htotalusedfreesharedbuff7cacheavailableMem:1.9G1.0G394M2.6M491M728MSwapiOBOBOB很明显,该输出包括了物理内存Mem和SWaP的具体使用情况(如总内存、已用内存、缓存、可用内存等)。缓存是BUffer和CaChe两部分的总和。让我们看一下free的手册页中的Buffer
3、和Cache定义:BuffersMemoryusedbykemelbuffers(BuffersinZprocZmeminfo)cacheMemoryusedbythepagecacheandslabs(CachedandSReclaimableinprocmeminfo)buff7cacheSumofbuffersandcache我们可以看到free命令的源数据实际上存储在proc/meminfo文件中。正如我前面提到的,Zproc是Linux内核提供的一个特殊的文件系统,它就像一个用户与内核交互的接口。/proc文件系统也是许多性能工具的最终数据源。在manproc中,BUfferS和Ca
4、ched的定义如下:Buffers%luRelativelytemporarystoragefbrrawdiskblocksthatshouldn,tgettremendouslylarge(20MBorso).Cached%luIn-memorycacheforfilesreadfromthedisk(thepagecache).DoesntincludeSwapCached.SReclaimable%lu(sinceLinux2.6.19)PartofSlab,thatmightbereclaimed,Suchascaches.SUnreclaim%lu(sinceLinux2.6.19)
5、PartofSlab,thatcannotbereclaimedonmemorypressure.至此,您可能认为您已经找到了我的问题的答案,“Buffer”只是用于将数据写入磁盘的缓存,“Cache”只是用于从文件中读取数据的缓存。但事实上,“Buffer”也可以用于读取,“Cache”也可以用于写入。实验我们将在这里做两个实验,写缓存和读缓存。写入Cache让我们登录到我们的LinUX主机并准备好两个终端。在终端1,让我们先清理缓存:roottest#free-htotalusedfreesharedbuff/cacheavailableMem:7.7G196M6.3G492K1.2G7.
6、3GSwap:BBBroot0test#echo3procsysvmdrop-cachesroottestfree-htotalusedfreesharedbuff/cacheavailableMem:7.7G195M7.3G492K154M7.3GSwap:BBB这里procsysVm/drop_caches是一个通过proc文件系统修改内核行为的例子。写入3意味着清理各耳缓存,例如文件页、目录条目和InOde。仍然在终端1,让我们开启vmstat2命令:S b freebuffcache45492605144404548764514484548972514488455572507708#
7、vmstat 2 memoryd Wp S O 1-swap- si so to-bi8 43bo725-system-in cs us33253 4343 571482 428cpu- sy id wa1 981 1 99 1 98 32 61buff和cache就是我们前面看到的Buffer和Cache,单位是KBobi和bo分别表示块设备读取和写入的大小,以块/s为单位。由于Linux中的块大小为1KB,因此这个单位相当于KB/so接下来,转移到终端2并运行以下命令:roottest#ddif=devurandomof=tmpfilebs=lMcount=5O0500+0recordsi
8、n50+recordsout5242880Obytes(524MB)copied,3.25553s,161MB/s现在切换回终端1,并观察buff和cache的变化:Irootfltest # vmstat 2-memory free buff45492604548764O45489720455572Q4239456O4239472O4239588O423968Ocache 51444 514480 514488 57708 82358082358 82358 82358 823908-o bi8 O437 : O O : 124 ,bo725 3899 e 1280 97280-system
9、in3 253 343 482 688 259 249CS US 3 400 571 I 428 185 420 396 I857 20 758 17283247I 989998! 6149,99I 992 76 6 4 19 2通过观察VmStat的输出,我们发现运行dd命令时,CaChe一直在增长,而BUffer基本没有变化。读取Buffer现在,让我们做第二个实验。再次清除终端1中的缓存:roottest#free-husedfreesharedbuff/cacheavailabletotalMem:Swap:roottestroottest7.7GB#echo3free-h266M5.
10、4GOB0Bprocsysvmdrop-caches452K2.IG7.2Gtotalusedfreesharedbuff/cacheavailableMem:Swap:7.7GB190MOB7.4GB452K154M7.3G同样在终端1中,再次启动vmstat2命令:roottest#vmstat2procsemoryswapiosystemcpurbswpdfreebuffcachesisobiboincsussyidwast76885561714442349976882171441111790997688217144O117199990您可以看到此时buff为0。现在在终端2中,运行以下
11、命令:root0testdata#ddif=devnvmelnlof=cicvullbs=lMcount=1024124+recordsin124+Orecordsout1073741824bytes(1.1GB)copied,7.18224s,149MB/s然后,回到终端1观察:J# vmstat 2 memoryfree 7704020 773400 773516 773524 7628284buff cache 739847287788 41369673392 67286773772 9267206652104 1048832 1614443728 1698641282561282566
12、16415952159521595215952159212 159941654 161148OO 0OO-10- bi-systemcpubo in cs us sy id wa st8235O990110190990115191991 17 184 G l 2754721944107961492354616231191O25471O6261187Q35471037466727522观察VmStat的输出,你会发现在读盘的时候(也就是bi0的时候),Buffer和Cache都在增长,但是显然Buffer的增长要快很多。这意味着当从磁盘读取时,数据被缓存在Buffer中。现在我们几乎可以得出结论
13、:读取文件时数据会缓存在Cache中,读取磁盘时数据会缓存在Buffer中。结论在这里您应该会发现,虽然本文对BUffer和CaChe进行了描述,但仍然无法涵盖所有细节。我们如今学到了以下两点:Buffer:既可以用作“要写入磁盘的数据缓存”,也可以用作“读取磁盘读的数据缓存Cache:既可以用作“从读取文件的页面缓存”,也可以用作“写入文件的页面缓存LCache和Buffer是两个不同的概念,简单的说,Cache是加速“读,而buffer是缓冲“写”,前者解决读的问题,保存从磁盘上读出的数据,后者是解决写的问题,保存即将要写入到磁盘上的数据。在很多情况下,这两个名词并没有严格区分,常常把读写
14、混合类型称为buffercache,本文后续的论述中,统一称为CaChe。Oracle中的IOgbUffer是解决redo写入的问题,而databuffercache则解决datablock的读写问题。对于OraCIe来说,如果IO没有在SGA中命中,都会发生物理IO,Oracle并不关心底层存储的类型,可能是一套存储系统,可能是本地磁盘,可能是RAIDl0,也可能是RAID5,可能是文件系统,也可能是裸设备,或是ASM。总之,OraCIe把底层的存储系统称为存储子系统。在存储系统中,CaChe几乎无处不在(在后面的论述中,我们统称为Caehe),文件系统有cache,存储有CaChe,RAI
15、D控制器上有CaChe,磁盘上也有cacheo为了提高性能,OraCIe的一个写操作,很有可能写在存储的CaChe上就返回了,如果这时存储系统发生问题,OraCle如何来保证数据一致性的问题。Oracle数据库最重要的特性是:Writeaheadlogging,在datablock在写入前,必须保证首先写入redolog,在事务commit时,同时必须保证redolog被写入。Oracle为了保证数据的一致性,对于redolog采用了directl,DirectIO会跳过了OS上文件系统的Caehe这一层。但是,OS管不了存储这一层,虽然跳过了文件系统的cache,但是依然可能写在存储的cac
16、he上。一般的存储都有CaChe,为了提高性能,写操作在CaChe上完成就返回给OS了,我们称这种写操作为Writeback,为了保证掉电时,cache中的内容不会丢失,存储都有电池保护,这些电池可以供存储在掉电后工作一定时间,保证CaChe中的数据被刷入磁盘,不会丢失。不同于UPS,电池能够支撑的时间很短,一般都在30分钟以内,只要保证cache中的数据被写入就可以了。存储可以关闭写cache,这时所有的写操作必须写入到磁盘才返回,我们称这种写操作为Writethrouogh,当存储发现某些部件不正常时,存储会自动关闭写cache,这时写性能会下降。RAlD卡上也有CaChe,一般是256M
17、,同样是通过电池来保护的,不同于存储的是,这个电池并不保证数据可以被写入到磁盘上,而是为CaChe供电以保护数据不丢失,一般可以支撑几天的时间。还有些RAlD卡上有flashcache,掉电后可以将cache中的内容写入到flashcache中,保证数据不丢失。如果你的数据库没有存储,而是放在普通PC机的本地硬盘之上的,一定要确认主机中的RAID卡是否有电池,很多硬件提供商默认是不配置电池的。当然,RAID卡上的CaChe同样可以选择关闭。磁盘上的CaChe,一般是16M-64M,很多存储厂商都明确表示,存储中磁盘的CaChe是禁用的,这也是可以理解的,为了保证数据可靠性,而存储本身又提供了非
18、常大的CaChe,相比较而言,磁盘上的CaChe就不再那么重要。SCSl指令中有一个FUA(FOrCeUnitACCeSS)的参数,设置这个参数时,写操作必须在磁盘上完成才可以返回,相当于禁用了磁盘的写CaChe。虽然没有查证到资料,但是我个人认为一旦磁盘被接入到RAID控制器中,写CaChe就会被禁用,这也是为了数据可靠性的考虑,我相信存储厂商应该会考虑这个问题。至此,我们可以看到Oracle的一个物理IO是经历了一系列的cache之后,最终被写入到磁盘上。CaChe虽然可以提高性能,但是也要考虑掉电保护的问题。关于数据的一致性,是由OraCle数据库,操作系统和存储子系统共同来保证的。对L
19、inUX内存中的buffers和cache的认知buffers和cached机制引入在LinUX操作系统中,当应用程序需要读取文件中的数据时,操作系统先分配一些内存,将数据从磁盘读入到这些内存中,然后再将数据分发给应用程序;当需要往文件中写数据时,操作系统先分配内存接收用户数据,然后再将数据从内存写到磁盘上。然而,如果有大量数据需要从磁盘读取到内存或者由内存写入磁盘时,系统的读写性能就变得非常低下,因为无论是从磁盘读数据,还是写数据到磁盘,都是一个很消耗时间和资源的过程,于是在这种情况下,LinUX引入Tbuffers和cache机制。当系统需要读取某些文件时,会首先在buffers与cach
20、ed内存区查找,如果找到直接读出传送给应用程序,如果没有找到需要数据才从磁盘读取,这就是操作系统的缓存机制。通过缓存大大提高了操作系统的性能。举个例子,当你使用Vim编辑一个文件时,如果你修改了文件的内容并保存,数据会被先写入BUffer中,然后再被写入磁盘。当你再次打开这个文件时,文件的内容会被读入CaChe中,以加快文件的访问速度。buffers与cached区别Cache(缓存)是为了调高CPU和内存之间数据交换而设计。用于缓存从文件中读取的数据。这样下次访问这些文件数据时,可以直接从内存中快速取回,而无需再次访问缓慢的磁盘。Cache作为一个数据的长期的容器而其中的数据不一定非要被立刻
21、处理。Buffer(缓冲)是为了提高内存和硬盘(或其他I/O设备的数据交换而设计)。主要是针对写操作,目的是将写的操作集中起来进行,减少磁盘碎片和硬盘反复寻址过程,提高性能。Buffer中的数据是一定要在短时间内被处理的,因为Buffer只是暂存数据的临时区域。通过命令manfree查看帮助.buffersMemoryusedbykernelbuffers(Buffersinprocmeminfb)cacheMemoryusedbythepagecacheandslabs(CachedandSReclaimableinprocmeminfo)buff7cacheSumofbuffersandc
22、ache.从free的手册中,可以看到buff/CaChe的说明:buff/cache是buffers和cache之和buffers是内核缓冲区用到的内存,对应的是procmeminfo中的Buffers值cache是内核页缓存和Slab用到的内存,对应的procmeminfo中的Cached与SReclaimable之和lrootlocalhost|#egrep-rBuffers|ACached|SReclaimable7proc/meminfo;freeBuffers:0kBCached:385628kBSReclaimable:27204kBtotalusedfreesharedbuff
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- Linux 内存中的缓冲区Buffer与缓存Cache 区别与认知 内存 中的 缓冲区 Buffer 缓存 Cache 区别 认知

链接地址:https://www.desk33.com/p-1163766.html