page contents

性能优化:磁盘读写优化

就处理速度而言,CPU > 内存 > 磁盘IO。另外,磁盘的读写是系统调用,会从用户态切换到内核态,频繁的切换会导致性能的损失。为了能够提升性能,需要避免磁盘IO成为瓶颈。

attachments-2023-03-gH0vRipo6402df350457f.jpeg

就处理速度而言,CPU > 内存 > 磁盘IO。另外,磁盘的读写是系统调用,会从用户态切换到内核态,频繁的切换会导致性能的损失。为了能够提升性能,需要避免磁盘IO成为瓶颈。整体思想是:

1.减少磁盘IO;

2.减少系统调用;


减少flush频率

在写入文件的时候,可以在写入较大批量后再flush到磁盘,而不是没写几个字节就flush一次。每次flush都会产生一次系统调用,一次IO,对性能影响比较明显。但是要注意的是,这种情况容易造成数据的丢失。在写入大批量数据还没来得及flush的时候,如果应用程序崩溃,那么数据是不会丢失的,但是如果操作系统崩溃了,那么就会造成数据的丢失。使用这种方式的时候,一定要考虑是否能够接收这种丢失或者有其他手段保证数据能够恢复。


缓存

a07402f0a80c410aa03158fa25370bc8~noop.image?_iz=58558&from=article.pc_detail&x-expires=1678514053&x-signature=speNRyO62tCnptXkf3VxSWcw6hE%3D

内存的读写速度明显高于磁盘读写,所以缓存是减少磁盘IO很有效的方式。我们可以建一个数据的缓存,当有写入时,直接更新缓存,更新完成后就可以返回继续处理其他事情了。把缓存刷新到磁盘的工作可以交给其他线程批量来做。这种方式还能带来的一个好处是,合并更新。比如,应用程序更新了缓存的第一个值4 -> 5,之后又将这一个值继续更新5 -> 6。之后在刷新时,只需直接将6刷新到磁盘。由于缓存的存在,数据的读取如果能够在缓存中命中,那么性能也能够提升很多。这种方式同样要注意数据丢失的问题。如果缓存中的脏数据还没来得及更新到磁盘,程序就崩溃了,那么就会导致数据的丢失。为了避免这种情况,在数据库的实现中,采用WAL,即先写日志,再更新缓存。这样即使缓存中的数据丢失了,也可以通过日志来恢复数据。


zero-copy

zero-copy主要应对的是应用程序不需要对文件内容进行处理,直接转发的情况。比如一个日志采集系统,它只需要读取日志文件,然后上传到日志服务即可,不需要对日志文件做处理。

497970a6b1bd4a88bbfda6e2c5d64af6~noop.image?_iz=58558&from=article.pc_detail&x-expires=1678514053&x-signature=pq8GIU74x2l6UX1Qw3AM2TtZXm0%3D

在一般场景下,应用程序调用系统命令读取文件,之后从用户态切换到内核态,CPU向DMS发起读取文件的命令,DMS就会把数据准备好,放到内核缓存中,之后通知CPU,CPU再将数据拷贝到应用缓存,这时应用就拿到数据了。如果应用需要发送这些数据给日志服务器,那么需要再将数据拷贝到Socket的缓存,之后数据才会被发送。

cb9b4f335c184750b85505087a251f0d~noop.image?_iz=58558&from=article.pc_detail&x-expires=1678514053&x-signature=6cdNAOg26l0rLfo5TiAH1OWfuHM%3D

在zero-copy场景下,数据不会返回到应用缓存,而是直接在内核中从内核缓存拷贝到Socket缓存进行发送。减少了一次数据的拷贝。

7034b0a67faf496f8983db6e3cb2b7b1~noop.image?_iz=58558&from=article.pc_detail&x-expires=1678514053&x-signature=IYH5IemMJJ%2FJlUpDzfuMLbkqn9c%3D

在新版本的linux操作系统中,利用文件描述符从内核缓存拷贝到Socket缓存的步骤也被省略了,极大的提升了性能。


内存文件映射

可以把文件直接映射到内存,这样对这个文件的读写可以直接以操作内存的方式实现,不需要再进行系统的调用,也就是减少了用户态内核态的切换。另外,这还是一种jvm之间进行内存映射的方式,建一个磁盘文件,分别映射到两个jvm中,这样在一个jvm的写可以被另一个jvm看到。

ba04323e07f54d5eaa6eba3cfa2f3c47~noop.image?_iz=58558&from=article.pc_detail&x-expires=1678514053&x-signature=4VBpangyVe2dpC7VYP0B0HMEfkc%3D

谨记

优化的针对点一定是瓶颈点,不然就是浪费工作量。


更多相关技术内容咨询欢迎前往并持续关注六星社区了解详情。

关注下方微信公众号:java圈子,获取价值999元全套java入门到进阶的学习资料以及教程,还有java技术交流群一起交流学习哦。

attachments-2023-03-uBP7gxnF6402df479c8b8.jpg

  • 发表于 2022-05-05 09:43
  • 阅读 ( 619 )
  • 分类:Java开发

0 条评论

请先 登录 后评论
轩辕小不懂
轩辕小不懂

2403 篇文章

作家榜 »

  1. 轩辕小不懂 2403 文章
  2. 小柒 1478 文章
  3. Pack 1135 文章
  4. Nen 576 文章
  5. 王昭君 209 文章
  6. 文双 71 文章
  7. 小威 64 文章
  8. Cara 36 文章