V2AS问路
Java的随机读写文件-RandomAccessFile 与内存映射
阅读原文时间：2021年04月20日阅读：3

RandomAccessFile

RandomAccessFile是用来访问那些保存数据记录的文件的，你就可以用seek( )方法来访问记录，并进行读写了。这些记录的大小不必相同；但是其大小和位置必须是可知的。但是该类仅限于操作文件。

RandomAccessFile不属于InputStream和OutputStream类系的。实际上，除了实现DataInput和 DataOutput接口之外(DataInputStream和DataOutputStream也实现了这两个接口)，它和这两个类系毫不相干，甚至不使用InputStream和OutputStream类中已经存在的任何功能；它是一个完全独立的类，所有方法(绝大多数都只属于它自己)都是从零开始写的。这可能是因为RandomAccessFile能在文件里面前后移动，所以它的行为与其它的I/O类有些根本性的不同。总而言之，它是一个直接继承Object的，独立的类。

基本上，RandomAccessFile的工作方式是，把DataInputStream和DataOutputStream结合起来，再加上它自己的一些方法，比如定位用的getFilePointer( )，在文件里移动用的seek( )，以及判断文件大小的length( )、skipBytes()跳过多少字节数。此外，它的构造函数还要一个表示以只读方式("r")，还是以读写方式("rw")打开文件的参数 (和C的fopen( )一模一样)。它不支持只写文件。

只有RandomAccessFile才有seek搜寻方法，而这个方法也只适用于文件。BufferedInputStream有一个mark( )方法，你可以用它来设定标记(把结果保存在一个内部变量里)，然后再调用reset( )返回这个位置，但是它的功能太弱了，而且也不怎么实用。

RandomAccessFile的绝大多数功能，但不是全部，已经被JDK 1.4的nio的"内存映射文件(memory-mapped files)"给取代了，你该考虑一下是不是用"内存映射文件"来代替RandomAccessFile了。

Java代码

  1. import java.io.IOException;
  2. import java.io.RandomAccessFile;
    1. public class TestRandomAccessFile {
  4. public static void main(String[] args) throws IOException {
  5. RandomAccessFile rf = new RandomAccessFile("rtest.dat", "rw");
  6. for (int i = 0; i < 10; i++) {
  7. //写入基本类型double数据
  8. rf.writeDouble(i * 1.414);
  9. }
  10. rf.close();
  11. rf = new RandomAccessFile("rtest.dat", "rw");
  12. //直接将文件指针移到第5个double数据后面
  13. rf.seek(5 * 8);
  14. //覆盖第6个double数据
  15. rf.writeDouble(47.0001);
  16. rf.close();
  17. rf = new RandomAccessFile("rtest.dat", "r");
  18. for (int i = 0; i < 10; i++) {
  19. System.out.println("Value " + i + ": " + rf.readDouble());
  20. }
  21. rf.close();
  22. }
  23. }

内存映射文件

内存映射文件能让你创建和修改那些因为太大而无法放入内存的文件。有了内存映射文件，你就可以认为文件已经全部读进了内存，然后把它当成一个非常大的数组来访问。这种解决办法能大大简化修改文件的代码。
fileChannel.map(FileChannel.MapMode mode, long position, long size)将此通道的文件区域直接映射到内存中。注意，你必须指明，它是从文件的哪个位置开始映射的，映射的范围又有多大；也就是说，它还可以映射一个大文件的某个小片断。

MappedByteBuffer是ByteBuffer的子类，因此它具备了ByteBuffer的所有方法，但新添了force()将缓冲区的内容强制刷新到存储设备中去、load()将存储设备中的数据加载到内存中、isLoaded()位置内存中的数据是否与存储设置上同步。这里只简单地演示了一下put()和get()方法，除此之外，你还可以使用asCharBuffer( )之类的方法得到相应基本类型数据的缓冲视图后，可以方便的读写基本类型数据。

Java代码

  1. import java.io.RandomAccessFile;
  2. import java.nio.MappedByteBuffer;
  3. import java.nio.channels.FileChannel;
    1. public class LargeMappedFiles {
  5. static int length = 0x8000000; // 128 Mb
    1. public static void main(String[] args) throws Exception {
  7. // 为了以可读可写的方式打开文件，这里使用RandomAccessFile来创建文件。
  8. FileChannel fc = new RandomAccessFile("test.dat", "rw").getChannel();
  9. //注意，文件通道的可读可写要建立在文件流本身可读写的基础之上
  10. MappedByteBuffer out = fc.map(FileChannel.MapMode.READ_WRITE, 0, length);
  11. //写128M的内容
  12. for (int i = 0; i < length; i++) {
  13. out.put((byte) 'x');
  14. }
  15. System.out.println("Finished writing");
  16. //读取文件中间6个字节内容
  17. for (int i = length / 2; i < length / 2 + 6; i++) {
  18. System.out.print((char) out.get(i));
  19. }
  20. fc.close();
  21. }
  22. }

尽管映射写似乎要用到FileOutputStream，但是映射文件中的所有输出 必须使用RandomAccessFile，但如果只需要读时可以使用FileInputStream，写映射文件时一定要使用随机访问文件，可能写时要读的原因吧。

该程序创建了一个128Mb的文件，如果一次性读到内存可能导致内存溢出，但这里访问好像只是一瞬间的事，这是因为，真正调入内存的只是其中的一小部分，其余部分则被放在交换文件上。这样你就可以很方便地修改超大型的文件了(最大可以到2 GB)。注意，Java是调用操作系统的"文件映射机制"来提升性能的。

------------------------------------------------------

当然，还可以参考以下这篇文章重写一个类来优化：

http://www.ibm.com/developerworks/cn/java/l-javaio/index.html

它的测试结论参考为：

读

写

耗用时间（秒）

RandomAccessFile

RandomAccessFile

95.848

BufferedInputStream + DataInputStream

BufferedOutputStream + DataOutputStream

2.935

BufferedRandomAccessFile

BufferedOutputStream + DataOutputStream

2.813

BufferedRandomAccessFile

BufferedRandomAccessFile

2.453

BufferedRandomAccessFile优

BufferedRandomAccessFile优

2.197

BufferedRandomAccessFile完

BufferedRandomAccessFile完

0.401

MappedByteBuffer+ RandomAccessFile

MappedByteBuffer+ RandomAccessFile

1.209

 

目前最流行的J2SDK版本是1.3系列。使用该版本的开发人员需文件随机存取，就得使用RandomAccessFile类。其I/O性能较之其它常用开发语言的同类性能差距甚远，严重影响程序的运行效率。

开发人员迫切需要提高效率，下面分析RandomAccessFile等文件类的源代码，找出其中的症结所在，并加以改进优化，创建一个"性/价比"俱佳的随机文件访问类BufferedRandomAccessFile。

回页首

在改进之前先做一个基本测试：逐字节COPY一个12兆的文件（这里牵涉到读和写）。

读

写

耗用时间（秒）

RandomAccessFile

RandomAccessFile

95.848

BufferedInputStream + DataInputStream

BufferedOutputStream + DataOutputStream

2.935

我们可以看到两者差距约32倍，RandomAccessFile也太慢了。先看看两者关键部分的源代码，对比分析，找出原因。

1．1．[RandomAccessFile]

public class RandomAccessFile implements DataOutput, DataInput { public final byte readByte() throws IOException { int ch = this.read(); if (ch < 0) throw new EOFException(); return (byte)(ch); } public native int read() throws IOException; public final void writeByte(int v) throws IOException { write(v); } public native void write(int b) throws IOException; }

可见，RandomAccessFile每读/写一个字节就需对磁盘进行一次I/O操作。

1．2．[BufferedInputStream]

public class BufferedInputStream extends FilterInputStream { private static int defaultBufferSize = 2048; protected byte buf[]; // 建立读缓存区 public BufferedInputStream(InputStream in, int size) { super(in); if (size <= 0) { throw new IllegalArgumentException("Buffer size <= 0"); } buf = new byte[size]; } public synchronized int read() throws IOException { ensureOpen(); if (pos >= count) { fill(); if (pos >= count) return -1; } return buf[pos++] & 0xff; // 直接从BUF[]中读取 } private void fill() throws IOException { if (markpos < 0) pos = 0; else if (pos >= buf.length) if (markpos > 0) { int sz = pos - markpos; System.arraycopy(buf, markpos, buf, 0, sz); pos = sz; markpos = 0; } else if (buf.length >= marklimit) { markpos = -1; pos = 0; } else { int nsz = pos * 2; if (nsz > marklimit) nsz = marklimit; byte nbuf[] = new byte[nsz]; System.arraycopy(buf, 0, nbuf, 0, pos); buf = nbuf; } count = pos; int n = in.read(buf, pos, buf.length - pos); if (n > 0) count = n + pos; } }

1．3．[BufferedOutputStream]

public class BufferedOutputStream extends FilterOutputStream { protected byte buf[]; // 建立写缓存区 public BufferedOutputStream(OutputStream out, int size) { super(out); if (size <= 0) { throw new IllegalArgumentException("Buffer size <= 0"); } buf = new byte[size]; } public synchronized void write(int b) throws IOException { if (count >= buf.length) { flushBuffer(); } buf[count++] = (byte)b; // 直接从BUF[]中读取 } private void flushBuffer() throws IOException { if (count > 0) { out.write(buf, 0, count); count = 0; } } }

可见，Buffered I/O putStream每读/写一个字节，若要操作的数据在BUF中，就直接对内存的buf[]进行读/写操作；否则从磁盘相应位置填充buf[]，再直接对内存的buf[]进行读/写操作，绝大部分的读/写操作是对内存buf[]的操作。

1．3．小结

内存存取时间单位是纳秒级（10E-9），磁盘存取时间单位是毫秒级（10E-3）， 同样操作一次的开销，内存比磁盘快了百万倍。理论上可以预见，即使对内存操作上万次，花费的时间也远少对于磁盘一次I/O的开销。 显然后者是通过增加位于内存的BUF存取，减少磁盘I/O的开销，提高存取效率的，当然这样也增加了BUF控制部分的开销。从实际应用来看，存取效率提高了32倍。

回页首

根据1.3得出的结论，现试着对RandomAccessFile类也加上缓冲读写机制。

随机访问类与顺序类不同，前者是通过实现DataInput/DataOutput接口创建的，而后者是扩展FilterInputStream/FilterOutputStream创建的，不能直接照搬。

2．1．开辟缓冲区BUF[默认：1024字节]，用作读/写的共用缓冲区。

2．2．先实现读缓冲。

读缓冲逻辑的基本原理：

A 欲读文件POS位置的一个字节。

B 查BUF中是否存在？若有，直接从BUF中读取，并返回该字符BYTE。

C 若没有，则BUF重新定位到该POS所在的位置并把该位置附近的BUFSIZE的字节的文件内容填充BUFFER，返回B。

以下给出关键部分代码及其说明：

public class BufferedRandomAccessFile extends RandomAccessFile { // byte read(long pos)：读取当前文件POS位置所在的字节 // bufstartpos、bufendpos代表BUF映射在当前文件的首/尾偏移地址。 // curpos指当前类文件指针的偏移地址。 public byte read(long pos) throws IOException { if (pos < this.bufstartpos || pos > this.bufendpos ) { this.flushbuf(); this.seek(pos); if ((pos < this.bufstartpos) || (pos > this.bufendpos)) throw new IOException(); } this.curpos = pos; return this.buf[(int)(pos - this.bufstartpos)]; } // void flushbuf()：bufdirty为真，把buf[]中尚未写入磁盘的数据，写入磁盘。 private void flushbuf() throws IOException { if (this.bufdirty == true) { if (super.getFilePointer() != this.bufstartpos) { super.seek(this.bufstartpos); } super.write(this.buf, 0, this.bufusedsize); this.bufdirty = false; } } // void seek(long pos)：移动文件指针到pos位置，并把buf[]映射填充至POS 所在的文件块。 public void seek(long pos) throws IOException { if ((pos < this.bufstartpos) || (pos > this.bufendpos)) { // seek pos not in buf this.flushbuf(); if ((pos >= 0) && (pos <= this.fileendpos) && (this.fileendpos != 0)) { // seek pos in file (file length > 0) this.bufstartpos = pos * bufbitlen / bufbitlen; this.bufusedsize = this.fillbuf(); } else if (((pos == 0) && (this.fileendpos == 0)) || (pos == this.fileendpos + 1)) { // seek pos is append pos this.bufstartpos = pos; this.bufusedsize = 0; } this.bufendpos = this.bufstartpos + this.bufsize - 1; } this.curpos = pos; } // int fillbuf()：根据bufstartpos，填充buf[]。 private int fillbuf() throws IOException { super.seek(this.bufstartpos); this.bufdirty = false; return super.read(this.buf); } }

至此缓冲读基本实现，逐字节COPY一个12兆的文件（这里牵涉到读和写，用BufferedRandomAccessFile试一下读的速度）：

读

写

耗用时间（秒）

RandomAccessFile

RandomAccessFile

95.848

BufferedRandomAccessFile

BufferedOutputStream + DataOutputStream

2.813

BufferedInputStream + DataInputStream

BufferedOutputStream + DataOutputStream

2.935

可见速度显著提高，与BufferedInputStream+DataInputStream不相上下。

2．3．实现写缓冲。

写缓冲逻辑的基本原理：

A欲写文件POS位置的一个字节。

B 查BUF中是否有该映射？若有，直接向BUF中写入，并返回true。

C若没有，则BUF重新定位到该POS所在的位置，并把该位置附近的 BUFSIZE字节的文件内容填充BUFFER，返回B。

下面给出关键部分代码及其说明：

// boolean write(byte bw, long pos)：向当前文件POS位置写入字节BW。 // 根据POS的不同及BUF的位置：存在修改、追加、BUF中、BUF外等情 况。在逻辑判断时，把最可能出现的情况，最先判断，这样可提高速度。 // fileendpos：指示当前文件的尾偏移地址，主要考虑到追加因素 public boolean write(byte bw, long pos) throws IOException { if ((pos >= this.bufstartpos) && (pos <= this.bufendpos)) { // write pos in buf this.buf[(int)(pos - this.bufstartpos)] = bw; this.bufdirty = true; if (pos == this.fileendpos + 1) { // write pos is append pos this.fileendpos++; this.bufusedsize++; } } else { // write pos not in buf this.seek(pos); if ((pos >= 0) && (pos <= this.fileendpos) && (this.fileendpos != 0)) { // write pos is modify file this.buf[(int)(pos - this.bufstartpos)] = bw; } else if (((pos == 0) && (this.fileendpos == 0)) || (pos == this.fileendpos + 1)) { // write pos is append pos this.buf[0] = bw; this.fileendpos++; this.bufusedsize = 1; } else { throw new IndexOutOfBoundsException(); } this.bufdirty = true; } this.curpos = pos; return true; }

至此缓冲写基本实现，逐字节COPY一个12兆的文件，（这里牵涉到读和写，结合缓冲读，用BufferedRandomAccessFile试一下读/写的速度）：

读

写

耗用时间（秒）

RandomAccessFile

RandomAccessFile

95.848

BufferedInputStream + DataInputStream

BufferedOutputStream + DataOutputStream

2.935

BufferedRandomAccessFile

BufferedOutputStream + DataOutputStream

2.813

BufferedRandomAccessFile

BufferedRandomAccessFile

2.453

可见综合读/写速度已超越BufferedInput/OutputStream+DataInput/OutputStream。

回页首

优化BufferedRandomAccessFile。

优化原则：

  • 调用频繁的语句最需要优化，且优化的效果最明显。
  • 多重嵌套逻辑判断时，最可能出现的判断，应放在最外层。
  • 减少不必要的NEW。

这里举一典型的例子：

public void seek(long pos) throws IOException { … this.bufstartpos = pos * bufbitlen / bufbitlen; // bufbitlen指buf[]的位长，例：若bufsize=1024，则bufbitlen=10。 … }

seek函数使用在各函数中，调用非常频繁，上面加重的这行语句根据pos和bufsize确定buf[]对应当前文件的映射位置，用"*"、"/"确定，显然不是一个好方法。

优化一：this.bufstartpos = (pos << bufbitlen) >> bufbitlen;

优化二：this.bufstartpos = pos & bufmask; // this.bufmask = ~((long)this.bufsize - 1);

两者效率都比原来好，但后者显然更好，因为前者需要两次移位运算、后者只需一次逻辑与运算（bufmask可以预先得出）。

至此优化基本实现，逐字节COPY一个12兆的文件，（这里牵涉到读和写，结合缓冲读，用优化后BufferedRandomAccessFile试一下读/写的速度）：

读

写

耗用时间（秒）

RandomAccessFile

RandomAccessFile

95.848

BufferedInputStream + DataInputStream

BufferedOutputStream + DataOutputStream

2.935

BufferedRandomAccessFile

BufferedOutputStream + DataOutputStream

2.813

BufferedRandomAccessFile

BufferedRandomAccessFile

2.453

BufferedRandomAccessFile优

BufferedRandomAccessFile优

2.197

可见优化尽管不明显，还是比未优化前快了一些，也许这种效果在老式机上会更明显。

以上比较的是顺序存取，即使是随机存取，在绝大多数情况下也不止一个BYTE，所以缓冲机制依然有效。而一般的顺序存取类要实现随机存取就不怎么容易了。

回页首

需要完善的地方

提供文件追加功能：

public boolean append(byte bw) throws IOException { return this.write(bw, this.fileendpos + 1); }

提供文件当前位置修改功能：

public boolean write(byte bw) throws IOException { return this.write(bw, this.curpos); }

返回文件长度（由于BUF读写的原因，与原来的RandomAccessFile类有所不同）：

public long length() throws IOException { return this.max(this.fileendpos + 1, this.initfilelen); }

返回文件当前指针（由于是通过BUF读写的原因，与原来的RandomAccessFile类有所不同）：

public long getFilePointer() throws IOException { return this.curpos; }

提供对当前位置的多个字节的缓冲写功能：

public void write(byte b[], int off, int len) throws IOException { long writeendpos = this.curpos + len - 1; if (writeendpos <= this.bufendpos) { // b[] in cur buf System.arraycopy(b, off, this.buf, (int)(this.curpos - this.bufstartpos), len); this.bufdirty = true; this.bufusedsize = (int)(writeendpos - this.bufstartpos + 1); } else { // b[] not in cur buf super.seek(this.curpos); super.write(b, off, len); } if (writeendpos > this.fileendpos) this.fileendpos = writeendpos; this.seek(writeendpos+1); } public void write(byte b[]) throws IOException { this.write(b, 0, b.length); }

提供对当前位置的多个字节的缓冲读功能：

public int read(byte b[], int off, int len) throws IOException {
long readendpos = this.curpos + len - 1;
if (readendpos <= this.bufendpos && readendpos <= this.fileendpos ) { // read in buf System.arraycopy(this.buf, (int)(this.curpos - this.bufstartpos), b, off, len); } else { // read b[] size > buf[]
if (readendpos > this.fileendpos) { // read b[] part in file
len = (int)(this.length() - this.curpos + 1);
}
super.seek(this.curpos);
len = super.read(b, off, len);
readendpos = this.curpos + len - 1;
}
this.seek(readendpos + 1);
return len;
}
public int read(byte b[]) throws IOException {
return this.read(b, 0, b.length);
}
public void setLength(long newLength) throws IOException {
if (newLength > 0) {
this.fileendpos = newLength - 1;
} else {
this.fileendpos = 0;
}
super.setLength(newLength);
}

public void close() throws IOException {
this.flushbuf();
super.close();
}

至此完善工作基本完成，试一下新增的多字节读/写功能，通过同时读/写1024个字节，来COPY一个12兆的文件，（这里牵涉到读和写，用完善后BufferedRandomAccessFile试一下读/写的速度）：

读

写

耗用时间（秒）

RandomAccessFile

RandomAccessFile

95.848

BufferedInputStream + DataInputStream

BufferedOutputStream + DataOutputStream

2.935

BufferedRandomAccessFile

BufferedOutputStream + DataOutputStream

2.813

BufferedRandomAccessFile

BufferedRandomAccessFile

2.453

BufferedRandomAccessFile优

BufferedRandomAccessFile优

2.197

BufferedRandomAccessFile完

BufferedRandomAccessFile完

0.401

回页首

与JDK1.4新类MappedByteBuffer+RandomAccessFile的对比？

JDK1.4提供了NIO类 ，其中MappedByteBuffer类用于映射缓冲，也可以映射随机文件访问，可见JAVA设计者也看到了RandomAccessFile的问题，并加以改进。怎么通过MappedByteBuffer+RandomAccessFile拷贝文件呢？下面就是测试程序的主要部分：

RandomAccessFile rafi = new RandomAccessFile(SrcFile, "r"); RandomAccessFile rafo = new RandomAccessFile(DesFile, "rw"); FileChannel fci = rafi.getChannel(); FileChannel fco = rafo.getChannel(); long size = fci.size(); MappedByteBuffer mbbi = fci.map(FileChannel.MapMode.READ_ONLY, 0, size); MappedByteBuffer mbbo = fco.map(FileChannel.MapMode.READ_WRITE, 0, size); long start = System.currentTimeMillis(); for (int i = 0; i < size; i++) { byte b = mbbi.get(i); mbbo.put(i, b); } fcin.close(); fcout.close(); rafi.close(); rafo.close(); System.out.println("Spend: "+(double)(System.currentTimeMillis()-start) / 1000 + "s");

试一下JDK1.4的映射缓冲读/写功能，逐字节COPY一个12兆的文件，（这里牵涉到读和写）：

读

写

耗用时间（秒）

RandomAccessFile

RandomAccessFile

95.848

BufferedInputStream + DataInputStream

BufferedOutputStream + DataOutputStream

2.935

BufferedRandomAccessFile

BufferedOutputStream + DataOutputStream

2.813

BufferedRandomAccessFile

BufferedRandomAccessFile

2.453

BufferedRandomAccessFile优

BufferedRandomAccessFile优

2.197

BufferedRandomAccessFile完

BufferedRandomAccessFile完

0.401

MappedByteBuffer+ RandomAccessFile

MappedByteBuffer+ RandomAccessFile

1.209

确实不错，看来JDK1.4比1.3有了极大的进步。如果以后采用1.4版本开发软件时，需要对文件进行随机访问，建议采用MappedByteBuffer+RandomAccessFile的方式。但鉴于目前采用JDK1.3及以前的版本开发的程序占绝大多数的实际情况，如果您开发的JAVA程序使用了RandomAccessFile类来随机访问文件，并因其性能不佳，而担心遭用户诟病，请试用本文所提供的BufferedRandomAccessFile类，不必推翻重写，只需IMPORT 本类，把所有的RandomAccessFile改为BufferedRandomAccessFile，您的程序的性能将得到极大的提升，您所要做的就这么简单。

回页首

未来的考虑

读者可在此基础上建立多页缓存及缓存淘汰机制，以应付对随机访问强度大的应用。

 

参考资料

SUN JDK1.3/1.4 SRC。

手机扫一扫

移动阅读更方便

阿里云服务器
腾讯云服务器
七牛云服务器

你可能感兴趣的文章