-
Java进阶 | IO流核心模块与基本原理
一、IO流与系统
IO技术在JDK中算是极其复杂的模块，其复杂的一个关键原因就是IO操作和系统内核的关联性，另外网络编程，文件管理都依赖IO技术，而且都是编程的难点，想要整体理解IO流，先从Linux操作系统开始。
Linux空间隔离
Linux使用是区分用户的，这个是基础常识，其底层也区分用户和内核两个模块：
- User space：用户空间
- Kernel space：内核空间
常识用户空间的权限相对内核空间操作权限弱很多，这就涉及到用户与内核两个模块间的交互，此时部署在服务上的应用如果需要请求系统资源，则在交互上更为复杂：
用户空间本身无法直接向系统发布调度指令，必须通过内核，对于内核中数据的操作，也是需要先拷贝到用户空间，这种隔离机制可以有效的保护系统的安全性和稳定性。
参数查看
可以通过Top命令动态查看各项数据分析，进程占用资源的状况：
-
us：用户空间占用CPU的百分比; -
sy：内核空间占用CPU的百分比； -
id：空闲进程占用CPU的百分比； -
wa：IO等待占用CPU的百分比；
对wa指标，在大规模文件任务流程里是监控的核心项之一。
IO协作流程
此时再看上面图【1】的流程，当应用端发起IO操作的请求时，请求沿着链路上的各个节点流转，有两个核心概念：
- 节点交互模式：同步与异步；
- IO数据操作：阻塞与非阻塞；
这里就是文件流中常说的：【同步/异步】IO,【阻塞/非阻塞】IO，下面看细节。
二、IO模型分析
1、同步阻塞
用户线程与内核的交互方式，应用端请求对应一个线程处理，整个过程中accept(接收)和read(读取)方法都会阻塞直至整个动作完成：
在常规CS架构模式中，这是一次IO操作的基本过程，该方式如果在高并发的场景下，客户端的请求响应会存在严重的性能问题，并且占用过多资源。
2、同步非阻塞
在同步阻塞IO的基础上进行优化，当前线程不会一直等待数据就绪直到完成复制：
在线程请求后会立即返回，并不断轮询直至拿到数据，才会停止轮询，这种模式的缺陷也是显而易见的，如果数据准备好，在通知线程完成后续动作，这样就可以省掉很多中间交互。
3、异步通知模式
在异步模式下，彻底摒弃阻塞机制，过程分段进行交互，这与常规的第三方对接模式很相似，本地服务在请求第三方服务时，如果请求过程耗时很大，会异步执行，第三方第一次回调，确认请求可以被执行；第二次回调则是推送处理结果，这种思想在处理复杂问题时，可以很大程度的提高性能，节省资源：
异步模式对于性能的提升是巨大的，当然其相应的处理机制也更复杂，程序的迭代和优化是无止境的，在NIO模式中再次对IO流模式进行优化。
三、File文件类
1、基础描述
File类作为文件和目录路径名的抽象表示，用来获取磁盘文件的相关元数据信息，例如：文件名称、大小、修改时间、权限判断等。
注意：File并不操作文件承载的数据内容，文件内容称为数据，文件自身信息称为元数据。
public class File01 {
public static void main(String[] args) throws Exception {
// 1、读取指定文件
File speFile = new File(IoParam.BASE_PATH+"fileio-03.text") ;
if (!speFile.exists()){
boolean creFlag = speFile.createNewFile() ;
System.out.println("创建："+speFile.getName()+"; 结果："+creFlag);
}
// 2、读取指定位置
File dirFile = new File(IoParam.BASE_PATH) ;
// 判断是否目录
boolean dirFlag = dirFile.isDirectory() ;
if (dirFlag){
File[] dirFiles = dirFile.listFiles() ;
printFileArr(dirFiles);
}
// 3、删除指定文件
if (speFile.exists()){
boolean delFlag = speFile.delete() ;
System.out.println("删除："+speFile.getName()+"; 结果："+delFlag);
}
}
private static void printFileArr (File[] fileArr){
if (fileArr != null && fileArr.length>0){
for (File file : fileArr) {
printFileInfo(file) ;
}
}
}
private static void printFileInfo (File file) {
System.out.println("名称："+file.getName());
System.out.println("长度："+file.length());
System.out.println("路径："+file.getPath());
System.out.println("文件判断："+file.isFile());
System.out.println("目录判断："+file.isDirectory());
System.out.println("最后修改："+new Date(file.lastModified()));
System.out.println();
}
}
上述案例使用了File类中的基本构造和常用方法（读取、判断、创建、删除）等，JDK源码在不断的更新迭代，通过类的构造器、方法、注释等去判断类具有的基本功能，是作为开发人员的必备能力。
在File文件类中缺乏两个关键信息描述：类型和编码，如果经常开发文件模块的需求，就知道这是两个极其复杂的点，很容易出现问题，下面站在实际开发的角度看看如何处理。
2、文件业务场景
如图所示，在常规的文件流任务中，会涉及【文件、流、数据】三种基本形式的转换：
基本过程描述：
- 源文件生成，推送文件中心；
- 通知业务使用节点获取文件；
- 业务节点进行逻辑处理；
很显然的一个问题，任何节点都无法适配所有文件处理策略，比如类型与编码，面对复杂场景下的问题，规则约束是常用的解决策略，即在约定规则之内的事情才处理。
上面流程中，源文件节点通知业务节点时的数据主体描述：
public class BizFile {
/**
* 文件任务批次号
*/
private String taskId ;
/**
* 是否压缩
*/
private Boolean zipFlag ;
/**
* 文件地址
*/
private String fileUrl ;
/**
* 文件类型
*/
private String fileType ;
/**
* 文件编码
*/
private String fileCode ;
/**
* 业务关联：数据库
*/
private String bizDataBase ;
/**
* 业务关联：数据表
*/
private String bizTableName ;
}
把整个过程当做一个任务进行封装，即：任务批次、文件信息、业务库表路由等，当然这些信息也可以直接标记在文件命名的策略上，处理的手段类似：
/**
* 基于约定策略读取信息
*/
public class File02 {
public static void main(String[] args) {
BizFile bizFile = new BizFile("IN001",Boolean.FALSE, IoParam.BASE_PATH,
"csv","utf8","model","score");
bizFileInfo(bizFile) ;
/*
* 业务性校验
*/
File file = new File(bizFile.getFileUrl());
if (!file.getName().endsWith(bizFile.getFileType())){
System.out.println(file.getName()+"：描述错误...");
}
}
private static void bizFileInfo (BizFile bizFile){
logInfo("任务ID",bizFile.getTaskId());
logInfo("是否解压",bizFile.getZipFlag());
logInfo("文件地址",bizFile.getFileUrl());
logInfo("文件类型",bizFile.getFileType());
logInfo("文件编码",bizFile.getFileCode());
logInfo("业务库",bizFile.getBizDataBase());
logInfo("业务表",bizFile.getBizTableName());
}
}
基于主体描述的信息，也可以转化到命名规则上：命名策略：编号_压缩_Excel_编码_库_表，这样一来在业务处理时，不符合约定的文件直接排除掉，降低文件异常导致的数据问题。
四、基础流模式
1、整体概述
IO流向
基本编码逻辑：源文件->输入流->逻辑处理->输出流->目标文件；
基于不同的角度看，流可以被划分很多模式：
- 流动方向：输入流、输出流；
- 流数据类型：字节流、字符流；
IO流的模式有很多种，相应的API设计也很复杂，通常复杂的API要把握住核心接口与常用的实现类和原理。
基础API
-
字节流：InputStream输入、OutputStream输出；数据传输的基本单位是字节；
- read()：输入流中读取数据的下一个字节；
- read(byte b[])：读数据缓存到字节数组；
- write(int b)：指定字节写入输出流；
- write(byte b[])：数组字节写入输出流；
-
字符流：Reader读取、Writer写出；数据传输的基本单位是字符；
- read()：读取一个单字符；
- read(char cbuf[])：读取到字符数组；
- write(int c)：写一个指定字符；
- write(char cbuf[])：写一个字符数组；
缓冲模式
IO流常规读写模式，即读取到数据然后写出，还有一种缓冲模式，即数据先加载到缓冲数组，在读取的时候判断是否要再次填充缓冲区：
缓冲模式的优点十分明显，保证读写过程的高效率，并且与数据填充过程隔离执行，在BufferedInputStream、BufferedReader类中是对缓冲逻辑的具体实现。
2、字节流
API关系图：
字节流基础API：
public class IoByte01 {
public static void main(String[] args) throws Exception {
// 源文件 目标文件
File source = new File(IoParam.BASE_PATH+"fileio-01.png") ;
File target = new File(IoParam.BASE_PATH+"copy-"+source.getName()) ;
// 输入流 输出流
InputStream inStream = new FileInputStream(source) ;
OutputStream outStream = new FileOutputStream(target) ;
// 读入 写出
byte[] byteArr = new byte[1024];
int readSign ;
while ((readSign=inStream.read(byteArr)) != -1){
outStream.write(byteArr);
}
// 关闭输入、输出流
outStream.close();
inStream.close();
}
}
字节流缓冲API：
public class IoByte02 {
public static void main(String[] args) throws Exception {
// 源文件 目标文件
File source = new File(IoParam.BASE_PATH+"fileio-02.png") ;
File target = new File(IoParam.BASE_PATH+"backup-"+source.getName()) ;
// 缓冲：输入流 输出流
InputStream bufInStream = new BufferedInputStream(new FileInputStream(source));
OutputStream bufOutStream = new BufferedOutputStream(new FileOutputStream(target));
// 读入 写出
int readSign ;
while ((readSign=bufInStream.read()) != -1){
bufOutStream.write(readSign);
}
// 关闭输入、输出流
bufOutStream.close();
bufInStream.close();
}
}
字节流应用场景：数据是文件本身，例如图片，视频，音频等。
3、字符流
API关系图：
字符流基础API：
public class IoChar01 {
public static void main(String[] args) throws Exception {
// 读文本 写文本
File readerFile = new File(IoParam.BASE_PATH+"io-text.txt") ;
File writerFile = new File(IoParam.BASE_PATH+"copy-"+readerFile.getName()) ;
// 字符输入输出流
Reader reader = new FileReader(readerFile) ;
Writer writer = new FileWriter(writerFile) ;
// 字符读入和写出
int readSign ;
while ((readSign = reader.read()) != -1){
writer.write(readSign);
}
writer.flush();
// 关闭流
writer.close();
reader.close();
}
}
字符流缓冲API：
public class IoChar02 {
public static void main(String[] args) throws Exception {
// 读文本 写文本
File readerFile = new File(IoParam.BASE_PATH+"io-text.txt") ;
File writerFile = new File(IoParam.BASE_PATH+"line-"+readerFile.getName()) ;
// 缓冲字符输入输出流
BufferedReader bufReader = new BufferedReader(new FileReader(readerFile)) ;
BufferedWriter bufWriter = new BufferedWriter(new FileWriter(writerFile)) ;
// 字符读入和写出
String line;
while ((line = bufReader.readLine()) != null){
bufWriter.write(line);
bufWriter.newLine();
}
bufWriter.flush();
// 关闭流
bufWriter.close();
bufReader.close();
}
}
字符流应用场景：文件作为数据的载体，例如Excel、CSV、TXT等。
4、编码解码
- 编码：字符转换为字节；
- 解码：字节转换为字符；
public class EnDeCode {
public static void main(String[] args) throws Exception {
String var = "IO流" ;
// 编码
byte[] enVar = var.getBytes(StandardCharsets.UTF_8) ;
for (byte encode:enVar){
System.out.println(encode);
}
// 解码
String deVar = new String(enVar,StandardCharsets.UTF_8) ;
System.out.println(deVar);
// 乱码
String messyVar = new String(enVar,StandardCharsets.ISO_8859_1) ;
System.out.println(messyVar);
}
}
乱码出现的根本原因，就是在编码与解码的两个阶段使用的编码类型不同。
5、序列化
- 序列化：对象转换为流的过程；
- 反序列化：流转换为对象的过程；
public class SerEntity implements Serializable {
private Integer id ;
private String name ;
}
public class Seriali01 {
public static void main(String[] args) throws Exception {
// 序列化对象
OutputStream outStream = new FileOutputStream("SerEntity.txt") ;
ObjectOutputStream objOutStream = new ObjectOutputStream(outStream);
objOutStream.writeObject(new SerEntity(1,"Cicada"));
objOutStream.close();
// 反序列化对象
InputStream inStream = new FileInputStream("SerEntity.txt");
ObjectInputStream objInStream = new ObjectInputStream(inStream) ;
SerEntity serEntity = (SerEntity) objInStream.readObject();
System.out.println(serEntity);
inStream.close();
}
}
注意：引用类型的成员对象也必须是可被序列化的，否则会抛出NotSerializableException异常。
五、NIO模式
1、基础概念
NIO即（NonBlockingIO），面向数据块的处理机制，同步非阻塞模型，服务端的单个线程可以处理多个客户端请求，对IO流的处理速度有极高的提升，三大核心组件：
- Buffer(缓冲区)：底层维护数组存储数据；
- Channel(通道)：支持读写双向操作；
- Selector(选择器)：提供Channel多注册和轮询能力；
API使用案例
public class IoNew01 {
public static void main(String[] args) throws Exception {
// 源文件 目标文件
File source = new File(IoParam.BASE_PATH+"fileio-02.png") ;
File target = new File(IoParam.BASE_PATH+"channel-"+source.getName()) ;
// 输入字节流通道
FileInputStream inStream = new FileInputStream(source);
FileChannel inChannel = inStream.getChannel();
// 输出字节流通道
FileOutputStream outStream = new FileOutputStream(target);
FileChannel outChannel = outStream.getChannel();
// 直接通道复制
// outChannel.transferFrom(inChannel, 0, inChannel.size());
// 缓冲区读写机制
ByteBuffer buffer = ByteBuffer.allocateDirect(1024);
while (true) {
// 读取通道中数据到缓冲区
int in = inChannel.read(buffer);
if (in == -1) {
break;
}
// 读写切换
buffer.flip();
// 写出缓冲区数据
outChannel.write(buffer);
// 清空缓冲区
buffer.clear();
}
outChannel.close();
inChannel.close();
}
}
上述案例只是NIO最基础的文件复制能力，在网络通信中，NIO模式的发挥空间十分宽广。
2、网络通信
服务端的单线程可以处理多个客户端请求，通过轮询多路复用器查看是否有IO请求，这样一来，服务端的并发能力得到极大的提升，并且显著降低了资源的消耗。
API案例：服务端模拟
public class SecServer {
public static void main(String[] args) {
try {
//启动服务开启监听
ServerSocketChannel socketChannel = ServerSocketChannel.open();
socketChannel.socket().bind(new InetSocketAddress("127.0.0.1", 8089));
// 设置非阻塞，接受客户端
socketChannel.configureBlocking(false);
// 打开多路复用器
Selector selector = Selector.open();
// 服务端Socket注册到多路复用器，指定兴趣事件
socketChannel.register(selector, SelectionKey.OP_ACCEPT);
// 多路复用器轮询
ByteBuffer buffer = ByteBuffer.allocateDirect(1024);
while (selector.select() > 0){
Set<SelectionKey> selectionKeys = selector.selectedKeys();
Iterator<SelectionKey> selectionKeyIter = selectionKeys.iterator();
while (selectionKeyIter.hasNext()){
SelectionKey selectionKey = selectionKeyIter.next() ;
selectionKeyIter.remove();
if(selectionKey.isAcceptable()) {
// 接受新的连接
SocketChannel client = socketChannel.accept();
// 设置读非阻塞
client.configureBlocking(false);
// 注册到多路复用器
client.register(selector, SelectionKey.OP_READ);
} else if (selectionKey.isReadable()) {
// 通道可读
SocketChannel client = (SocketChannel) selectionKey.channel();
int len = client.read(buffer);
if (len > 0){
buffer.flip();
byte[] readArr = new byte[buffer.limit()];
buffer.get(readArr);
System.out.println(client.socket().getPort() + "端口数据:" + new String(readArr));
buffer.clear();
}
}
}
}
} catch (Exception e) {
e.printStackTrace();
}
}
}
API案例：客户端模拟
public class SecClient {
public static void main(String[] args) {
try {
// 连接服务端
SocketChannel socketChannel = SocketChannel.open();
socketChannel.connect(new InetSocketAddress("127.0.0.1", 8089));
ByteBuffer writeBuffer = ByteBuffer.allocate(1024);
String conVar = "[hello-8089]";
writeBuffer.put(conVar.getBytes());
writeBuffer.flip();
// 每隔5S发送一次数据
while (true) {
Thread.sleep(5000);
writeBuffer.rewind();
socketChannel.write(writeBuffer);
writeBuffer.clear();
}
} catch (Exception e) {
e.printStackTrace();
}
}
}
SelectionKey绑定Selector和Chanel之间的关联，并且可以获取就绪状态下的Channel集合。
IO流同系列文章：
| IO流概述 | MinIO中间件 | FastDFS中间件 | Xml和CSV文件 | Excel和PDF文件 | 文件上传逻辑 |
六、源代码地址
GitHub·地址
https://github.com/cicadasmile/java-base-parent
GitEE·地址
https://gitee.com/cicadasmile/java-base-parent
出处：https://www.cnblogs.com/cicada-smile/p/15004803.html
