基于Http的文件断点续传实现
创始人
2024-05-31 22:44:21
0

1:断点续传的介绍
客户端软件断点续传指的是在下载或上传时,将下载或上传任务(一个文件或一个压缩包)人为的划分为几个部分,每一个部分采用一个线程进行上传或下载,如果碰到网络故障,可以从已经上传或下载的部分开始继续上传下载未完成的部分,而没有必要从头开始上传下载。从而达到让用户节省时间,提高速度的目的。

2:断点续传的环境要求
如果是基于http请求与响应实现的断点续传,需要服务器支持"响应一部分"数据的功能;(本案例采用的是tomcat7服务器,而tomcat7服务器是支持这个功能的)

在客户端需要使用RandomAccessFile类对文件任意位置的数据进行随机读写操作;

3:java的RandomAccessFile类介绍
java的API中对RandomAccessFile类的解释如下:

我对RandomAccessFile类的理解是:RandomAccessFile类是java提供的一个可以用于随机读写文件内容的类,我们可以对RandomAccessFile类关联的文件中的任意位置和任意大小的数据进行任意的读写操作;因此要想完成文件的断点续传操作,该类的使用是必不可少的!

4:断点续传的基本实现思路

5:断点续传的代码实现
基础环境搭建:

创建WEB的maven工程;

引入maven的tomcat7插件;

在webapp目录下存放多个文件,以备测试断点续传下载使用;

java客户端代码实现:

public class MyDownLoadClient {
public static String urlpath = “http://127.0.0.1:80/”;
private static int threadCount = 5;

public static void main(String[] args) throws Exception {// 让用户输入要下载的文件名称Scanner sc = new Scanner(System.in);System.out.println("请输入要下载的文件名称:");String file = sc.next();urlpath = urlpath.concat(file);// 获取文件总大小URL url = new URL(urlpath);HttpURLConnection conn = (HttpURLConnection) url.openConnection();conn.setRequestMethod("GET");conn.setConnectTimeout(2000);int responseCode = conn.getResponseCode();if (responseCode == 200) {int contentLength = conn.getContentLength();System.out.println("length" + contentLength);int part = contentLength / threadCount;// 读配置文件ConcurrentHashMap map = new ConcurrentHashMap<>();CountDownLatch count;InputStream in = MyDownLoadClient.class.getClassLoader().getResourceAsStream(file + ".properties");if (in != null) {// 说明该文件不是第一次下载,需要断点续传Properties p = new Properties();p.load(in);in.close();Set keys = p.stringPropertyNames();count = new CountDownLatch(keys.size());for (String key : keys) {String value = p.getProperty(key);String[] arr = value.split(",");long start = Long.parseLong(arr[0]);long end = Long.parseLong(arr[1]);map.put(key,value);new DownloadThread(start, end, key, map, count, file).start();}p.clear();p = null;} else {count = new CountDownLatch(threadCount);// 说明该文件是第一次下载,直接下载即可for (int i = 0; i < threadCount; i++) {long startIndex = i * part; //每个线程起始下载位置long endIndex = (i + 1) * part;//每个线程的结束位置if (i == threadCount - 1) {//最后一个线程的结束位置endIndex = contentLength;}map.put( String.valueOf(i),startIndex+","+endIndex);new DownloadThread(startIndex, endIndex, String.valueOf(i), map, count, file).start();}}// 等待任务完成,删除配置文件count.await();new File(MyDownLoadClient.class.getClassLoader().getResource("").getPath(),file + ".properties").delete();System.out.println("==========================下载任务完成==========================");} else {System.out.println("连接服务器失败...请检查服务器是否畅通及资源路径是否正确...");}
}

}
下载任务的线程代码实现:

class DownloadThread extends Thread {
private long startIndex;
private long endIndex;
private String threadId;
private ConcurrentHashMap map;
private CountDownLatch count;
//private long subTotal = 0;
private String fileName;

public DownloadThread(long startIndex, long endIndex, String threadId, ConcurrentHashMap map, CountDownLatch count, String fileName) {this.startIndex = startIndex;this.endIndex = endIndex;this.threadId = threadId;this.map = map;this.count = count;this.fileName = fileName;
}@Override
public void run() {try {URL url = new URL(MyDownLoadClient.urlpath);HttpURLConnection conn = (HttpURLConnection) url.openConnection();conn.setRequestMethod("GET");conn.setConnectTimeout(5000);//固定写法,表示向服务器请求部分资源conn.setRequestProperty("Range", "bytes=" + startIndex + "-" + endIndex);int responseCode = conn.getResponseCode();//状态码206表示请求部分资源成功if (responseCode == 206) {RandomAccessFile rafAccessFile = new RandomAccessFile(fileName, "rw");rafAccessFile.seek(startIndex);InputStream is = conn.getInputStream();int len = -1;byte[] buffer = new byte[1024];Random r = new Random();while ((len = is.read(buffer)) != -1) {FileOutputStream fout = new FileOutputStream(this.getClass().getClassLoader().getResource("").getPath()+""+fileName + ".properties");try {//模拟意外情况导致下载中断的代码/*if (r.nextInt(2) == 0) {int i = 1 / 0;}*/rafAccessFile.write(buffer, 0, len);startIndex += len;map.put(threadId, startIndex + "," + endIndex);} catch (Exception e) {e.printStackTrace();throw new RuntimeException();} finally {Set> entries = map.entrySet();for (Map.Entry entry : entries) {fout.write((entry.getKey() + "=" + entry.getValue() + "rn").getBytes());}fout.close();}}rafAccessFile.close();System.out.println("线程" + threadId + "下载完成");System.gc();}count.countDown();} catch (Exception e) {e.printStackTrace();System.gc();}
}

}
6:功能测试

  1. 在web工程中提前准备好要下载的文件;(任意类型,任意文件均可,本项目以三个api举例)

  2. 启动tomcat服务器;(已经设置虚拟目录为 “/” 端口号为 “80”)

  3. 启动java主程序类(MyDownLoadClient),输入要下载的文件名;

  4. 可以通过打开线程任务中模拟意外情况的代码,让下载出现意外,当程序出现意外后,配置文件不会删除,且会记录下所有线程已经完成的下载量,以便于下次执行下载任务的时候,可以在此基础上继续完成下载任务;

  5. 关闭模拟意外的代码,重新执行程序,直到文件顺利下载完成,程序会自动删除对应的配置文件;

7:功能实现总结
断点续传最核心的思想就是利用RandomAccessFile类将一个大文件配合多线程拆分成多个片段进行读写,最终将多个线程读写的结果再合并成1个大文件即可;1:断点续传的介绍
客户端软件断点续传指的是在下载或上传时,将下载或上传任务(一个文件或一个压缩包)人为的划分为几个部分,每一个部分采用一个线程进行上传或下载,如果碰到网络故障,可以从已经上传或下载的部分开始继续上传下载未完成的部分,而没有必要从头开始上传下载。从而达到让用户节省时间,提高速度的目的。

2:断点续传的环境要求
如果是基于http请求与响应实现的断点续传,需要服务器支持"响应一部分"数据的功能;(本案例采用的是tomcat7服务器,而tomcat7服务器是支持这个功能的)

在客户端需要使用RandomAccessFile类对文件任意位置的数据进行随机读写操作;

3:java的RandomAccessFile类介绍
java的API中对RandomAccessFile类的解释如下:

我对RandomAccessFile类的理解是:RandomAccessFile类是java提供的一个可以用于随机读写文件内容的类,我们可以对RandomAccessFile类关联的文件中的任意位置和任意大小的数据进行任意的读写操作;因此要想完成文件的断点续传操作,该类的使用是必不可少的!

4:断点续传的基本实现思路

5:断点续传的代码实现
基础环境搭建:

创建WEB的maven工程;

引入maven的tomcat7插件;

在webapp目录下存放多个文件,以备测试断点续传下载使用;

java客户端代码实现:

public class MyDownLoadClient {
public static String urlpath = “http://127.0.0.1:80/”;
private static int threadCount = 5;

public static void main(String[] args) throws Exception {// 让用户输入要下载的文件名称Scanner sc = new Scanner(System.in);System.out.println("请输入要下载的文件名称:");String file = sc.next();urlpath = urlpath.concat(file);// 获取文件总大小URL url = new URL(urlpath);HttpURLConnection conn = (HttpURLConnection) url.openConnection();conn.setRequestMethod("GET");conn.setConnectTimeout(2000);int responseCode = conn.getResponseCode();if (responseCode == 200) {int contentLength = conn.getContentLength();System.out.println("length" + contentLength);int part = contentLength / threadCount;// 读配置文件ConcurrentHashMap map = new ConcurrentHashMap<>();CountDownLatch count;InputStream in = MyDownLoadClient.class.getClassLoader().getResourceAsStream(file + ".properties");if (in != null) {// 说明该文件不是第一次下载,需要断点续传Properties p = new Properties();p.load(in);in.close();Set keys = p.stringPropertyNames();count = new CountDownLatch(keys.size());for (String key : keys) {String value = p.getProperty(key);String[] arr = value.split(",");long start = Long.parseLong(arr[0]);long end = Long.parseLong(arr[1]);map.put(key,value);new DownloadThread(start, end, key, map, count, file).start();}p.clear();p = null;} else {count = new CountDownLatch(threadCount);// 说明该文件是第一次下载,直接下载即可for (int i = 0; i < threadCount; i++) {long startIndex = i * part; //每个线程起始下载位置long endIndex = (i + 1) * part;//每个线程的结束位置if (i == threadCount - 1) {//最后一个线程的结束位置endIndex = contentLength;}map.put( String.valueOf(i),startIndex+","+endIndex);new DownloadThread(startIndex, endIndex, String.valueOf(i), map, count, file).start();}}// 等待任务完成,删除配置文件count.await();new File(MyDownLoadClient.class.getClassLoader().getResource("").getPath(),file + ".properties").delete();System.out.println("==========================下载任务完成==========================");} else {System.out.println("连接服务器失败...请检查服务器是否畅通及资源路径是否正确...");}
}

}
下载任务的线程代码实现:

class DownloadThread extends Thread {
private long startIndex;
private long endIndex;
private String threadId;
private ConcurrentHashMap map;
private CountDownLatch count;
//private long subTotal = 0;
private String fileName;

public DownloadThread(long startIndex, long endIndex, String threadId, ConcurrentHashMap map, CountDownLatch count, String fileName) {this.startIndex = startIndex;this.endIndex = endIndex;this.threadId = threadId;this.map = map;this.count = count;this.fileName = fileName;
}@Override
public void run() {try {URL url = new URL(MyDownLoadClient.urlpath);HttpURLConnection conn = (HttpURLConnection) url.openConnection();conn.setRequestMethod("GET");conn.setConnectTimeout(5000);//固定写法,表示向服务器请求部分资源conn.setRequestProperty("Range", "bytes=" + startIndex + "-" + endIndex);int responseCode = conn.getResponseCode();//状态码206表示请求部分资源成功if (responseCode == 206) {RandomAccessFile rafAccessFile = new RandomAccessFile(fileName, "rw");rafAccessFile.seek(startIndex);InputStream is = conn.getInputStream();int len = -1;byte[] buffer = new byte[1024];Random r = new Random();while ((len = is.read(buffer)) != -1) {FileOutputStream fout = new FileOutputStream(this.getClass().getClassLoader().getResource("").getPath()+""+fileName + ".properties");try {//模拟意外情况导致下载中断的代码/*if (r.nextInt(2) == 0) {int i = 1 / 0;}*/rafAccessFile.write(buffer, 0, len);startIndex += len;map.put(threadId, startIndex + "," + endIndex);} catch (Exception e) {e.printStackTrace();throw new RuntimeException();} finally {Set> entries = map.entrySet();for (Map.Entry entry : entries) {fout.write((entry.getKey() + "=" + entry.getValue() + "rn").getBytes());}fout.close();}}rafAccessFile.close();System.out.println("线程" + threadId + "下载完成");System.gc();}count.countDown();} catch (Exception e) {e.printStackTrace();System.gc();}
}

}
6:功能测试

  1. 在web工程中提前准备好要下载的文件;(任意类型,任意文件均可,本项目以三个api举例)

  2. 启动tomcat服务器;(已经设置虚拟目录为 “/” 端口号为 “80”)

  3. 启动java主程序类(MyDownLoadClient),输入要下载的文件名;

  4. 可以通过打开线程任务中模拟意外情况的代码,让下载出现意外,当程序出现意外后,配置文件不会删除,且会记录下所有线程已经完成的下载量,以便于下次执行下载任务的时候,可以在此基础上继续完成下载任务;

  5. 关闭模拟意外的代码,重新执行程序,直到文件顺利下载完成,程序会自动删除对应的配置文件;

7:功能实现总结
断点续传最核心的思想就是利用RandomAccessFile类将一个大文件配合多线程拆分成多个片段进行读写,最终将多个线程读写的结果再合并成1个大文件即可;

相关内容

热门资讯

我来教大家“掼蛋大师辅助器ap... 亲,掼蛋大师这款游戏可以开挂的,确实是有挂的,。但是开挂要下载第三方辅助软件,掼蛋大师的开挂软件,名...
我来教大家“开心联盟辅助器ap... 您好,开心联盟这款游戏可以开挂的,确实是有挂的,需要了解加微{7198902}很多玩家在这款游戏中打...
我来教大家“友愉棋牌辅助器ap... 您好,友愉棋牌这款游戏可以开挂的,确实是有挂的,需要了解加微{7198902}很多玩家在这款游戏中打...
我来教大家“全盛棋牌辅助器ap... 亲,全盛棋牌这款游戏可以开挂的,确实是有挂的,。但是开挂要下载第三方辅助软件,全盛棋牌的开挂软件,名...
我来教大家“情怀三三麻将辅助器... 我来教大家“情怀三三麻将辅助器app官方下载最新版本更新”详细分享开挂一、情怀三三麻将AI软件牌型概...
我来教大家“无锡好运麻将辅助器... 亲,无锡好运麻将这款游戏可以开挂的,确实是有挂的,。但是开挂要下载第三方辅助软件,无锡好运麻将的开挂...
我来教大家“推筒子辅助器app... 您好,推筒子这款游戏可以开挂的,确实是有挂的,需要了解加微{7198902}很多玩家在这款游戏中打牌...
我来教大家“比奇堡辅助器app... 我来教大家“比奇堡辅助器app官方下载最新版本更新”详细分享开挂1、让任何用户在无需AI插件第三方神...
我来教大家“新兴茶苑辅助器ap... 我来教大家“新兴茶苑辅助器app官方下载最新版本更新”详细分享开挂1、让任何用户在无需AI插件第三方...
我来教大家“欢乐互动辅助器ap... 我来教大家“欢乐互动辅助器app官方下载最新版本更新”详细分享开挂1、让任何用户在无需AI插件第三方...
我来教大家“东方互娱辅助器ap... 亲,东方互娱这款游戏可以开挂的,确实是有挂的,。但是开挂要下载第三方辅助软件,东方互娱的开挂软件,名...
我来教大家“天天乐清麻将辅助器... 我来教大家“天天乐清麻将辅助器app官方下载最新版本更新”详细分享开挂一、天天乐清麻将AI软件牌型概...
我来教大家“唐三彩辅助器app... 我来教大家“唐三彩辅助器app官方下载最新版本更新”详细分享开挂一、唐三彩AI软件牌型概率发牌机制”...
我来教大家“Y0辅助器app官... 我来教大家“Y0辅助器app官方下载最新版本更新”详细分享开挂一、Y0AI软件牌型概率发牌机制”必胜...
我来教大家“天天互娱辅助器ap... 亲,天天互娱这款游戏可以开挂的,确实是有挂的,。但是开挂要下载第三方辅助软件,天天互娱的开挂软件,名...
我来教大家“悟空竞技麻将辅助器... 亲,悟空竞技麻将这款游戏可以开挂的,确实是有挂的,。但是开挂要下载第三方辅助软件,悟空竞技麻将的开挂...
我来教大家“情怀开化麻将辅助器... 我来教大家“情怀开化麻将辅助器app官方下载最新版本更新”详细分享开挂一、情怀开化麻将AI软件牌型概...
我来教大家“龙炎互娱辅助器ap... 我来教大家“龙炎互娱辅助器app官方下载最新版本更新”详细分享开挂一、龙炎互娱AI软件牌型概率发牌机...
我来教大家“闲逸碰胡辅助器ap... 亲,闲逸碰胡这款游戏可以开挂的,确实是有挂的,。但是开挂要下载第三方辅助软件,闲逸碰胡的开挂软件,名...
我来教大家“友聚麻将辅助器ap... 我来教大家“友聚麻将辅助器app官方下载最新版本更新”详细分享开挂一、友聚麻将AI软件牌型概率发牌机...