golang socket断点续传大文件的实现方法

 更新时间:2019-09-09 09:01:28   作者:佚名   我要评论(0)

在日常编程中,我们肯定会遇到用socket传送文件内容,如果是大文件的,总不能传送到一半因某原因断掉了,又从新传送文件内容吧。对,我们需要续传,也就是接着

在日常编程中,我们肯定会遇到用socket传送文件内容,如果是大文件的,总不能传送到一半因某原因断掉了,又从新传送文件内容吧。对,我们需要续传,也就是接着上次传送的位置继续发送文件内容。

果博东方续传的话,其实并不难,我理解的思路大概如下:

果博东方客户端发送消息询问服务端,你上次接收到的文件内容位置

果博东方服务端告诉客户端上次接收到的文件内容位置

果博东方客户端就从上次断点的位置继续发送文件内容

客户端发送文件内容完毕后通知服务端,然后断开连接

果博东方下面我们看看代码的实现

服务端

// file name: server.gopackage mainimport ( "os" "io" "net" "log" "strconv" // "time")// 把接收到的内容append到文件func writeFile(content []byte) { if len(content) != 0 {  fp, err := os.OpenFile("test_1.txt", os.O_CREATE|os.O_WRONLY|os.O_APPEND, 0755)  defer fp.Close()  if err != nil {   log.Fatalf("open file faild: %s\n", err)  }  _, err = fp.Write(content)  if err != nil {   log.Fatalf("append content to file faild: %s\n", err)  }  log.Printf("append content: 【%s】 success\n", string(content)) }}// 获取已接收内容的大小// (断点续传需要把已接收内容大下通知客户端从哪里开始发送文件内容)func getFileStat() int64 { fileinfo, err := os.Stat("test_1.txt") if err != nil {  // 如果首次没有创建test_1.txt文件,则直接返回0  // 告诉客户端从头开始发送文件内容  if os.IsNotExist(err) {   log.Printf("file size: %d\n", 0)   return int64(0)  }  log.Fatalf("get file stat faild: %s\n", err) } log.Printf("file size: %d\n", fileinfo.Size()) return fileinfo.Size() }func serverConn(conn net.Conn) { defer conn.Close() for {  var buf = make([]byte, 10)  n, err := conn.Read(buf)  if err != nil {   if err == io.EOF {    log.Println("server io EOF\n")    return   }   log.Fatalf("server read faild: %s\n", err)  }  log.Printf("recevice %d bytes, content is 【%s】\n", n, string(buf[:n]))  // 判断客户端发送过来的消息  // 如果是'start-->‘则表示需要告诉客户端从哪里开始读取文件数据发送  switch string(buf[:n]) {  case "start-->":   off := getFileStat()   // int conver string   stringoff := strconv.FormatInt(off, 10)   _, err = conn.Write([]byte(stringoff))   if err != nil {    log.Fatalf("server write faild: %s\n", err)   }   continue  case "<--end":   // 如果接收到客户端通知所有文件内容发送完毕消息则退出   log.Fatalf("receive over\n")   return  // default:  //  time.Sleep(time.Second * 1)  }  // 把客户端发送的内容保存到文件  writeFile(buf[:n]) }}func main() { // 建立监听 l, err := net.Listen("tcp", ":8888") if err != nil {  log.Fatalf("error listen: %s\n", err) } defer l.Close() log.Println("waiting accept.") // 允许客户端连接,在没有客户端连接时,会一直阻塞 conn, err := l.Accept() if err != nil {  log.Fatalf("accept faild: %s\n", err) } serverConn(conn)}

客户端

// file name: client.gopackage mainimport ( "os" "io" "net" "log" "time" "strconv")// 获取服务端发送的消息func clientRead(conn net.Conn) int { buf := make([]byte, 5) n, err := conn.Read(buf) if err != nil {  log.Fatalf("receive server info faild: %s\n", err) } // string conver int off, err := strconv.Atoi(string(buf[:n])) if err != nil {  log.Fatalf("string conver int faild: %s\n", err) } return off}// 发送消息到服务端func clientWrite(conn net.Conn, data []byte) { _, err := conn.Write(data) if err != nil {  log.Fatalf("send 【%s】 content faild: %s\n", string(data), err) } log.Printf("send 【%s】 content success\n", string(data))}// client connfunc clientConn(conn net.Conn) { defer conn.Close() // 发送"start-->"消息通知服务端,我要开始发送文件内容了 // 你赶紧告诉我你那边已经接收了多少内容,我从你已经接收的内容处开始继续发送 clientWrite(conn, []byte("start-->")) off := clientRead(conn) // send file content fp, err := os.OpenFile("test.txt", os.O_RDONLY, 0755) if err != nil {  log.Fatalf("open file faild: %s\n", err) } defer fp.Close() // set file seek // 设置从哪里开始读取文件内容 _, err = fp.Seek(int64(off), 0) if err != nil {  log.Fatalf("set file seek faild: %s\n", err) } log.Printf("read file at seek: %d\n", off) for {  // 每次发送10个字节大小的内容  data := make([]byte, 10)  n, err := fp.Read(data)  if err != nil {   if err == io.EOF {    // 如果已经读取完文件内容    // 就发送'<--end'消息通知服务端,文件内容发送完了    time.Sleep(time.Second * 1)    clientWrite(conn, []byte("<--end"))    log.Println("send all content, now quit")    break   }   log.Fatalf("read file err: %s\n", err)  }  // 发送文件内容到服务端  clientWrite(conn, data[:n]) }}func main() { // connect timeout 10s conn, err := net.DialTimeout("tcp", ":8888", time.Second * 10) if err != nil {  log.Fatalf("client dial faild: %s\n", err) } clientConn(conn) }

客户端读取文件test.txt内容发送到服务端,服务端把接收到的文件内容保存在test_1.txt文件中。我们模拟断点续传的方式是:

果博东方第一次先发送test.txt文件内容到服务端

修改test.txt文件,加一些内容

再次运行server socket以及client socket,观察客户端是不是只发送新增的文件内容到服务端

# 假设我的test.txt文件有以下内容$ cat test.txthello golang.# 先运行server socket再运行client socket(分别在两个终端窗口运行)$ go run server.go$ go run client.go# 服务端会输出以下内容2018/04/05 23:37:13 waiting accept.2018/04/05 23:37:15 recevice 8 bytes, content is 【start-->】2018/04/05 23:37:15 file size: 02018/04/05 23:37:15 recevice 10 bytes, content is 【hello gola】2018/04/05 23:37:15 append content: 【hello gola】 success2018/04/05 23:37:15 recevice 2 bytes, content is 【n.】2018/04/05 23:37:15 append content: 【n.】 success2018/04/05 23:37:16 recevice 6 bytes, content is 【<--end】2018/04/05 23:37:16 receive overexit status 1# 客户端会输出如下内容2018/04/05 23:37:15 send 【start-->】 content success2018/04/05 23:37:15 read file at seek: 02018/04/05 23:37:15 send 【hello gola】 content success2018/04/05 23:37:15 send 【n.】 content success2018/04/05 23:37:16 send 【<--end】 content success2018/04/05 23:37:16 send all content, now quit# 这时候我们看看test_1.txt内容跟test.txt完全一致$ cat test_1.txthello golan.# ------- 模拟断点续传 ----------# 现在我们往test.txt追加内容: hello python.$ cat test.txthello golang.hello python.# 我们再一次运行server socket 和 client socket(分别在两个终端窗口运行)$ go run server.go$ go run client.go# 服务端会输出以下内容2018/04/05 23:44:31 waiting accept.2018/04/05 23:44:34 recevice 8 bytes, content is 【start-->】2018/04/05 23:44:34 file size: 122018/04/05 23:44:34 recevice 10 bytes, content is 【hello pyt】2018/04/05 23:44:34 append content: 【hello pyt】 success2018/04/05 23:44:34 recevice 4 bytes, content is 【hon.】2018/04/05 23:44:34 append content: 【hon.】 success2018/04/05 23:44:35 recevice 6 bytes, content is 【<--end】2018/04/05 23:44:35 receive overexit status 1# 服务端在接收到客户端发送的 start--> 信息后会获取上次接收到文件内容位置,并通知客户端(这里file size 是12)# 客户端会输出以下内容2018/04/05 23:44:34 send 【start-->】 content success2018/04/05 23:44:34 read file at seek: 122018/04/05 23:44:34 send 【hello pyt】 content success2018/04/05 23:44:34 send 【hon.】 content success2018/04/05 23:44:35 send 【<--end】 content success2018/04/05 23:44:35 send all content, now quit# 我们客户端获取到了服务端返回的文件位置,通过 Seek 来指定从哪里开始读取文件# 通过日志可以看到我们客户端只发送了后面追加的内容: hello python. 到服务端# 我们看看此时test_1.txt文件的内容是否跟test.txt一致$ cat test_1.txthello golang.hello python.

以上这篇golang socket断点续传大文件的实现方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持脚本之家。

您可能感兴趣的文章:

  • golang网络socket粘包问题的解决方法
  • Go语言实现socket实例
  • Go get命令使用socket代理的方法

果博东方相关的文章

  • gorm golang 并发连接数据库报错的解决方法

    gorm golang 并发连接数据库报错的解决方法

    底层报错 error:cannot assign requested address原因 并发场景下 client 频繁请求端口建立tcp连接导致端口被耗尽解决方案 root执行即可sysctl -w net.
    2019-09-09
  • golang socket断点续传大文件的实现方法

    golang socket断点续传大文件的实现方法

    在日常编程中,我们肯定会遇到用socket传送文件内容,如果是大文件的,总不能传送到一半因某原因断掉了,又从新传送文件内容吧。对,我们需要续传,也就是接着
    2019-09-09
  • golang http连接复用方法

    golang http连接复用方法

    server端golang httpserver 默认开启keepalive连接复用选项handler函数需要完整读body数据,构造返回消息,否则当数据不能一次发送完成时,连接复用就会失效
    2019-09-09
  • 详解golang 模板(template)的常用基本语法

    详解golang 模板(template)的常用基本语法

    模板在写动态页面的网站的时候,我们常常将不变的部分提出成为模板,可变部分通过后端程序的渲染来生成动态网页,golang提供了html/template包来支持模板
    2019-09-09
  • golang并发下载多个文件的方法

    golang并发下载多个文件的方法

    背景说明假设有一个分布式文件系统,现需要从该系统中并发下载一部分文件到本地机器。已知该文件系统的部分节点ip, 以及需要下载的文件fileID列表,并能通过
    2019-09-09
  • golang解析html网页的方法

    golang解析html网页的方法

    1.先看一下整个结构:主要是web和html目录,分别存放go代码和html相关的资源文件。2.html代码比较简单,代码如下:<html> <head> <title>Go web</tit
    2019-09-09
  • golang并发ping主机的方法

    golang并发ping主机的方法

    利用了golang对高并发的良好支持,同目录下将ip每行一个写入pinglist.txt文件即可其实这个功能用linux一条命令就能搞定: cat pinglist.txt | xargs -P 10
    2019-09-09
  • php常用经典函数集锦【数组、字符串、栈、队列、排序等】

    php常用经典函数集锦【数组、字符串、栈、队列、排序等】

    本文实例总结了php常用经典函数。分享给大家供大家参考,具体如下:数组函数数组操作range(start,end)创建一个数组,值从start开始,一直到end结束
    2019-09-09
  • Go 实现百万WebSocket连接的方法示例

    Go 实现百万WebSocket连接的方法示例

    大家好!我是 Sergey Kamardin,是 Mail.Ru 的一名工程师。本文主要介绍如何使用 Go 开发高负载的 WebSocket 服务。如果你熟悉 WebSockets,但对 Go 了解不
    2019-09-09
  • golang抓取网页并分析页面包含的链接方法

    golang抓取网页并分析页面包含的链接方法

    1. 下载非标准的包,"golang.org/x/net/html"2. 先安装git,使用git命令下载git clone http://github.com/golang/net3. 将net包,放到GOROOT路径下比如
    2019-09-09

最新评论