解决nginx+lua搭建文件上传下载服务问题

导语

项目需要做一个文件上传下载服务,利用 nginx+lua 做一个代理服务,上传入口统一,分发到不同的机器存储,下载链接和物理存储隔离,支持添加 agent 的方式扩容,这里主要讲一下思路和搭建配置过程,大神勿喷。

主要逻辑

解决nginx+lua搭建文件上传下载服务问题 nginx 第1张

上传

前端请求 nginx 服务, nginx 调用 upload 脚本,脚本通过查找配置,找到对应的逻辑存储路径和物理存储机器的 agent 的 ip 和端口,通过 tcp 发包到对应 agent ,部署在对应机器的 agent 接受数据,并写到本地文件。

下载

http下载请求 nginx , nginx 调用 download 脚本,脚本解析链接参数,根据参数找到对应的 agent 地址,请求返回文件二进制内容,脚本接受到 agent 返回的数据,返回给请求端。

配置Nginx+lua

接下来主要讲一下 nginx 安装配置(这里包括lua的二进制流处理 lpack, md5计算, mysql 操作, json 操作)

1、安装 nginx

下载

解压tar -xvf nginx-1.10.3.tar.gz

2、安装 luajit(轻量级 lua)

修改 makefile 里面的安装路径export PREFIX= /usr/local/luajit

然后安装make &make install

3、安装nginx_lua_module

下载

解压

4、 安装ngx_devel_kit (NDK提供函数和宏处理一些基本任务,减轻第三方模块开发的代码量)

下载

5、 安装编译,导入

  export LUAJIT_LIB=/usr/local/luajit/lib   export LUAJIT_INC=/usr/local/luajit/include/luajit-2.0   ./configure --prefix=/usr/local/nginx --with-http_stub_status_module --with-http_ssl_module --add-module=/home/oicq/jeffzhuang/ngx_devel_kit-0.3.0 --add-module=/home/oicq/jeffzhuang/lua-nginx-module-0.10.  make -j2   make install

启动/usr/local/nginx/sbin/nginx 重启命令` usr/local/nginx/sbin/nginx -s reload v

如果报错找不到luajit库ln -s /usr/local/lib/libluajit-5.1.so.2 /lib64/libluajit-5.1.so.2

测试nginx直接打开浏览器就可以了http:10.x.x.x:8080就可以看到欢迎界面了

6 、配置conf/nginx.conf运行 lua 脚本

增加lua库的查找路径lua_package_path,lua_package_cpath

解决nginx+lua搭建文件上传下载服务问题 nginx 第2张

7、增加mysql.lua下载 拷贝到lua_package_path 目录下就可以了

8、增加 csjon

修改 Makefile 里面的 PREFIX=/usr/local/luajit就是luajit 的安装路径,make后将生成的 cjson.so拷贝到

lua_package_cpath目录下

9、安装lpack 可以用现成的 lpack.lua 拷贝到 lua_package_path 或者用 编译生成 lpack.so拷贝到 lua_package_cpath 64位需要增加编译命令 -fPIC

10、upload.lua下载

11、md5下载

主要代码

1、前端上传页面代码

  <!DOCTYPE html>  <html>   <head>    <title>File upload example</title>   </head>   <body>    <form action="emer_upload/order_system_storage" method="post" enctype="multipart/form-data">    <input type="file" name="testFileName"/>    <input type="submit" name="upload" value="Upload" />    </form>   </body>  </html>

2、upload上传代码,该模块在解析文件上传请求的过程中,主要采用了简单的类似有限状态机的算法来实现的,在不同的状态由相应的 handler 进行处理。

  --文件下载服务写到 saveRootPath .."/" .. filename 下面   function DownLoad()   local chunk_size = 4096   local form,err=upload:new(chunk_size)   if not form then    ngx.log(ngx.ERR, "failed to new upload: ", err)    ngx.exit(ngx.HTTP_INTERNAL_SERVER_ERROR)   end    form:set_timeout(100000)   while true do   local typ,res,err=form:read()   if not typ then    ErrorMsg="failed to read :"..err    return 1   end   if typ =="header" then    local key=res[1]    local value=res[2]    if key =="Content-Disposition" then    local kvlist=string.split(value,';')     for _, kv in ipairs(kvlist) do     local seg = string.trim(kv)     if seg:find("filename") then     local kvfile = string.split(seg, "=")     filename = string.sub(kvfile[2], 2, -2)     if filename then      --获取文件后缀名字      fileExtension=getExtension(filename)      local linuxTime=tostring(os.time())      filePath=saveRootPath .."/" ..linuxTime..filename      fileToSave,errmsg = io.open(filePath, "w+")      --存储的文件路径         --ngx.say("failed to open file ", filePath)      if not fileToSave then      --ngx.say("failed to open file ", filePath .. errmsg)      ErrorMsg="打开文件失败"..filePath .. errmsg      return 1      end     else      ErrorMsg="请求参数找不到文件名字"      return 1     end     --跳出循环     break      end     end    end   elseif typ =="body" then    if fileToSave then    fileToSave:write(res)    fileMd5:update(res)    end   elseif typ =="part_end" then    if fileToSave then    local md5_sum=fileMd5:final()    --ngx.say("md5: ", str.to_hex(md5_sum))    fileMD532=str.to_hex(md5_sum)    fileToSave:close()    fileToSave = nil    end     elseif typ =="eof" then    break   else    ngx.log(ngx.INFO, "do other things")   end   end   return 0  end

3、tcp接收二进制数据

  -- 读取byte  function readInt8(tcp)   local next, val = string.unpack(tcp:receive(1), "b")   return tonumber(val);  end  -- 读取int16  function readInt16(tcp)   local next, val = string.unpack(tcp:receive(2), "h");   return tonumber(val);  end  -- 读取int32  function readInt32(tcp)   local next, val = string.unpack(tcp:receive(4), ">i");   return tonumber(val);  end  -- 读取字符串  function readString(tcp,len)   return tostring(tcp:receive(len));  end

4、tcp写二进制数据,这里和 agent 的通信协议是:开始标志位+包长度+json 字符串+结束标志位,所以对应 pack 用的参数就是 bIAb ,> 就是转化为大端

  jsonData["filename"]=fileMD532 .. "." .. fileExtension  jsonData["cmd"]="write"  jsonData["fileSize"]=tostring(filelen)  jsonData["path"]=System.."/"..StorageDate  local Jsonstr=cjson.encode(jsonData)  local uiLen=string.len(Jsonstr)  senddata=bpack(">b1IAb",startIndex,uiLen,Jsonstr,endIndex)  socket:send(senddata)

5、下载错误的时候,使用了 redirect 直接跳转到错误页面,方便输出错误信息,其实这里还可以做用户 token 校验

  local ErrorUrl="/downloadError.html"  ErrorMsg="url 参数解析有问题 "..index  return ngx.redirect(ErrorUrl.."?msg="..ErrorMsg,``` ngx.HTTP_MOVED_TEMPORARILY)

总结

以上所述是小编给大家介绍的解决nginx+lua搭建文件上传下载服务问题,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对脚本之家网站的支持!

参与评论